slashCAM
Administrator
Administrator
Beiträge: 11279

Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von slashCAM »


Wer sich noch die Mühe macht, in Oldschool-Manier eine Workstation selber zusammenzuschrauben, dürfte momentan bei der GPU-Wahl kaum ins Grübeln kommen. Doch was könnte in der Zukunft wichtig werden, wenn man auch für KI-Aufgaben gut gerüstet sein will?



Hier geht es zu Artikel auf den slashCAM Magazin-Seiten:
Ratgeber: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?



Totao
Beiträge: 255

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Totao »

Kontext: Ich habe eine Maschine mit 2x RTX 3090 & NVLink.
AMD Karten sind noch überhaupt keine Option bei vielen AI-Themen, da dort sehr viel CUDA zum Einsatz kommt.
Eine Änderung sehe ich da die nächsten 1-2 Jahre erstmal nicht.
Dann kommt vielleicht eher noch ein Newcomer wie Tenstorrent auf den Markt für AI Beschleuniger und bietet dann überzeugende Preis-/Leitung und pyTorch Support.



macaw
Beiträge: 1717

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von macaw »

"Wer sich noch die Mühe macht, in Oldschool-Manier eine Workstation selber zusammenzuschrauben, dürfte bei der GPU-Wahl aktuell kaum ins Grübeln kommen." Warum "noch"? Ausser bei Mac Konsumenten kenne ich nur Leute, die ihren Computer selbst zusammenstellen.



marty_mc
Beiträge: 243

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von marty_mc »

Ein Zuschauer meiner Topaz Video AI Videos hat grad geschrieben, dass er die RTX 4000 hat und diese besser sein soll als z.B. die RTX 4070.
Begründung waren die Tensor Cores.



MK
Beiträge: 4426

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von MK »

Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)... die Quadro RTX 4000 hat Tensor Cores der zweiten Generation, und die A4000 der dritten, was sich von der Geschwindigkeit nicht vergleichen lässt (die 3er sind mit weniger Cores schneller). Generell ist die Optimierung bei Topaz wechselhaft und eher nicht völlig ausgereift, der Unterschied der A4000 zur 4070 ist jedenfalls nicht gigantisch, die RTX 4000 wird aber auf alle Fälle deutlich langsamer sein und hat mit 8 Gigabyte auch recht wenig Speicher für heutige Verhältnisse.

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

RTX A4000: 6144 CUDA cores, 192 Tensor Cores, 48 RT cores und 16 GB Speicher

RTX 4070: 5888 CUDA cores, 184 Tensor Cores, 46 RT cores und 12 GB Speicher

RTX 4090: 16384 CUDA cores, 512 Tensor Cores, 128 RT cores und 24 GB Speicher



marty_mc
Beiträge: 243

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von marty_mc »

MK hat geschrieben: Di 02 Mai, 2023 10:15 Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)...

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB



medienonkel
Beiträge: 833

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von medienonkel »

Die Frage ist eher, womit du upgraden möchtest. VEAI nuckelt auch gerne viel und oft am Prozessor. Das hängt zum Teil stark von den genutzten codecs, aber auch den Modellen und der Auflösung ab.

Für deinen Prozessor geht eine 3060ti noch klar. Alles darüber wird durch den Prozessor limitiert. Die 3060 ohne ti ist wohl der beste Spielpartner für deinen Prozessor, braucht aber resizable bar. Da bin ich jetzt zu faul, um das rauszufinden, ob es das bei deinem Unterbau schon gab.

Grobe Aussagen mit Bezugnahme auf
https://pc-builds.com/de/bottleneck-calculator/



Bluboy
Beiträge: 4916

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Bluboy »

marty_mc hat geschrieben: Di 02 Mai, 2023 11:19
MK hat geschrieben: Di 02 Mai, 2023 10:15 Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)...

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB
Recht weit kommt man mit dem I7-6700 nicht mehr.

https://www.cpubenchmark.net/cpu.php?cp ... Hz&id=2598



Frank Glencairn
Beiträge: 25017

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Frank Glencairn »

NVIDIA AI GPU Demand Blows Up, Chip Prices Increase By 40% & Stock Shortages Expected Till December
NVIDIA's GPU business boom has been the result of countless years of *** on AI as the next big thing. With ChatGPT and other generative AI models, it looks like NVIDIA's bets have paid off & the company is getting orders from all corners of the tech industry to get hands on its brand-new GPUs including the A100 and the H100.

Multiple reports are now suggesting that NVIDIA might not be able to keep up with the massive AI chip demand despite its best efforts. A recent report by DigiTimes suggests that as the green team sees a ramp-up in orders for its latest GPUs, the company has started to increase production of its chips at TSMC.
https://wccftech.com/nvidia-ai-gpu-dema ... -december/
Sapere aude - de omnibus dubitandum



dienstag_01
Beiträge: 13877

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von dienstag_01 »

Bluboy hat geschrieben: Fr 05 Mai, 2023 21:21
marty_mc hat geschrieben: Di 02 Mai, 2023 11:19

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB
Recht weit kommt man mit dem I7-6700 nicht mehr.

https://www.cpubenchmark.net/cpu.php?cp ... Hz&id=2598
Wieso nicht, so ein Quatsch.
Ich habe meinen gerade erst ausgetauscht, aber nur, weil es mir um h265 geht (über die interne GPU). Mit KI hat der Prozessor ja sowieso nur wenig zu tun.

Man hat mit neueren Prozessoren und damit neueren Boards mehr Bandbreite beim Datendurchsatz zur GPU. Das scheint aber genauso ein theoretischer Mehrwert zu sein, wie die Unterschiede in Benchmarks. Eine Anwendung, die davon profitiert, kenne ich nicht.



 Aktuelle Beiträge [alle Foren]
 
» Suno Scenes - KI generiert Songs passend zu Bildern und Videos
von slashCAM - Do 19:18
» Paramount: Kahlschlag bei deutschen Produktionen
von iasi - Do 16:21
» DJI Osmo Pocket 1
von Jörg - Do 15:13
» Blackmagic DaVinci Resolve 19 neuer Film Look Creator erklärt
von freezer - Do 10:16
» Weiteres, drittes Update zur finalen Version von Blackmagic DaVinci Resolve 19.0.3
von slashCAM - Do 9:09
» Fluidhead: Camgear (V25P) vs. Sachtler
von freezer - Mi 15:44
» Diese 10 Schauspieler*innen hatten bisher die meisten Filmrollen
von Darth Schneider - Mi 12:15
» Laowa Proteus 2X Super35-Anamorphoten angekündigt - 35mm, 45mm, 60mm and 85mm T2
von pillepalle - Mi 7:46
» Canon stellt am 30.Oktober drei neue RF-L Hybrid-Objektive vor
von cantsin - Di 22:11
» Apple hat eigene 8K 3D-Kamera für Vision Pro entwickelt
von Cinefreund - Di 19:04
» DJI Air 3S mit 1 Zoll Sensor, dualer Kamera, besserer Sensorik - inkl. Mavic 3 Pro Cine Vergleich
von slashCAM - Di 14:59
» DJI Air 3S kommt mit besserer Kamera und Hinderniserkennung per LiDAR
von slashCAM - Di 14:57
» DJI Osmo mobile 6 und Samsung S23 Ultra
von nicecam - Di 12:52
» Neuer Shark Slider Nano II unterstützt DJI-Gimbals für erweiterte Kamerabewegungen
von Bildlauf - Mo 22:39
» Generatives Erweitern jetzt in Premiere Pro (Beta) verfügbar
von slashCAM - Mo 20:27
» Pyramid Flow - Neue Open Source Video-KI generiert mit 1280 x 768 und 24fps
von Christian Schmitt - Mo 15:15
» O2 - iPhone-Kurzfilm mit Anamorphot und DOF-Adapter - und KI als Lückenfüller
von Jominator - Mo 14:52
» Firmware-Updates für zahlreiche LUMIX Kameras (S9, S5II, S5IIX, G9II)
von Darth Schneider - Mo 5:50
» Wildes Gerücht: Fuji bringt Kamera mit 1"-Sensor
von Jan - So 20:00
» ATOMOS CLIP-KIT | Steckernetzteil
von Ronic - So 13:32
» VERSCHENKE: Datavideo Chromakey Hintergrund (Retroreflektor) inkl. Grün/Blau Lichter
von krodelin - Sa 16:36
» VERSCHENKE: 4x Rüssel Lavalier Microphon
von krodelin - Sa 16:28
» Verbindungsprobleme
von 7River - Sa 14:28
» Atomos Shinobi II: Touch to Focus, ARRI False Color, Nikon, Fujifilm Camera Control verfügbar
von rush - Sa 12:20
» Panasonic LUMIX S5D - S5 in neuem Gewand mit OLED Sucher und LiDAR-Option
von HerrWeissensteiner - Sa 10:34
» Aurora Borealis mit Osmo Pocket 3?
von nicecam - Fr 17:43
» Blackmagic RAW Unterstützung für Fujifilm X-M5 und Panasonic Lumix S5D
von MrMeeseeks - Fr 17:29
» Sony A7sIII inkl. 28 135 Atomos V+ Sachtler Kopf, Diebstahl Messe München
von aidualk - Fr 13:08
» Kaum mehr, aber schnellerer Speicher bei Nvidias RTX 50x0 Consumer GPUs
von macaw - Fr 9:21
» Neues professionelles Compositing-Programm - Left Angle Autograph
von macaw - Do 16:19
» Infos zum Thema Digitale Dividende, Funkfrequenzen, Mittenlücke u.a.von Se
von ruessel - Do 9:38
» Resolve DCTLs
von Frank Glencairn - Do 9:04
» Focal stellt geschlossenen Studio-Referenz-Kopfhörer Lensys Professional vor
von slashCAM - Do 8:57
» Neue DI Air 3S kommt mit verbesserter Kamera und Hinderniserkennung
von Kranich - Mi 20:29
» NAB/AES NY 2024 - Gotham Sound
von Frank Glencairn - Mi 20:15