slashCAM
Administrator
Administrator
Beiträge: 11279

Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von slashCAM »


Wer sich noch die Mühe macht, in Oldschool-Manier eine Workstation selber zusammenzuschrauben, dürfte momentan bei der GPU-Wahl kaum ins Grübeln kommen. Doch was könnte in der Zukunft wichtig werden, wenn man auch für KI-Aufgaben gut gerüstet sein will?



Hier geht es zu Artikel auf den slashCAM Magazin-Seiten:
Ratgeber: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?



Totao
Beiträge: 255

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Totao »

Kontext: Ich habe eine Maschine mit 2x RTX 3090 & NVLink.
AMD Karten sind noch überhaupt keine Option bei vielen AI-Themen, da dort sehr viel CUDA zum Einsatz kommt.
Eine Änderung sehe ich da die nächsten 1-2 Jahre erstmal nicht.
Dann kommt vielleicht eher noch ein Newcomer wie Tenstorrent auf den Markt für AI Beschleuniger und bietet dann überzeugende Preis-/Leitung und pyTorch Support.



macaw
Beiträge: 1717

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von macaw »

"Wer sich noch die Mühe macht, in Oldschool-Manier eine Workstation selber zusammenzuschrauben, dürfte bei der GPU-Wahl aktuell kaum ins Grübeln kommen." Warum "noch"? Ausser bei Mac Konsumenten kenne ich nur Leute, die ihren Computer selbst zusammenstellen.



marty_mc
Beiträge: 243

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von marty_mc »

Ein Zuschauer meiner Topaz Video AI Videos hat grad geschrieben, dass er die RTX 4000 hat und diese besser sein soll als z.B. die RTX 4070.
Begründung waren die Tensor Cores.



MK
Beiträge: 4426

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von MK »

Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)... die Quadro RTX 4000 hat Tensor Cores der zweiten Generation, und die A4000 der dritten, was sich von der Geschwindigkeit nicht vergleichen lässt (die 3er sind mit weniger Cores schneller). Generell ist die Optimierung bei Topaz wechselhaft und eher nicht völlig ausgereift, der Unterschied der A4000 zur 4070 ist jedenfalls nicht gigantisch, die RTX 4000 wird aber auf alle Fälle deutlich langsamer sein und hat mit 8 Gigabyte auch recht wenig Speicher für heutige Verhältnisse.

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

RTX A4000: 6144 CUDA cores, 192 Tensor Cores, 48 RT cores und 16 GB Speicher

RTX 4070: 5888 CUDA cores, 184 Tensor Cores, 46 RT cores und 12 GB Speicher

RTX 4090: 16384 CUDA cores, 512 Tensor Cores, 128 RT cores und 24 GB Speicher



marty_mc
Beiträge: 243

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von marty_mc »

MK hat geschrieben: Di 02 Mai, 2023 10:15 Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)...

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB



medienonkel
Beiträge: 833

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von medienonkel »

Die Frage ist eher, womit du upgraden möchtest. VEAI nuckelt auch gerne viel und oft am Prozessor. Das hängt zum Teil stark von den genutzten codecs, aber auch den Modellen und der Auflösung ab.

Für deinen Prozessor geht eine 3060ti noch klar. Alles darüber wird durch den Prozessor limitiert. Die 3060 ohne ti ist wohl der beste Spielpartner für deinen Prozessor, braucht aber resizable bar. Da bin ich jetzt zu faul, um das rauszufinden, ob es das bei deinem Unterbau schon gab.

Grobe Aussagen mit Bezugnahme auf
https://pc-builds.com/de/bottleneck-calculator/



Bluboy
Beiträge: 4916

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Bluboy »

marty_mc hat geschrieben: Di 02 Mai, 2023 11:19
MK hat geschrieben: Di 02 Mai, 2023 10:15 Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)...

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB
Recht weit kommt man mit dem I7-6700 nicht mehr.

https://www.cpubenchmark.net/cpu.php?cp ... Hz&id=2598



Frank Glencairn
Beiträge: 25017

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Frank Glencairn »

NVIDIA AI GPU Demand Blows Up, Chip Prices Increase By 40% & Stock Shortages Expected Till December
NVIDIA's GPU business boom has been the result of countless years of *** on AI as the next big thing. With ChatGPT and other generative AI models, it looks like NVIDIA's bets have paid off & the company is getting orders from all corners of the tech industry to get hands on its brand-new GPUs including the A100 and the H100.

Multiple reports are now suggesting that NVIDIA might not be able to keep up with the massive AI chip demand despite its best efforts. A recent report by DigiTimes suggests that as the green team sees a ramp-up in orders for its latest GPUs, the company has started to increase production of its chips at TSMC.
https://wccftech.com/nvidia-ai-gpu-dema ... -december/
Sapere aude - de omnibus dubitandum



dienstag_01
Beiträge: 13877

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von dienstag_01 »

Bluboy hat geschrieben: Fr 05 Mai, 2023 21:21
marty_mc hat geschrieben: Di 02 Mai, 2023 11:19

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB
Recht weit kommt man mit dem I7-6700 nicht mehr.

https://www.cpubenchmark.net/cpu.php?cp ... Hz&id=2598
Wieso nicht, so ein Quatsch.
Ich habe meinen gerade erst ausgetauscht, aber nur, weil es mir um h265 geht (über die interne GPU). Mit KI hat der Prozessor ja sowieso nur wenig zu tun.

Man hat mit neueren Prozessoren und damit neueren Boards mehr Bandbreite beim Datendurchsatz zur GPU. Das scheint aber genauso ein theoretischer Mehrwert zu sein, wie die Unterschiede in Benchmarks. Eine Anwendung, die davon profitiert, kenne ich nicht.



 Aktuelle Beiträge [alle Foren]
 
» Was hörst Du gerade?
von roki100 - Do 23:13
» ARRI ALEXA 35 Sensor-Bildqualität, Rolling Shutter, Dynamik - Die neue Referenz?
von Darth Schneider - Do 21:34
» Canon stellt Hybrid-Objektive RF 70-200mm F2.8, 50mm F1.4 und 24mm F1.4 vor
von BildTon - Do 21:31
» Blackmagic PYXIS 6K - Sensortest - Rolling Shutter und Dynamik
von Darth Schneider - Do 21:00
» Panasonic kündigt 4K-Camcorder HC-VX3 und Full-HD 2K-Camcorder HC-V900 an
von Skeptiker - Do 19:59
» Abschalttermin der TV Stationen bekannt - 1.1.2033
von DKPost - Do 19:02
» Was schaust Du gerade?
von Darth Schneider - Do 18:26
» Neue Apple MacBook Pros mit M4 und bis zu 128 GB Arbeitsspeicher und 8 TB SSD
von Rick SSon - Do 18:08
» UWE BOLL - Filme machen ohne Kompromisse
von Nigma1313 - Do 14:42
» Sennheiser Profile Wireless - kompaktes Mikrofonsystem vorgestellt
von j.t.jefferson - Do 13:50
» Nikon kündigt Entwicklung von Powerzoom Nikkor 28-135mm f/4 PZ für Video an
von GaToR-BN - Do 12:49
» Neuer Mac mini mit M4-Chip: Kleiner, aber ab 699 Euro nicht günstiger
von vaio - Do 12:45
» DCP Format 1998 x 1080 mit 24 Frames
von vaio - Do 12:06
» Probleme mit Media Encoder aus After Effects
von maiurb - Do 11:15
» Video Trends 2024: Ergebnisse kompakt
von Frank Glencairn - Do 10:04
» Förderung Filmerbe an 86 Projekte vergeben
von ruessel - Do 9:12
» Frage zu Mini-DV-Camcordern Panasonic NV-DX100 und JVC GR-VF10
von Jörg - Mi 22:28
» Günstiger Production Monitor
von Jörg - Mi 22:04
» FCP 11
von R S K - Mi 20:33
» Einzelbild Import Problem in Premiere Pro
von dienstag_01 - Mi 18:05
» Macbook's mit M4 bereits ebenfalls vorbestellbar?
von rush - Mi 16:53
» iMac mit M4-Chip: Jetzt minimal 16 GB RAM, schneller und zugleich günstiger
von Bildlauf - Mi 14:17
» Untertitel zeigt Umlaute und Sonderzeichen falsch an...
von Bluboy - Mi 11:02
» DJI O4 Air Unit kommt im November mit besserer Kamera
von rush - Mi 10:56
» Neue DJI Googles N3 für FPV-Drohnenflug sollen nur 269 Euro kosten
von rush - Mi 10:55
» Neues Nikkor Z 28-135mm f/4 PZ angekündigt
von pillepalle - Mi 6:54
» Linsen (Vintage, Anamorphic & Co.)
von pillepalle - Mi 3:13
» Hi8 / Digital8
von Bruno Peter - Di 19:04
» Fragen wegen Analoge Video Digitalusierung
von Rusco - Di 17:49
» Erfahrungen mit Trailerhaus als Arbeitgeber
von Chanti-Andy_76 - Di 17:43
» Sony veröffentlicht neue Version des Remote-Toolkits samt Camera Remote Command
von slashCAM - Di 12:39
» Über 28.500 Künstler unterschreiben Statement gegen ungeregeltes KI-Training
von -paleface- - Di 12:38
» Vermeide Final Cut, wenn dir dein Audio wichtig ist
von pixelschubser2006 - Di 9:44
» Neue Fujifilm X-M5 filmt in 6.2K, kostet ab 899 Euro
von roki100 - Mo 20:46
» Serie: Zu Fuß über die Alpen
von manfred52 - Mo 19:37