slashCAM
Administrator
Administrator
Beiträge: 11279

Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von slashCAM »


Wer sich noch die Mühe macht, in Oldschool-Manier eine Workstation selber zusammenzuschrauben, dürfte momentan bei der GPU-Wahl kaum ins Grübeln kommen. Doch was könnte in der Zukunft wichtig werden, wenn man auch für KI-Aufgaben gut gerüstet sein will?



Hier geht es zu Artikel auf den slashCAM Magazin-Seiten:
Ratgeber: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?



Totao
Beiträge: 255

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Totao »

Kontext: Ich habe eine Maschine mit 2x RTX 3090 & NVLink.
AMD Karten sind noch überhaupt keine Option bei vielen AI-Themen, da dort sehr viel CUDA zum Einsatz kommt.
Eine Änderung sehe ich da die nächsten 1-2 Jahre erstmal nicht.
Dann kommt vielleicht eher noch ein Newcomer wie Tenstorrent auf den Markt für AI Beschleuniger und bietet dann überzeugende Preis-/Leitung und pyTorch Support.



macaw
Beiträge: 1717

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von macaw »

"Wer sich noch die Mühe macht, in Oldschool-Manier eine Workstation selber zusammenzuschrauben, dürfte bei der GPU-Wahl aktuell kaum ins Grübeln kommen." Warum "noch"? Ausser bei Mac Konsumenten kenne ich nur Leute, die ihren Computer selbst zusammenstellen.



marty_mc
Beiträge: 243

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von marty_mc »

Ein Zuschauer meiner Topaz Video AI Videos hat grad geschrieben, dass er die RTX 4000 hat und diese besser sein soll als z.B. die RTX 4070.
Begründung waren die Tensor Cores.



MK
Beiträge: 4426

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von MK »

Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)... die Quadro RTX 4000 hat Tensor Cores der zweiten Generation, und die A4000 der dritten, was sich von der Geschwindigkeit nicht vergleichen lässt (die 3er sind mit weniger Cores schneller). Generell ist die Optimierung bei Topaz wechselhaft und eher nicht völlig ausgereift, der Unterschied der A4000 zur 4070 ist jedenfalls nicht gigantisch, die RTX 4000 wird aber auf alle Fälle deutlich langsamer sein und hat mit 8 Gigabyte auch recht wenig Speicher für heutige Verhältnisse.

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

RTX A4000: 6144 CUDA cores, 192 Tensor Cores, 48 RT cores und 16 GB Speicher

RTX 4070: 5888 CUDA cores, 184 Tensor Cores, 46 RT cores und 12 GB Speicher

RTX 4090: 16384 CUDA cores, 512 Tensor Cores, 128 RT cores und 24 GB Speicher



marty_mc
Beiträge: 243

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von marty_mc »

MK hat geschrieben: Di 02 Mai, 2023 10:15 Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)...

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB



medienonkel
Beiträge: 833

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von medienonkel »

Die Frage ist eher, womit du upgraden möchtest. VEAI nuckelt auch gerne viel und oft am Prozessor. Das hängt zum Teil stark von den genutzten codecs, aber auch den Modellen und der Auflösung ab.

Für deinen Prozessor geht eine 3060ti noch klar. Alles darüber wird durch den Prozessor limitiert. Die 3060 ohne ti ist wohl der beste Spielpartner für deinen Prozessor, braucht aber resizable bar. Da bin ich jetzt zu faul, um das rauszufinden, ob es das bei deinem Unterbau schon gab.

Grobe Aussagen mit Bezugnahme auf
https://pc-builds.com/de/bottleneck-calculator/



Bluboy
Beiträge: 4916

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Bluboy »

marty_mc hat geschrieben: Di 02 Mai, 2023 11:19
MK hat geschrieben: Di 02 Mai, 2023 10:15 Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)...

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB
Recht weit kommt man mit dem I7-6700 nicht mehr.

https://www.cpubenchmark.net/cpu.php?cp ... Hz&id=2598



Frank Glencairn
Beiträge: 25017

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Frank Glencairn »

NVIDIA AI GPU Demand Blows Up, Chip Prices Increase By 40% & Stock Shortages Expected Till December
NVIDIA's GPU business boom has been the result of countless years of *** on AI as the next big thing. With ChatGPT and other generative AI models, it looks like NVIDIA's bets have paid off & the company is getting orders from all corners of the tech industry to get hands on its brand-new GPUs including the A100 and the H100.

Multiple reports are now suggesting that NVIDIA might not be able to keep up with the massive AI chip demand despite its best efforts. A recent report by DigiTimes suggests that as the green team sees a ramp-up in orders for its latest GPUs, the company has started to increase production of its chips at TSMC.
https://wccftech.com/nvidia-ai-gpu-dema ... -december/
Sapere aude - de omnibus dubitandum



dienstag_01
Beiträge: 13877

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von dienstag_01 »

Bluboy hat geschrieben: Fr 05 Mai, 2023 21:21
marty_mc hat geschrieben: Di 02 Mai, 2023 11:19

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB
Recht weit kommt man mit dem I7-6700 nicht mehr.

https://www.cpubenchmark.net/cpu.php?cp ... Hz&id=2598
Wieso nicht, so ein Quatsch.
Ich habe meinen gerade erst ausgetauscht, aber nur, weil es mir um h265 geht (über die interne GPU). Mit KI hat der Prozessor ja sowieso nur wenig zu tun.

Man hat mit neueren Prozessoren und damit neueren Boards mehr Bandbreite beim Datendurchsatz zur GPU. Das scheint aber genauso ein theoretischer Mehrwert zu sein, wie die Unterschiede in Benchmarks. Eine Anwendung, die davon profitiert, kenne ich nicht.



 Aktuelle Beiträge [alle Foren]
 
» Verzerrtes, verkrümmtes Videomaterial
von Jack43 - Mi 13:31
» iPhone 16 Pro Max - Sensortest - Rolling Shutter und Dynamik
von DeeZiD - Mi 11:56
» Ersetzt Runway das Motion Capturing? Act-One lässt Bilder schauspielern.
von Da_Michl - Mi 11:55
» DJI Osmo 360 - bald kommt die erste 360° Panorama-Kamera von DJI
von slashCAM - Mi 11:06
» Neue Sennheiser Dual Wireless Funke geleaked?
von rob - Mi 10:12
» Was hast Du zuletzt gekauft?
von ruessel - Mi 9:20
» Blackmagic PYXIS 6K: Die Vollformat „Box“-Kamera mit Viewfinder, 2x SDI, Sideplates (!) uvm.
von Mantas - Mi 8:25
» Western Digital Ultrastar DC HC690 mit 32 TB - Viel Platz fürs Filmarchiv
von j.t.jefferson - Mi 2:26
» Aufnahme und gleichzeitig Ausgabe über HDMI
von Skeptiker - Di 20:26
» Prime Deal Days: Adobe Creative Cloud 45% günstiger
von blueplanet - Di 17:58
» Fusion Macro an letztem Frame definieren
von DKPost - Di 13:30
» Sony stellt für Alpha und Cinema Kameras zwei neue Stromversorgungsoptionen vor
von slashCAM - Di 13:15
» Arte feiert den kreativen Dokumentarfilm 4., 11. und 18. November 2024
von ruessel - Di 13:02
» Frei zugängliche Trainingsdaten weiter kostenlos für KI-Modelle nutzbar?
von TheBubble - Mo 14:25
» Neue Comp Software in entwicklung
von Frank Glencairn - Mo 13:42
» Kommen neue Apple MacBook Pros mit M4 am 1. November?
von MarcusG - Mo 13:41
» Kichikus Welt 2.0
von kichiku - Mo 13:13
» SONY RX10 II top Zustand
von Sunbank - Mo 11:38
» Neue Comp Software in entwicklung
von -paleface- - Mo 11:00
» Adobe Frame.io V4: Organisation per Metadaten und C2C mit Canon, Nikon und Leica
von slashCAM - Mo 8:21
» Canon EOS R5II Dynamik Vergleich: Hybride Alternative zu C70 oder Nikon Z8?
von iasi - So 21:21
» Adobe testet neue praktische KI-Helfer für die Bild- und Videobearbeitung
von iasi - So 15:42
» Empfehlungen Boompole bis 300 €
von Axel - So 13:18
» Artlist und deren Lizenzrechte
von Christian 671 - So 12:48
» Superkompaktes Viltrox AF 28mm F4.5 für Sony E vorgestellt
von slashCAM - So 12:24
» Filmhochschulen fordern den Erhalt von 3sat
von 7River - So 7:51
» Beetlejuice mit Sony Venice 2-Kameratechnologie
von ruessel - Sa 21:36
» Heute hat es Netflix erwischt
von iasi - Sa 19:16
» Laowa Proteus Flex - neue 2x Anamorphoten mit wechselbarem Flare-Modul
von slashCAM - Sa 14:15
» Timecode für mehrtägige Aufnahmen
von berlin123 - Fr 20:09
» *Hilfe* Kamera für Pflanzenwachstumsüberwachung
von rabe131 - Fr 12:25
» Biete ++ Meike MK 10mm Cine Objektiv T2.2 MFT
von panalone - Fr 12:14
» Fuji X-T3 Body
von Jörg - Fr 10:41
» Blackmagic Camera App 1.4 (Android) verfügbar - jetzt auch für Sony Xperia
von Jominator - Fr 9:46
» ARRI Ensō Primes vorgestellt - kompakte Cine-Objektive mit 1:4 Abbildung
von Pianist - Fr 6:44