AMD montre Radeon 7900 XTX surpasse NVIDIA RTX 4090 dans Deepseek Benchmarks

Avec l'avènement de Deepseek, le règne de Nvidia est-il en tant que leader matériel de l'IA?

Tl; dr: AMD a publié des références qui semblent suggérer que sa carte graphique Radeon RX 7900 XTX est nettement plus rapide que RTX 4090 et RTX 4080 de NVIDIA en ce qui concerne les repères R1 Deepseek. Team Red a également publié des instructions pour les amateurs de bricolage pour exécuter le R1 sur les processeurs Ryzen AI et Radeon.

Selon un X Post de David McAfee, le VP et le GM de Ryzen CPU et Radeon Graphics chez AMD, la société a testé le 7900 XTX contre les RTX 4090 et RTX 4080 Super en utilisant Deepseek R1, et le GPU de l'ARNc 3 était entre 13% et se déroule entre 13% et se déroule entre 13% et se déroule entre 13% et se déroulent entre 13% et 34% plus rapidement que le matériel NVIDIA en fonction du LLM et du nombre de paramètres.

Deepseek performant très bien sur @Amdradeon 7900 XTX. Apprenez à courir sur Radeon GPUS et Ryzen Ai APUS ici: https://t.co/fvldlj18ov pic.twitter.com/5okekyjjh3

– David McAfee (@mcafeedavid_amd) 29 janvier 2025

Avec sept milliards de paramètres, le 7900 XTX a l'emportent sur le RTX 4090 de 13% dans Distill Qwen, alors qu'il était 11% plus rapide dans Distill Llama avec huit milliards de paramètres. Avec 14 milliards de paramètres, la carte AMD a battu le phare ADA Lovelace de deux pour cent dans Distill Qwen. Cependant, lorsque le nombre de paramètres a atteint 32 milliards, le RTX 4090 avait un avantage de quatre% par rapport au fleuron de l'ADNr 3 à Distill Qwen.

AMD a également comparé le 7900 XTX au RTX 4080 Super, montrant que sa carte était plus rapide à chaque test. Le produit AMD a surpassé le GPU NVIDIA de 34% en utilisant la distill R1 Deepseek Qwen avec sept milliards de paramètres et 27% en utilisant Distill Llama avec huit milliards de paramètres. Avec le nombre de paramètres augmentés à 14 milliards, la carte de Team Red était encore 22% plus rapide en utilisant Distill Qwen.

https://www.youtube.com/watch?v=8ou5vxdoig

En plus des repères, AMD a également publié des instructions détaillées sur la façon d'exécuter Deepseek localement sur votre PC. Selon la société, tous ses GPU de bureau RDNA 3 sont compatibles avec plusieurs LLM à l'aide de R1. La plupart de ces modèles peuvent également s'exécuter sur des processeurs Ryzen sélectionnés avec des NPU XDNA.

https://www.youtube.com/watch?v=3rnwr5m59gy

AMD a également publié une liste des paramètres LLM pris en charge maximale et a fourni des instructions sur la façon dont l'installateur en un clic de LM Studio peut être réglé pour son matériel. Selon la société, le Radeon RX 7900 XTX prend en charge jusqu'à 32 milliards de paramètres, tandis que le RX 7600 d'entrée de gamme, avec ses 8 Go de VRAM, prend en charge jusqu'à huit milliards de paramètres dans Distill Llama.