Radeon RX 7900 XTX превосходит RTX 4090 и RTX 4080 Super в бенчмарке DeepSeek AI

Китайская магистратура DeepSeek посеял хаос на технологическом рынке США, фактически уничтожив триллионы долларов с фондового рынка. Несмотря на то, что эта программа была разработана на более старом оборудовании Nvidia, она удивительно хорошо работает на одном из потребительских предложений AMD Radeon RX 7900 XTX. Дэвид МакАфи (David McAfee), руководитель подразделения AMD по производству Radeon, опубликовал некоторые результаты бенчмарка на X.

В зависимости от количества параметров и используемой модели, Radeon RX 7900 XTX быстрее на 13% (7 миллиардов параметров) и 2% (14 миллиардов параметров). После этого флагман RDNA 3 начинает уступать и отстает от RTX 4090 с 32 миллиардами параметров. AMD даже сравнила его с GeForce RTX 4080 Superгде 7900 XTX имеет 34% преимущество в производительности.

AMD также предоставила подробные инструкции о том, как запустить DeepSeek локально на Вашей машине. Но у упомянутой выше Radeon RX 7900 XTX максимальная производительность составляет 32 миллиарда параметров, в то время как Strix Halo Ryzen AI Max 395 Plus с 128 ГБ ОЗУ может поддерживать до 72 миллиардов. Или, если у Вас есть в запасе около $6 000, Мэтью Кэрриган придумал, как запустить всю модель локально на машине с двумя процессорами AMD Epyc и 768 ГБ оперативной памяти.