Notebookcheck Logo

Компания Элона Маска xAI выводит в сеть учебный кластер Colossus 100k H100

Графический процессор Nvidia Hopper H100 (Источник изображения: Nvidia)
Графический процессор Nvidia Hopper H100 (Источник изображения: Nvidia)
В конце 122-дневной работы команде разработчиков xAI удалось вывести в сеть самую мощную на сегодняшний день систему обучения ИИ в мире. На данный момент она имеет 100 тысяч графических процессоров H100, но Маск утверждает, что через несколько месяцев это число удвоится. Google достиг отметки в 90 тысяч графических процессоров, а лучшая система обучения ИИ от OpenAI оснащена 80 тысячами GPU.

Выпущенный в конце сентября 2022 года, этот Графический процессор Nvidia Hopper H100 в настоящее время используется в самых мощных в мире системах обучения ИИ. В минувшие выходные компания Элона Маска xAI опередила своих конкурентов благодаря обучающей системе Colossus 100k H100, которой потребовалось 122 дня от начала реализации до выхода в сеть. Как следует из названия, в ней используется не менее 100 000 графических процессоров H100. Ее главные конкуренты - Google (90 000), OpenAI (80 000) и Meta (70 000). Следующие два места в топе занимают Microsoft и Nvidia с 60 000 и 50 000 GPU.

Однако этого достижения недостаточно для Элона Маска, который уже изложил планы на будущее xAI. Технический гений хочет как можно скорее удвоить мощность обучающей системы xAI. В своем сообщении о новой системе обучения ИИ Colossus Маск упомянул, что "через несколько месяцев ее размер удвоится до 200 тысяч (50 тысяч H200)", не назвав при этом цели такого быстрого расширения.

Еще в 2023 году, когда была основана компания xAI, Элон Маск сказал, что цель этой компании - "понять истинную природу Вселенной", и до сих пор неясно, что получится в результате всех этих усилий. У чипов H200, которые, вероятно, будут использоваться в следующей волне экспансии xAI, уже есть преемник, а именно Nvidia Blackwell. По сравнению с H200, он имеет на 36,2% большую максимальную емкость и на 66,7% большую общую пропускную способность.

Пока что xAI может свободно использовать систему обучения ИИ Colossus, но все может измениться уже в следующем месяце, если губернатор Калифорнии Гэвин Ньюсом одобрит законопроект о безопасности ИИ. Тем, кто хочет узнать больше о безопасности ИИ, стоит ознакомиться с книгой Криса Атегеки "Safeguarding Humanity: A Comprehensive Guide to AI Safety", доступную за $19,99 в мягкой обложке.

Источник(и)

Элон Маск (в Twitter/X)

Этот важный материал точно понравится твоим друзьям в социальных сетях!
'
Codrut Nistor, 2024-09- 4 (Update: 2024-09- 4)