Nvidia и Apple: друзья-приятели откладывают в сторону обиды, чтобы повысить производительность искусственного интеллекта

Хорошо известно, что Apple и Nvidia не слишком хорошо ладят друг с другом. Было время, когда в линейке Mac от Apple использовалась графика Nvidia, но все пошло наперекосяк, когда в 2008 году в MacBook'ах с графикой Nvidia возникли серьезные проблемы GeForce 8400M и 8600M dGPU стали появляться из-за дефектов упаковки, что приводило к перегреву, графическим сбоям, а в крайних случаях - к полному отказу GPU. Хотя MacBook по-прежнему оснащались графическими процессорами Nvidia, их отношения, несомненно, пошли на спад, и в течение следующих нескольких лет Apple перешел на AMD и больше никогда не оглядывался назад.

В результате, без обид для поклонников Team Red, компьютеры Mac страдали от низкой графической производительности по сравнению с ноутбуками Windows на базе GTX и RTX. Так было, конечно, до тех пор, пока не появились компьютеры Mac на базеApple Silicon. Несмотря на то, что Mac-энтузиасты все время ждали, что Nvidia и Apple зароют топор войны, этого так и не произошло - до сих пор. Ну, вроде того. Apple недавно объявила о сотрудничестве с Nvidia, направленном на ускорение вывода моделей больших языков, что знаменует собой долгожданное перемирие между двумя многотриллионными гигантами.

В основе этого неожиданного сотрудничества лежит Apple'ReCurrent Drafter (ReDrafter), который, по сути, является довольно инновационным методом спекулятивного декодирования, предназначенным для улучшения генерации лексем LLM, представленным ранее в этом году. Nvidia, очевидно, сотрудничает с Apple, чтобы каким-то образом включить ReDrafter в свой TensorRT-LLM фреймворк. Более того, ИИ-гигант также обновил свой фреймворк новыми оптимизированными операторами, обеспечив его беспрепятственное внедрение. Результаты, даже для такого непрофессионала, как я, звучат многообещающе - LLM, использующие графические процессоры Nvidia с ReDrafter, достигают впечатляющего 2,7-кратного увеличения скорости генерации токенов, снижая тем самым задержки и энергопотребление.

Конечно, говорит ли это сотрудничество о том, что две крупнейшие компании мира готовы к новым свершениям, или же это скорее одноразовое перемирие, пока неизвестно. В любом случае, любой вид научно-исследовательского альянса альянс, скорее всего, будет положительной новостью для потребителей. В конце концов, кто не хочет более быстрого программного обеспечения?