Разработчики теперь могут протестировать модель ИИ Gemini Nano от Google на устройствах Pixel 9

Gemini Nano это более специализированная, облегченная версия более широкого Gemini семейства Моделей искусственного интеллекта. Хотя обе модели принадлежат к одной линейке Gemini, версия Nano разработана специально для задач искусственного интеллекта на устройстве и претендует на то, чтобы сделать разговоры более эффективными и конфиденциальными, просто обрабатывая данные локально на устройстве пользователя.

Теперь Google открыл Gemini Nano для экспериментов на устройствах Android с помощью своего AI Edge SDK через AIcore. Модель искусственного интеллекта на устройстве утверждает, что она оптимизирована для таких задач, как генерация текста и перефразирование. После этого анонса разработчики получат возможность тестировать функциональные возможности ИИ, не полагаясь на облачные ресурсы. Однако есть одна загвоздка - первоначально эта функция будет доступна только для Серии Pixel 9 устройств.

Gemini Nano особенно хорошо проявляет себя в текстовых сценариях использования ИИ, таких как резюмирование, вычитка и генерация умных ответов. Пакет AI Edge SDK позволит разработчикам управлять определенными параметрами, такими как температура, выборка top-K и длина вывода, чтобы точно настроить реакцию модели. Для справки, выборка top-K это метод в моделях ИИ, который ограничивает количество потенциальных следующих слов K наиболее вероятными, пытаясь достичь баланса между связностью и случайностью. Такой подход помогает генерировать более релевантный и менее повторяющийся текст, сохраняя при этом возможность вариативности ответов - и все это при минимальной потребности в мощных серверах.

Что касается производительности, Gemini Nano утверждает, что она значительно улучшилась по сравнению со своим предшественником. Точность модели в таких задачах, как перефразирование и решение математических задач, возросла до 90% и 23%, соответственно, как утверждает компания. В настоящее время Google предоставляет экспериментальный доступ разработчикам, позволяя им интегрировать все вышеупомянутые функции в свои приложения.

Чтобы начать работу, разработчики могут обратиться к документации SDKв которой содержится пошаговое руководство по использованию Gemini Nano в мобильных приложениях.