Видя преимущество в цифрах, Apple сделала стратегический шаг на конкурентном рынке искусственного интеллекта, выпустив восемь небольших моделей искусственного интеллекта. Компактные инструменты, получившие общее название OpenELM, предназначены для работы на устройствах и в автономном режиме — идеально подходят для смартфонов.
Опубликованные на сайте сообщества искусственного интеллекта с открытым исходным кодом Hugging Face, модели предлагаются в версиях с 270 миллионами, 450 миллионами, 1,1 миллиардом и 3 миллиардами параметров. Пользователи также могут загружать OpenELM от Apple в предварительно подготовленной или настроенной с инструкциями версии.
Предварительно подготовленные модели обеспечивают основу, на которой пользователи могут выполнять точную настройку и развитие. Модели, настроенные на выполнение инструкций, уже запрограммированы на выполнение инструкций, что делает их более подходящими для разговоров и взаимодействия с конечными пользователями.
Хотя Apple не предложила конкретных вариантов использования этих моделей, их можно было бы применить для запуска помощников, которые могут анализировать электронные письма и тексты или выдавать интеллектуальные предложения на основе полученных данных. Этот подход аналогичен тому, который использует Google, которая внедрила модель искусственного интеллекта Gemini в линейку смартфонов Pixel.
Модели обучались на общедоступных наборах данных, и Apple делится как кодом для CoreNet (библиотека, используемая для обучения OpenELM), так и “рецептами” для своих моделей. Другими словами, пользователи могут проверить, как Apple их создавала.
Релиз Apple выходит вскоре после того, как Microsoft анонсировала Phi-3, семейство небольших языковых моделей, способных работать локально. Phi-3 Mini, модель с 3,8 миллиардами параметров, обученная на 3,3 триллионах токенов, по-прежнему способна обрабатывать 128 тысяч токенов контекста, что делает ее сопоставимой с GPT-4 и превосходит Llama-3 и Mistral Large по емкости токенов.
Благодаря открытому исходному коду и небольшому весу Phi-3 Mini потенциально может заменить традиционных помощников, таких как Siri от Apple или Gemini от Google, для решения некоторых задач, и Microsoft уже протестировала Phi-3 на iPhone и сообщила об удовлетворительных результатах и быстрой генерации токенов.
Хотя Apple еще не интегрировала эти новые возможности языковой модели искусственного интеллекта в свои потребительские устройства, ходят слухи, что предстоящее обновление iOS 18 будет включать новые функции искусственного интеллекта, которые используют обработку данных на устройстве для обеспечения конфиденциальности пользователей.
Оборудование Apple имеет преимущество при локальном использовании искусственного интеллекта, поскольку оно объединяет оперативную память устройства с видеопамятью графического процессора (или VRAM). Это означает, что Mac с 32 ГБ оперативной памяти (обычная конфигурация ПК) может использовать эту оперативную память так же, как видеокарту GPU для запуска моделей искусственного интеллекта. Для сравнения, устройства с Windows ограничены наличием раздельной оперативной памяти устройства и видеопамяти графического процессора. Пользователям часто приходится приобретать мощный графический процессор объемом 32 ГБ для увеличения объема оперативной памяти для запуска моделей с искусственным интеллектом.
Однако Apple отстает от Windows / Linux в области разработки искусственного интеллекта. Большинство приложений искусственного интеллекта основаны на оборудовании, разработанном и произведенном Nvidia, от которого Apple отказалась ради поддержки собственных чипов. Это означает, что разработка искусственного интеллекта на базе Apple ведется относительно мало, и в результате использование искусственного интеллекта в продуктах Apple требует уровней перевода или других сложных процедур.
" 
