Скидки до -50% на чехлы для iPhone К покупкам! 🤑

Новинка в iCases! Аксессуары для качественной и удобной съемки контента 📸 В каталог

 

Бесплатная доставка Новой Почтой при заказе аксессуаров на сумму от 999 грн 🤑

 
Apple разрабатывает метод для запуска LLM на iPhone

Apple разрабатывает метод для запуска LLM на iPhone

в iCases Blog

Apple GPT в вашем кармане? Возможно, это произойдет раньше, чем мы думаем. Исследователи Apple AI объявили, что им удалось добиться значительного прорыва в развертывании Большой языковой модели (LLM) на iPhone и других устройствах Apple с ограниченным объемом памяти благодаря изобретению инновационной технологии флэш-памяти.

LLM и ограничения памяти

Чат-боты на основе LLM, такие как ChatGPT и Claude, обычно требуют огромного количества памяти для работы и занимают невероятно много данных и памяти. Чтобы решить эту проблему, исследователи Apple разработали новую технологию, которая использует флеш-память (ту же самую, в которой хранятся приложения и фотографии) для хранения данных для моделей ИИ.

Хранилище ИИ во флэш-памяти

В новой научной работе под названием "LLM во флэш-памяти: эффективный вывод больших языковых моделей в условиях нехватки памяти" авторы отмечают, что флэш-память, а не оперативная память, традиционно используемая для работы LLM, является более Они отмечают, что это распространенное явление. Их метод ловко обходит это ограничение, используя два ключевых приема, которые минимизируют передачу данных и максимизируют пропускную способность флэш-памяти:

Windows: думайте об этом как о технике рециркуляции. Вместо того чтобы каждый раз загружать новые данные, модель ИИ повторно использует часть уже обработанных данных. Это снижает потребность в постоянной нехватке памяти, делая обработку более быстрой и плавной.

Строки и столбцы: этот подход напоминает чтение книги большими кусками, а не по одному слову за раз. Более эффективная группировка данных позволяет быстрее считывать их из флэш-памяти, ускоряя способность ИИ понимать и генерировать язык.

Согласно статье, сочетание этих методов позволит модели ИИ работать на вдвое большем объеме памяти, чем в iPhone. Это означает в четыре-пять раз большую скорость работы стандартного процессора (CPU) и в 20-пять раз большую скорость работы графического процессора (GPU). Этот прорыв особенно важен для развертывания передовых LLM в условиях ограниченных ресурсов и расширения их применимости и доступности", - пишут авторы.

Более быстрый искусственный интеллект в iPhone

Значительное повышение производительности искусственного интеллекта откроет новые возможности для будущих iPhone, включая более продвинутую функциональность Siri, перевод языков в реальном времени, а также продвинутые функции фото и дополненной реальности на базе ИИ. Технология также закладывает основу для запуска на iPhone продвинутых ассистентов искусственного интеллекта и чат-ботов, над которыми Apple, по слухам, уже работает.

Генеративный искусственный интеллект, над которым работает Apple, в конечном итоге может быть внедрен в ее голосовой помощник Siri. В феврале 2023 года Apple провела саммит по искусственному интеллекту, на котором рассказала сотрудникам о своих исследованиях с использованием крупномасштабных языковых моделей. По данным Bloomberg, Apple работает над более умной версией Siri, которая будет глубоко интегрирована с искусственным интеллектом. Apple планирует пересмотреть способ взаимодействия Siri с приложением "Сообщения", позволив пользователям более эффективно отвечать на сложные вопросы и автоматически завершать предложения. По слухам, Apple также планирует добавить искусственный интеллект в как можно большее количество приложений Apple.

Apple GPT

По слухам, Apple разрабатывает собственную генеративную модель искусственного интеллекта под названием "Ajax", чтобы составить конкуренцию GPT-3 и GPT-4 от OpenAI, которая оперирует 200 миллиардами параметров, что говорит о высоком уровне сложности и возможностей в понимании и генерации языка. Известный внутри компании как "Apple GPT", "Ajax" призван объединить разработки Apple в области машинного обучения и предложить широкую стратегию для более глубокой интеграции ИИ в экосистему Apple.

Согласно последним сообщениям, Ajax считается более способным, чем предыдущее поколение ChatGPT 3.5. Однако есть предположение, что новая модель OpenAI может превзойти возможности Ajax уже в сентябре 2023 года.

The Information и аналитик Джефф Пу утверждают, что Apple получит некие возможности генеративного искусственного интеллекта на iPhone и iPad к концу 2024 года, когда выйдет iOS 18. В октябре Пу заявил, что Apple построит сотни серверов искусственного интеллекта в 2023 году и еще больше - в 2024-м. Как сообщается, Apple будет предлагать сочетание облачного ИИ и ИИ, обрабатываемого на устройствах.

Добавить комментарий
Еще статьи по теме