Apple GPT у вашій кишені? Можливо, це станеться раніше, ніж ми думаємо. Дослідники Apple AI оголосили, що їм вдалося домогтися значного прориву в розгортанні Великої мовної моделі (LLM) на iPhone та інших пристроях Apple з обмеженим обсягом пам'яті завдяки винаходу інноваційної технології флеш-пам'яті.
LLM і обмеження пам'яті
Чат-боти на основі LLM, такі як ChatGPT і Claude, зазвичай потребують величезної кількості пам'яті для роботи і займають неймовірно багато даних і пам'яті. Щоб розв'язати цю проблему, дослідники Apple розробили нову технологію, яка використовує флеш-пам'ять (ту ж саму, в якій зберігаються додатки і фотографії) для зберігання даних для моделей ШІ.
Сховище ШІ у флеш-пам'яті
У новій науковій роботі під назвою "LLM у флеш-пам'яті: ефективне виведення великих мовних моделей за умов нестачі пам'яті" автори зазначають, що флеш-пам'ять, а не оперативна пам'ять, що традиційно використовується для роботи LLM, є більш Вони зазначають, що це поширене явище. Їхній метод спритно обходить це обмеження, використовуючи два ключові прийоми, які мінімізують передачу даних і максимізують пропускну здатність флеш-пам'яті:
Windows: думайте про це як про техніку рециркуляції. Замість того щоб щоразу завантажувати нові дані, модель ШІ повторно використовує частину вже оброблених даних. Це знижує потребу в постійній нестачі пам'яті, роблячи обробку більш швидкою і плавною.
Рядки і стовпці: цей підхід нагадує читання книги великими шматками, а не по одному слову за раз. Ефективніше групування даних дає змогу швидше зчитувати їх із флеш-пам'яті, прискорюючи здатність ШІ розуміти і генерувати мову.
Згідно зі статтею, поєднання цих методів дасть змогу моделі ШІ працювати на вдвічі більшому обсязі пам'яті, ніж в iPhone. Це означає в чотири-п'ять разів більшу швидкість роботи стандартного процесора (CPU) і в 20-п'ять разів більшу швидкість роботи графічного процесора (GPU). Цей прорив особливо важливий для розгортання передових LLM в умовах обмежених ресурсів і розширення їхньої застосовності та доступності", - пишуть автори.
Більш швидкий штучний інтелект в iPhone
Значне підвищення продуктивності штучного інтелекту відкриє нові можливості для майбутніх iPhone, включно з більш просунутою функціональністю Siri, перекладом мов у реальному часі, а також просунутими функціями фото і доповненої реальності на базі ШІ. Технологія також закладає основу для запуску на iPhone просунутих асистентів штучного інтелекту і чат-ботів, над якими Apple, за чутками, вже працює.
Генеративний штучний інтелект, над яким працює Apple, зрештою може бути впроваджено в її голосовий помічник Siri. У лютому 2023 року Apple провела саміт зі штучного інтелекту, на якому розповіла співробітникам про свої дослідження з використанням великомасштабних мовних моделей. За даними Bloomberg, Apple працює над розумнішою версією Siri, яка буде глибоко інтегрована зі штучним інтелектом. Apple планує переглянути спосіб взаємодії Siri з додатком "Повідомлення", давши змогу користувачам більш ефективно відповідати на складні запитання і автоматично завершувати речення. За чутками, Apple також планує додати штучний інтелект у якомога більшу кількість додатків Apple.
Apple GPT
З чуток, Apple розробляє власну генеративну модель штучного інтелекту під назвою "Ajax", щоб скласти конкуренцію GPT-3 і GPT-4 від OpenAI, яка оперує 200 мільярдами параметрів, що свідчить про високий рівень складності та можливостей у розумінні та генерації мови. Відомий усередині компанії як "Apple GPT", "Ajax" покликаний об'єднати розробки Apple у сфері машинного навчання і запропонувати широку стратегію для глибшої інтеграції ШІ в екосистему Apple.
Згідно з останніми повідомленнями, Ajax вважається більш здатним, ніж попереднє покоління ChatGPT 3.5. Однак є припущення, що нова модель OpenAI може перевершити можливості Ajax вже у вересні 2023 року.
The Information і аналітик Джефф Пу стверджують, що Apple отримає якісь можливості генеративного штучного інтелекту на iPhone і iPad до кінця 2024 року, коли вийде iOS 18. У жовтні Пу заявив, що Apple побудує сотні серверів штучного інтелекту у 2023 році і ще більше - у 2024-му. Як повідомляється, Apple пропонуватиме поєднання хмарного ШІ та ШІ, оброблюваного на пристроях.
