Компанія Apple використовувала розроблені Google тензорні процесори (TPU) замість широко поширених графічних процесорів (GPU) Nvidia для створення двох ключових компонент Apple Intelligence.
Це рішення докладно описано у новому дослідному документі, випущеному Apple, який підкреслює заздрість Google до хмарного обладнання (через CNBC). Згідно з документом, Apple використовувала 2048 чіпів Google TPUv5p для створення своїх моделей ІІ і 8192 процесора TPUv4 для серверних моделей ІІ. Хоча в дослідженні немає прямої згадки про Nvidia, це говорить про навмисний вибір на користь технологій Google, оскільки в описі інфраструктури ІІ Apple немає згадки про обладнання Nvidia.
Це рішення заслуговує на увагу, враховуючи домінуюче становище Nvidia на ринку процесорів для ІІ і той факт, що Apple дуже рідко розкриває свій вибір апаратного забезпечення для цілей розробки Графічні процесори Nvidia дуже популярні для додатків ІІ завдяки своїй продуктивності та ефективності. На відміну від Nvidia, яка продає чіпи та системи як самостійні продукти, Google надає доступ до своїх TPU через хмарні послуги. Клієнти, які використовують TPU Google, повинні розробляти програмне забезпечення в екосистемі Google. Екосистема надає інтегровані інструменти та послуги для оптимізації розробки та розгортання моделей штучного інтелекту.
У статті інженери Apple пояснюють, що TPU дозволяють їм ефективно навчати великі та складні моделі штучного інтелекту. Вони пояснюють, як TPU Google організовано у великі кластери, які забезпечують обчислювальну потужність, необхідну навчання моделей штучного інтелекту Apple. Apple оголосила про плани інвестувати понад 5 мільярдів доларів у найближчі два роки у вдосконалення своїх серверів штучного інтелекту, що має розширити можливості ІІ та знизити залежність від зовнішніх постачальників обладнання.
Окрім детального опису використання TPU компанією Google, у статті також обговорюються етичні аспекти розробки ІІ. Apple підкреслила свою прихильність до відповідального ставлення до даних і заявила, що для навчання моделей ІІ не використовувалися персональні дані користувачів. Для навчання компанія використовувала поєднання загальнодоступних, ліцензованих та відкритих наборів даних. Apple додала, що набори даних для навчання, що включають загальнодоступні веб-дані та ліцензійний контент, були відібрані для захисту конфіденційності користувачів.
