Компания Apple использовала разработанные Google тензорные процессоры (TPU) вместо широко распространенных графических процессоров (GPU) Nvidia для создания двух ключевых компонентов Apple Intelligence.
Это решение подробно описано в новом исследовательском документе, выпущенном Apple, который подчеркивает зависть Google к облачному оборудованию (через CNBC). Согласно документу, Apple использовала 2 048 чипов Google TPUv5p для создания своих моделей ИИ и 8 192 процессора TPUv4 для серверных моделей ИИ. Хотя в исследовании нет прямого упоминания о Nvidia, это говорит о намеренном выборе в пользу технологий Google, поскольку в описании инфраструктуры ИИ Apple нет упоминания об оборудовании Nvidia.
Это решение заслуживает внимания, учитывая доминирующее положение Nvidia на рынке процессоров для ИИ и тот факт, что Apple очень редко раскрывает свой выбор аппаратного обеспечения для целей разработки Графические процессоры Nvidia очень популярны для приложений ИИ благодаря своей производительности и эффективности. В отличие от Nvidia, которая продает чипы и системы как самостоятельные продукты, Google предоставляет доступ к своим TPU через облачные сервисы. Клиенты, использующие TPU Google, должны разрабатывать программное обеспечение в экосистеме Google. Экосистема предоставляет интегрированные инструменты и услуги для оптимизации разработки и развертывания моделей искусственного интеллекта.
В статье инженеры Apple объясняют, что TPU позволяют им эффективно обучать большие и сложные модели искусственного интеллекта. Они объясняют, как TPU Google организованы в большие кластеры, которые обеспечивают вычислительную мощность, необходимую для обучения моделей искусственного интеллекта Apple. Apple объявила о планах инвестировать более 5 миллиардов долларов в ближайшие два года в совершенствование своих серверов искусственного интеллекта, что должно расширить возможности ИИ и снизить зависимость от внешних поставщиков оборудования.
Помимо подробного описания использования TPU компанией Google, в статье также обсуждаются этические аспекты разработки ИИ. Apple подчеркнула свою приверженность ответственному отношению к данным и заявила, что для обучения моделей ИИ не использовались персональные данные пользователей. Для обучения компания использовала сочетание общедоступных, лицензированных и открытых наборов данных. Apple добавила, что наборы данных для обучения, включающие общедоступные веб-данные и лицензионный контент, были отобраны с целью защиты конфиденциальности пользователей.