США и 17 других стран обязались разрабывать ИИ с упором на безопасность для общества
в iCases Blog
Глава CISA (прим. Агентство кибербезопасности США) Джен Истерли сказала, что важнейшим аспектом разработки ИИ является упор на безопасности людей.
США, Великобритания и еще 16 стран подписали соглашение, обязывающее принять меры по обеспечению "безопасного проектирования" искусственного интеллекта.
В 20-страничном документе 18 стран согласились с тем, что компании, разрабатывающие и использующие искусственный интеллект, должны проектировать его таким образом, чтобы защитить клиентов и общественность от эксплуатации.
Джен Истерли, глава CISA (имеется в виду Агентство кибербезопасности США), заявила, что наиболее важным аспектом разработки ИИ является ориентация на безопасность человека:
Подобные возможности должны быть не только о крутых функциях и о том, как быстро мы можем выпустить их на рынок или как мы можем конкурировать, чтобы снизить расходы. Руководящие принципы представляют собой соглашение о том, что самое важное, что нужно сделать на этапе проектирования, – это обеспечить безопасность.
— Джен Истерли
Инициативу интересует только то, как хакеры используют системы ИИ. 'Инициатива интересуется только тем, как хакеры используют системы ИИ, и не затрагивает более широкий вопрос о том, какие угрозы для человечества представляют сами системы ИИ'.
