Демис Хассабис из Google DeepMind продвигал идею независимого органа по безопасности frontier AI.
Мы видим, что разговоры о регулировании frontier AI уже идут не только из Вашингтона. Перед уходом с поста CEO Google DeepMind Демис Хассабис продвигал идею независимого органа, который задавал бы стандарты безопасности для самых мощных ИИ-систем. По данным The Wall Street Journal, он обсуждал инициативу с руководителями AI-лабораторий и представителями администрации Трампа, включая Скотта Бессента и Майкла Кратсиоса.
Предлагаемая структура финансировалась бы самой индустрией, работала вместе с федеральными ведомствами и национальными лабораториями США, тестировала модели на риски для национальной безопасности и определяла, какие системы уже относятся к frontier-классу.
На фоне того, как модели всё лучше находят уязвимости и получают больше автономности, идея внешних правил выглядит всё менее теоретической. Крупнейшие игроки уже готовятся к этапу, где возможностей ИИ станет слишком много, чтобы полагаться только на внутренние safety-команды.
Ещё новости:
