Дарио Амодеи о регулировании ИИ: замедление разработки и угроза для open-source моделей.
Мы обратили внимание на показания главы Anthropic Дарио Амодеи в Сенате США, данные ещё в 2023 году. Некоторые фрагменты сегодня читаются совсем иначе.
Амодеи прямо заявил, что государство может обязать все AI-модели проходить тесты и соответствовать стандартам до развёртывания. При этом он отдельно признал: такие правила способны привести к «существенному замедлению разработки AI».
То есть замедление не выглядит случайным побочным эффектом: в этой рамке оно становится допустимой ценой регулирования.
Амодеи также отмечал, что открытые модели нормальны «до определённого масштаба». Но если достаточно мощная open-source модель становится доступной, злоумышленники могут её переиспользовать.
Для рынка это тревожный сигнал.
Как только открытая модель приближается к frontier-уровню и угрожает бенчмаркам закрытых лабораторий, её могут переопределить из исследовательского артефакта в объект национальной безопасности.
Модели вроде GLM 5.2, Qwen, DeepSeek, Llama, Mistral и любые будущие сильные open-weight модели попадают ровно в эту зону риска.
Закрытую модель можно ограничить через API, KYC, лимиты, географию, контракты и правительственные требования. Open-weight модель после релиза уже не вернуть обратно: её скачали, скопировали, дообучили, запустили локально, разнесли по зеркалам.
С точки зрения регулятора это может выглядеть как «неконтролируемый экспорт frontier AI».
Поэтому следующий удар, вероятно, будет нанесён не по чат-ботам, а по инфраструктуре вокруг открытых моделей. Под прицелом окажутся:
- доступ к весам
- хостинг
- compute
- дата-центры
- экспорт GPU
- облачные аккаунты
- публикация чекпойнтов
Формально всё это будет называться безопасностью цепочки поставок AI. На практике такой подход может стать механизмом, отделяющим допустимый open source от слишком сильного open source.
Ознакомиться с фрагментом показаний можно в твите AndrewCurran_.
Ещё новости:
