Anthropic скрывает модель мощнее Mythos 5: Model 2 используют только внутри компании.
Корпорация Anthropic в свежем отчёте о рисках описала внутреннюю модель с кодовым именем Model 2. Она заметно превосходит флагманский Mythos 5, с которого США недавно частично сняли экспортные ограничения, и активно используется внутри компании для кода, агентных задач и генерации данных.
«Мы не планируем выпускать эту модель наружу», сообщили в компании.
Почему решили придержать
- после недавних киберинцидентов оценку риска «несоответствия» модели в критических ситуациях подняли с «очень низкого» до «низкого»;
- модель всё быстрее ведёт автоматизированные ИИ-исследования, то есть учится разрабатывать свои ИИ сама;
- привычные тесты перестали улавливать рост возможностей модели.
Фактически компания признаёт, что уже не до конца понимает, на что способны её собственные разработки.
OpenAI параллельно придерживает свою будущую модель Astra: не может исключить у неё «критические кибервозможности».
При этом замедлять разработку Anthropic не обещает даже внутри. Аналитики говорят, что при таком раскладе именно она первой доберётся до AGI.
Самые мощные модели теперь работают не на пользователей, а на своих создателей: публике достаются версии попроще.
Ещё новости:
