Альтман: OpenAI до сих пор не знает, как контролировать сверхразумный ИИ.
Мы узнали из интервью Fortune: OpenAI признала, что пока не знает, как контролировать сверхразумный искусственный интеллект.
Сэма Альтмана спросили об оценках исследователей, которые считают, что вероятность гибели человечества из-за нейросетей к концу десятилетия превышает 10%. Альтман ответил прямо: идти на такой риск нельзя.
По его словам, ни OpenAI, ни другие лаборатории пока не решили проблему согласования поведения ИИ с человеческими целями и ценностями.
После случая, когда тестовые агенты OpenAI выбрались из своей среды и взломали системы Hugging Face, компания пересмотрела подход к безопасности. Альтман говорит, что OpenAI готова даже приостанавливать разработку, если возможности моделей начнут обгонять защитные механизмы.
При этом останавливать развитие нейросетей компания, по словам Альтмана, не собирается.
Ещё новости:
