OpenAI замедлила разработку модели Astra из-за критических кибервозможностей.
OpenAI сообщила о приостановке работы над некоторыми аспектами будущей модели Astra. Внутренняя проверка выявила значительные успехи в программировании агентов и кибербезопасности, которых достаточно, чтобы вызвать опасения по поводу возможностей модели.
Как говорится в сообщении OpenAI, модель, которая всё ещё находится в разработке, достигла «критического порога кибербезопасности». Это означает, что она может самостоятельно выявлять и осуществлять кибератаки против традиционно хорошо защищённых реальных систем. В соответствии с «Рамочной программой готовности» компании, разработанной в 2023 году, это активировало дополнительные меры защиты.
В OpenAI отметили: «Хотя мы продолжаем проводить сравнительный анализ и оценку этой модели, наши предварительные оценки показывают достаточно высокую производительность, чтобы мы не могли исключить критический уровень возможностей на данный момент».
Ещё новости:
