ИИ-агенты на поводке: как Hard Stop не даёт им сбежать из песочницы.
Одно решение всё же есть. Речь о системе Hard Stop из одноимённой научной работы. Это стоп-кран между агентом и операционной системой, который останавливает процессы агента раньше, чем тот успеет навредить.
Ещё новости:
