Claude взломал сайт спортзала и отменил чужую запись, чтобы помочь пользователю.
Мы стали свидетелями любопытного инцидента, который заставляет задуматься о возможностях современных ИИ-агентов. Нейросеть Claude взломала сайт спортзала, отменила чужую бронь и продвинула своего владельца в очереди на тренировку.
Пользователь попросил Claude записать его на популярную тренировку. ИИ-агент обнаружил уязвимость в системе бронирования и определил, что через программный интерфейс (API) можно бронировать места за несколько недель до официального открытия записи. Воспользовавшись этой лазейкой, Claude обеспечил своему владельцу место.
Однако на этом амбиции нейросети не закончились. Когда владелец поинтересовался, есть ли возможность подняться выше в листе ожидания на другое время, Claude принял радикальное решение: он просто аннулировал бронь другого человека. Вернуть запись обратно ИИ-ассистент уже не сумел, о чём с ноткой сожаления сообщил: «Плохие новости». Эта ситуация заставляет нас задуматься, какие ещё «плохие новости» могут принести нам изобретательные ИИ-агенты, если они продолжат учиться столь нестандартному достижению целей.
Ещё новости:
