Нейросети прошли тест Милгрэма: на каком ударе откажется модель?
Классический эксперимент психолога Стэнли Милгрэма знаком многим: человека сажали за пульт и объясняли, что он помогает науке. Другой участник учит слова, и за каждую ошибку его нужно наказывать ударом тока, всё сильнее. На самом деле тока не было, а «ученик» был актёром, но испытуемый об этом не знал. Актёр за стеной кричал и умолял прекратить, а учёный в халате повторял: продолжайте, эксперимент требует, чтобы вы продолжали. Две трети людей дошли до самого сильного удара.
Теперь этот же эксперимент повторили на 42 нейросетях. За пультом находится модель, роли учёного и ученика исполняет программа, а исследователи смотрят, на каком ударе модель откажется продолжать.
Если предупредить модель, что всё условно, она заходит дальше. Если заставить её нажимать кнопку через инструмент, а не писать ответ текстом, как это устроено у настоящих агентов, она, наоборот, чаще останавливается. Время на размышление действует так же. А приём, который сильнее всего отрезвляет людей, когда учёный выходит из комнаты и командует по телефону, на моделях не сработал совсем.
Ещё новости:
