1132 сотрудника ИИ-лабораторий призвали правительство США притормозить гонку нейросетей.
Ещё год назад такое казалось невозможным, однако теперь 1132 сотрудника крупнейших ИИ-лабораторий, включая старших исследователей из OpenAI, Anthropic, Google и Meta, предупреждают: автоматизация исследований в сфере искусственного интеллекта может разогнать технологический прогресс до такой скорости, что люди уже не смогут нормально его контролировать.
Авторы обращения призывают правительство США разработать международно согласованные технические и политические механизмы, которые при необходимости позволят всем крупным игрокам одновременно притормозить развитие ИИ-систем. Ни одна компания и ни одна страна не захотят нажимать на тормоз первыми, пока остальные продолжают гонку.
Человечество движется к точке, где технологии начинают развиваться настолько быстро, фундаментально и масштабно, что люди уже не способны ни понимать происходящее, ни успевать за ним. Конкуренты, которые сами разгоняли эту гонку, теперь начинают объединяться, чтобы не дать ей выйти из-под контроля.
В то же время эксперты отмечают, что без участия Китая весь этот механизм рискует просто не сработать.
Ещё новости:
