Самая дорогая ИИ-компания Кремниевой долины призывает замедлить развитие искусственного интеллекта.

Anthropic выпустила манифест, в котором призвала к замедлению развития ИИ. По мнению одного из мировых лидеров индустрии, уже в недалеком будущем ИИ будет способен полностью автономно проектировать и разрабатывать собственного преемника, а это увеличивает риск потери контроля над такими системами. 

Значит, необходимо иметь возможность замедлить или временно приостановить разработку передовых ИИ-систем, чтобы социальные структуры и механизмы контроля успевали адаптироваться.