Четыре исследовательские команды за 10 дней выявили четыре разных способа взлома ИИ-моделей, пишет технологическое издание The Next Web.

Исследования показали, что главная проблема таких систем заключается не в ошибках самих моделей, а в том, что они получают доступ к личным данным пользователей, памяти и внешним сервисам.

Защитить пользователей, по мнению специалистов, могут дополнительные проверки действий ИИ, но это может замедлить работу агентов.