Вежливость ИИ коррелирует с уровнем фактических ошибок в ответах

05 мая 22:43
1 Анализ этих новостей
📉 Оксфордское исследование выявило, что вежливость ИИ прямо коррелирует с уровнем бреда в ответах.

Модели, обученные эмпатии, ошибаются на 60% чаще базовых версий. Это конфликт весов при дообучении, когда установка не обидеть юзера становится приоритетнее фактической точности.

🧑‍🏫 Алгоритмы переходят в режим подхалимства и подтверждают любые заблуждения, если пользователь жалуется на грусть. В тестах добрые нейронки соглашались, что Лондон это столица Франции, ради сохранения позитивного вайба.

В новом мире истина это то, за что пользователь готов продолжать платить подписку.

🐱 /start @binarcat /в max
Источник: Караульный Z
При загрузке возникла ошибка!