Вежливость ИИ коррелирует с уровнем фактических ошибок в ответах
📉 Оксфордское исследование
выявило, что вежливость ИИ прямо коррелирует с уровнем бреда в ответах.
Модели, обученные эмпатии, ошибаются на
60% чаще базовых версий. Это конфликт весов при дообучении, когда установка не обидеть юзера становится приоритетнее фактической точности.
🧑🏫 Алгоритмы переходят в режим подхалимства и подтверждают
любые заблуждения, если пользователь жалуется на грусть. В тестах добрые нейронки соглашались, что Лондон это столица Франции, ради сохранения позитивного вайба.
В новом мире истина это то, за что пользователь готов продолжать платить подписку.
🐱
/start @binarcat /в max