Нейросеть Маска Grok стала генерировать тысячи «раздетых» фотографий в час. Нейросеть Grok создает изображения людей в сексуализированном виде без их согласия. Аналитик и исследователь социальных сетей Женевьева О, поделившаяся своими результатами с Bloomberg, проанализировала контент, появившийся в аккаунте ИИ на X в период с 5 по 6 января. Она подсчитала, что каждую ночь нейросеть генерировала около 6700 сексуализированных изображений каждый час.

Grok, в отличие от других чат-ботов, практически не накладывает ограничений на пользователей и не блокирует генерацию контента с изображением реальных людей, в том числе несовершеннолетних.

Компания X, разработчик нейросети, не ответила на запрос Bloomberg по поводу этой ситуации.

В Bloomberg приводят историю девушки, пострадавшей от дипфейков. Незнакомцы использовали ее фото из X, на котором она была с бойфрендом, и с помощью Grok сначала убрали парня, оставив лишь её изображение в бикини, а затем и бикини заменили на шнурок. @banksta