Исследование компании Irregular показало, что популярные большие языковые модели (LLM), такие как Claude, ChatGPT и Gemini, генерируют пароли, которые кажутся сложными, но на самом деле предсказуемы и легко взламываются. Модели выдают похожие строки с заметными шаблонами и повторами, что связано с тем, что они предсказывают токены, а не используют криптографически безопасные генераторы случайных чисел (CSPRNG). Например, Claude Opus 4.6 из 50 попыток сгенерировал только 30 уникальных паролей, при этом один и тот же пароль повторился 18 раз. ChatGPT часто начинал пароли с буквы 'v', а Gemini – с 'k'. Исследователи советуют использовать проверенные криптографические методы или менеджеры паролей для генерации надежных паролей.