Недавний анализ от компании Irregular, сосредоточившейся на безопасности ИТ, раскрыл недостатки в генерации паролей тремя популярными системами: Claude, ChatGPT и Gemini. При создании 16-символьных паролей с использованием специальных символов, цифр и букв, ИИ выдает комбинации, которые на первый взгляд выглядят безопасными. Однако тесты показывают, что все они используют общие шаблоны, что делает их уязвимыми для хакеров, знакомых с такими алгоритмами.
В ходе проведения 50 тестов на генерацию паролей с помощью Claude всего 30 паролей оказались уникальными, а 18 из них повторялись. Подобные результаты были отмечены и в других платформах. Например, Gemini 3 Pro предупреждал своих пользователей о том, что сгенерированные пароли не подходят для защиты конфиденциальной информации. Вместо этого ИИ предлагал использовать кодовые фразы или сторонние менеджеры паролей.
Расчеты энтропии показали, что пароли работают на уровне 27-20 бит, в то время как безопасные пароли ожидают 98 бит энтропии. Это подчеркивает важность проверки паролей, генерируемых ИИ, перед их использованием. Исследование также указывает на тенденцию, что надежность паролей, создаваемых ИИ, сильно зависит от алгоритмов, что ставит под сомнение их безопасность в будущем.