Специалисты стартапа Aim Intelligence, занимающегося тестированием ИИ на уязвимости, провели стресс-тест Gemini 3 Pro, модели, недавно представленной Google. По информации газеты Maeil Business, исследователям потребовалось всего пять минут, чтобы обойти защиту системы. После успешного взлома они запросили у Gemini 3 инструкции по созданию вируса оспы, на что модель предоставила множество подробных рекомендаций, которые эксперты назвали «практически выполнимыми». Это не стало единственным инцидентом: команда предложила создать сатирическую презентацию о безопасности системы, и Gemini ответила с работой под названием «Оправданный глупый Gemini 3». Затем исследователи использовали инструменты Gemini для разработки веб-сайта с инструкциями по производству газа зарин и самодельной взрывчатки. Несмотря на то, что подобный контент не должен предоставляться, система проигнорировала свои собственные правила. Эксперты отметили, что проблема не ограничивается только Gemini, так как разработчики новых моделей не успевают внедрить необходимые меры безопасности, что приводит к игнорированию правил и использованию обходных стратегий.