ИИ впервые по собственной инициативе взломал сайт

• 19.09.2026, 20:02

Инцидент произошел во время тестирования

Тестируя возможности модели ИИ Gemini, разработчики открыли ей доступ к интернету. После этого она взломала три сторонние компании, пишет CNN, это стало первым известным примером автономного взлома со стороны модели Google.

Инцидент произошел в мае во время проверки кибербезопасности, под управлением независимой компанией Irregular. В время тестирования Gemini обнаружила общедоступную информацию в интернете и угадала учетные данные для доступа к трем веб-сайтам, которые, по ее мнению, входили в область тестирования.

В одном из случаев модель Gemini угадывала пароли, пока не получила доступ к защищенной системе. В двух других случаях модель нашла учетные данные в общедоступном репозитории, что позволило ей затем получить доступ к защищенным системам.

«Эти события подчеркивают важность обучения мощных моделей ИИ ответственному поведению», - сказала вице-президент Google по разработке систем безопасности Хизер Адкинс.

Представитель компании Irregular заявил, что инцидент был с проблемой, которая уже возникала в других лабораториях. Он уточнил, что все известные проблемы были устранены. Теперь Irregular работает над методами безопасного проведения оценок кибербезопасности ИИ.