ШІ ўпершыню па ўласнай ініцыятыве ўзламаў сайт

• 19.09.2026, 20:02

Інцыдэнт адбыўся падчас тэставання

Тэстуючы магчымасці мадэлі ШІ Gemini, распрацоўшчыкі адкрылі ёй доступ да інтэрнэту. Пасля гэтага яна ўзламала тры староннія кампаніі, піша CNN, і гэта стала першым вядомым прыкладам аўтаномнага ўзлому з боку мадэлі Google.

Інцыдэнт адбыўся ў маі падчас праверкі кібербяспекі, якую праводзіла незалежная кампанія Irregular. Падчас тэставання Gemini выявіла агульнадаступную інфармацыю ў інтэрнэце і падабрала ўліковыя даныя для доступу да трох вэб-сайтаў, якія, паводле яе меркавання, уваходзілі ў сферу тэставання.

У адным з выпадкаў мадэль Gemini падбірала паролі, пакуль не атрымала доступ да абароненай сістэмы. У двух іншых выпадках мадэль знайшла ўліковыя даныя ў агульнадаступным рэпазіторыі, што дазволіла ёй затым атрымаць доступ да абароненых сістэм.

«Гэтыя падзеі падкрэсліваюць важнасць навучання магутных мадэляў ШІ адказным паводзінам», — сказала віцэ-прэзідэнт Google па распрацоўцы сістэм бяспекі Хізэр Эдкінс.

Прадстаўнік кампаніі Irregular заявіў, што інцыдэнт быў звязаны з праблемай, якая ўжо ўзнікала ў іншых лабараторыях. Ён удакладніў, што ўсе вядомыя праблемы былі ўхілены. Цяпер Irregular працуе над метадамі бяспечнага правядзення ацэнак кібербяспекі ШІ.