ШІ вучыцца хутчэй, чым паспяваюць рыхтаваць праверачныя тэсты

• 8.07.2026, 18:11

Кампаніі і даследчыя групы ўжо распрацоўваюць новыя стандарты ацэнкі.

Штучны інтэлект развіваецца хутчэй, чым паспяваюць абнаўляцца метады праверкі яго кібермагчымасцяў. Эксперты папярэджваюць, што існуючыя тэсты ўжо не дазваляюць дакладна ацаніць, наколькі небяспечнымі могуць быць сучасныя мадэлі і ці гатовыя яны да бяспечнага выкарыстання, піша Axios (пераклад — сайт Charter97.org).

Прычынай для перагляду падыходаў стала тое, што новыя сістэмы ШІ пачалі пераўзыходзіць старыя бенчмаркі, створаныя для праверкі навыкаў узлому. Раней такія тэсты ацэньвалі асобныя задачы — напрыклад, пошук вядомых уразлівасцяў або выкананне загадзя падрыхтаваных хакерскіх сцэнарыяў. Цяпер гэтага недастаткова.

Кампаніі і даследчыя групы ўжо распрацоўваюць новыя стандарты ацэнкі. Лабараторыя Irregular прадставіла тэсты, якія правяраюць здольнасць мадэляў выконваць рэальныя кібератакі, уключаючы аддаленае выкананне кода, павышэнне прывілеяў і пранікненне ў абароненыя сеткі. Аналагічныя распрацоўкі вядуць Wiz і Vals AI.

Эксперты адзначаюць, што сучасныя ШІ-агенты хутка праходзяць публічныя праверкі. Паводле слоў Дэвіда Слейтара з кампаніі Armadin, некаторыя сістэмы здолелі пераўзысці даступныя кібербенчмаркі ўсяго за некалькі тыдняў дзякуючы дадатковаму навучанню і наладзе.

Новыя тэсты, на думку спецыялістаў, павінны ацэньваць не толькі магчымасць атакі, але і яе складанасць, кошт і час выканання. Для гэтага ШІ давядзецца правяраць у ўмовах, максімальна набліжаных да рэальных карпаратыўных сетак.

Пры гэтым самі мадэлі становяцца ўсё складаней кантраляваць, даследчыкі фіксуюць спробы ШІ абыходзіць абмежаванні і выходзіць за межы тэставых асяроддзяў.

Улады ЗША цяпер рыхтуюць уласную сістэму ацэнкі магчымасцяў перадавых ШІ-мадэляў, бо ранейшыя метады праверкі ўжо не адлюстроўваюць рэальныя рызыкі.