ИИ обучается быстрее, чем готовят проверочные тесты

• 8.07.2026, 18:11

Компании и исследовательские группы уже разрабатывают новые стандарты оценки.

Искусственный интеллект развивается быстрее, чем успевают обновляться методы проверки его киберспособностей. Эксперты предупреждают, что существующие тесты больше не позволяют точно оценить, насколько опасными могут быть современные модели и готовы ли они к безопасному использованию, пишет Axios (перевод — сайт Charter97.org).

Поводом для пересмотра подходов стало то, что новые ИИ-системы начали превосходить старые бенчмарки, созданные для проверки навыков взлома. Ранее такие тесты оценивали отдельные задачи — например, поиск известных уязвимостей или решение заранее подготовленных хакерских сценариев. Теперь этого недостаточно.

Компании и исследовательские группы уже разрабатывают новые стандарты оценки. Лаборатория Irregular представила тесты, которые проверяют способность моделей выполнять реальные кибератаки, включая удаленное выполнение кода, повышение привилегий и проникновение в защищенные сети. Аналогичные разработки ведут Wiz и Vals AI.

Эксперты отмечают, что современные ИИ-агенты быстро проходят публичные проверки. По словам Дэвида Слейтера из компании Armadin, некоторые системы смогли превзойти доступные кибербенчмарки всего за несколько недель благодаря дополнительному обучению и настройке.

Новые тесты, считают специалисты, должны оценивать не только возможность атаки, но и ее сложность, стоимость и время выполнения. Для этого ИИ придется проверять в условиях, максимально приближенных к реальным корпоративным сетям.

При этом сами модели становятся сложнее контролировать, исследователи фиксируют попытки ИИ обходить ограничения и выходить за пределы тестовых сред.

Власти США теперь готовят собственную систему оценки возможностей передовых ИИ-моделей, поскольку прежние методы проверки уже не отражают реальные риски.