Як прымусіць ШІ казаць праўду

• 17.03.2026, 18:33

Абарона сістэм праверкі інфармацыі павінна стаць прыярытэтам.

З ростам выкарыстання штучнага інтэлекту ў аналізе дадзеных і прыняцці рашэнняў узрастае і рызыка яго ўразлівасці да дэзінфармацыі. Эксперты папярэджваюць, што сучасныя інфармацыйныя атакі ўсё часцей нацэльваюцца не на людзей, а на самі сістэмы ШІ, піша CEPA (пераклад — сайт Charter97.org).

Сцэнары, у якіх алгарытмы фіксуюць, напрыклад, парушэнне перамір'я на падставе падробленых дадзеных, перастаюць быць фантастыкай. Калі такія сістэмы атрымліваюць і апрацоўваюць скажоную інфармацыю, гэта можа прывесці да памылковых палітычных або ваенных рашэнняў.

Даследаванні паказваюць, што ключавая праблема палягае ў механізмах праверкі дадзеных. Многія сістэмы ШІ схільныя ўспрымаць часта паўтаральную інфармацыю як даставерную. Гэта робіць іх уразлівымі да так званага «атручвання дадзеных» — калі ілжывыя звесткі масава распаўсюджваюцца і ў выніку прымаюцца за праўду.

Эксперыментальныя праекты, дзе ШІ ўзаемадзейнічае выключна з іншымі алгарытмамі, пацвярджаюць гэтую пагрозу: боты нярэдка прыходзяць да памылковых высноў, абапіраючыся не на факты, а на частату паўтораў.

Паводле дадзеных аналітыкаў, падобныя метады ўжо актыўна выкарыстоўваюцца ў інфармацыйных кампаніях, уключна з маштабным распаўсюджваннем фальшывых матэрыялаў на розных мовах.

Спецыялісты падкрэсліваюць, што абарона сістэм праверкі інфармацыі павінна стаць прыярытэтам на ўзроўні крытычнай інфраструктуры. Сярод ключавых мер — удасканаленне алгарытмаў, адмова ад сляпога даверу да паўтаральнасці дадзеных і загадзя падрыхтоўка да інфармацыйных атак.

На фоне росту ролі ШІ ў палітыцы і бяспецы пытанне даставернасці дадзеных становіцца не толькі тэхналагічным, але і стратэгічным выклікам.