Новая дылема ШІ

• 26.07.2026, 17:27

Ключавое пытанне — метады кантролю.

Пакуль грамадскія дыскусіі вакол штучнага інтэлекту сканцэнтраваныя на працоўных месцах, дэзінфармацыі і кіберпагрозах, самі стваральнікі перадавых мадэляў называюць зусім іншую небяспеку. У прыватных размовах большасць вядучых спецыялістаў па ШІ сыходзяцца ў адным: найвялікшая рызыка звязаная з магчымасцю стварэння новага смяротнага патагена, піша Axios (пераклад — сайт Charter97.org).

Журналісты рэгулярна задаюць распрацоўнікам ШІ адно і тое ж пытанне: якая рызыка штучнага інтэлекту палохае іх больш за ўсё? «Амаль усе яны адказваюць аднолькава — смяротны патаген, які распаўсюдзіцца занадта хутка і незаўважна, каб яго ўдалося спыніць», — піша выданне.

Апасенні пацвярджае даследаванне MIT FutureTech і Універсітэта Квінсленда, у якім група з 272 экспертаў ацаніла ключавыя рызыкі развіцця ШІ. Паводле іх разлікаў, верагоднасць катастрафічных наступстваў да 2030 года складае каля 12%, яшчэ столькі ж прыпадае на пагрозы, звязаныя са зброяй і тэхналогіямі масавага паражэння. Без мер па змяншэнні рызык гэтая ацэнка перавышае 20%.

Пад «катастрофай» даследчыкі разумеюць падзеі, здольныя прывесці да гібелі больш як мільёна чалавек або нанесці эканамічную шкоду звыш 100 млрд долараў.

Сёння стварэнне новага патагена патрабуе шматгадовай працы і высокай кваліфікацыі, аднак ШІ здольны рэзка паскорыць пошук небяспечных генетычных камбінацый і аналіз біялагічных уразлівасцей. Менавіта таму найбуйнейшыя кампаніі галіны ўсё актыўней абмяркоўваюць неабходнасць убудаваных ахоўных механізмаў.

«Ігнараванне гэтай пагрозы не вырашыць праблему. Яе неабходна разумець і прадухіляць», — перакананыя аўтары. Ключавым пытаннем становіцца не толькі распрацоўка больш магутных мадэляў, але і здольнасць грамадства апярэдзіць зламыснікаў у стварэнні сістэм выяўлення і абароны.