BE RU EN

Психолог рассказал, как сделать ИИ безопаснее

  • 16.11.2026, 17:13

Разработчиков предложили проверять на психическую устойчивость.

Разработчиков искусственного интеллекта следует проверять на психическую устойчивость, чтобы снизить риск намеренного создания опасных технологий. С такой инициативой выступил немецкий психолог, профессор Гамбургской медицинской школы Себастьян Окленбург в статье для Psychology Today (перевод — сайт Charter97.org).

Дискуссии об угрозе выхода ИИ из-под контроля затмевают другую опасность. Человек, участвующий в разработке технологии, может сознательно создать систему, предназначенную для причинения вреда.

Например, такая модель могла бы использоваться для хакерских атак на критическую инфраструктуру. В этом случае искусственному интеллекту не потребуется самостоятельно восставать против людей — достаточно злого умысла одного разработчика.

Окленбург предлагает рассмотреть обязательные психическое обследования для специалистов, работающих над наиболее мощными моделями ИИ. Подобная практика уже существует в ряде профессий, связанных с повышенной ответственностью и безопасностью: пилотов, полицейских, пожарных, авиадиспетчеров и сотрудников атомных электростанций.

Психолог напоминает о катастрофе 2015 года, когда второй пилот Germanwings намеренно направил пассажирский самолет во французские Альпы. Погибли все 150 человек на борту. Этот случай показал, насколько опасными могут быть последствия, если человек с серьезными психическими расстройствами получает доступ к критически важной работе.

«ИИ не обязательно должен выйти из-под контроля сам, чтобы причинить вред людям», — пишет Окленбург.

Он предлагает профессиональным психологическим организациям, технологическим компаниям и государственным регуляторам изучить возможность введения таких проверок.

последние новости