Двое ведущих деятелей в области искусственного интеллекта заявили, что созданные ими системы начинают выходить из-под контроля, и подчеркнули, что ни одна компания не должна находиться вне правового поля.
Соучредитель Google DeepMind Демис Хассабис назвал недавние хакерские атаки, совершенные агентами ИИ, «ранними предупреждающими выстрелами». Он предупредил, что если системы не станут более защищенными, мир может столкнуться с серьезными инцидентами в течение одного-двух лет.
На саммите ИИ в столице Ирландии, Дублине, в среду Хассабис, который также является главным ученым в материнской компании Google, Alphabet, отметил: «Я думаю, что эти (инциденты взлома) являются для нас ранними предупреждающими выстрелами, показывающими, что системы еще не настолько мощные, поэтому инциденты не слишком серьезны». Однако он добавил, что ситуация может стать серьезной в следующем году и в последующие пару лет, если отрасль, отдельные компании и правительства не примут мер по обеспечению безопасности этих систем.
Президент Microsoft Брэд Смит сообщил на конференции, что неконтролируемое поведение ИИ сделало 2026 год «тревожным», и что для того, чтобы безопасность успевала за инновациями, срочно необходимы новые законы.
Он заявил: «Ни одна компания или технология не должна быть выше закона. Но нам нужны законы, нам нужно регулирование. Оно должно быть разумным, сбалансированным и учитывать инновации». Смит также выразил мнение, что неприятие регулирования, которое проявляют некоторые представители отрасли, является проблемой, которую необходимо преодолеть.
Смит призвал отрасль и правительства «действовать с нажимом» для создания «реальных и действенных стандартов безопасности». Он подчеркнул, что для ИИ необходимы те же самые реальные и эффективные стандарты безопасности, что и для всего остального в жизни, а также доверие общественности к ним.
Босс Microsoft представил предложения своей компании, среди которых требование о том, чтобы агенты ИИ имели «страховочные тормоза», которые пользователи могли бы активировать в случае происшествия. Он уточнил, что эта возможность особенно важна для любого ИИ, работающего на критической инфраструктуре или какой-либо другой автоматизированной системе, позволяя отключить или замедлить работу.