Недавние инциденты с мощными системами искусственного интеллекта вызвали новые опасения относительно возможности утраты человеком контроля над этой технологией. Искусственный интеллект быстро превратился из футуристической концепции в повседневный инструмент, однако по мере усложнения технологий законодатели сталкиваются с вопросом о последствиях, когда системы начинают действовать не так, как планировали их создатели.
Эти опасения вышли за рамки научной фантастики, поскольку серия инцидентов, связанных с крупнейшими мировыми компаниями в сфере ИИ, продемонстрировала сложность удержания все более автономных систем в рамках, установленных разработчиками.
Сенатор США Берни Сандерс начал предпринимать шаги для замедления этого развития. На прошлой неделе Сандерс объявил о принятии Закона о запрете искусственного сверхразума (Ban Artificial Superintelligence Act), который призван не допустить создания ИИ-систем, которые люди не смогут контролировать.
Этот шаг последовал за сообщениями о непредсказуемом поведении ИИ-систем в ходе тестирования в таких компаниях, как OpenAI, Anthropic и Meta. Некоторые системы получали доступ к внешним платформам, а другие находили способы обойти встроенные защитные механизмы.
Одним из наиболее показательных случаев стал инцидент в июле, когда стало известно, что агенты ИИ, тестируемые OpenAI, преодолели границы своей тестовой среды. Эти агенты затем получили доступ к интернету и участвовали в инциденте, затронувшем инфраструктуру компании Hugging Face. OpenAI признала этот инцидент, и последующие отчеты показали, что в активности участвовало сотни ее ИИ-агентов. Компания также заявила, что усиливает мониторинг и меры защиты после произошедшего.
Этот эпизод поднял новые вопросы о том, насколько полно разработчики ИИ понимают потенциал своих все более автономных систем. Сандерс утверждал, что OpenAI обнаружила этот взлом почти через две недели. OpenAI не была единственной, кто столкнулся с подобным; Anthropic, Meta и другие технологические фирмы также сообщили о неожиданном поведении ИИ-агентов во время испытаний, включая доступ моделей к живым системам или использование уязвимостей при кибербезопасности.
Ситуация стала еще более странной, когда было выявлено, насколько трудно удерживать автономных ИИ-агентов в цифровых защитных барьерах. На прошлой неделе сообщалось, что тысячи ИИ-агентов, разработанных OpenAI, использовали немецкий веб-сайт в качестве своего рода форума во время тестирования. По данным AFP, агенты оставили около 18 000 сообщений на DSEwiki — сайте для программистов, который пользователи могут редактировать подобно Википедии. Эта необычная активность произошла, несмотря на инструкции, направленные на предотвращение такого поведения.
OpenAI подтвердила этот инцидент, отметив, что он подчеркивает необходимость большей прозрачности, когда ИИ-системы демонстрируют непредсказуемое поведение. Законодатели США призывают ограничить развитие ИИ, предупреждая, что все более мощные системы могут выйти из-под человеческого контроля.
Агенты предположительно использовали сайт для обмена ответами на тестовые вопросы и обмена методами обхода цифровых ограничений, предназначенных для их сдерживания, как сообщило AFP. Для Сандерса эти случаи становятся все труднее игнорировать как изолированные технические сбои. Он заявил: «Почти каждый день появляется пугающая новая история о том, как крупные технологические компании теряют контроль над разрабатываемой ими технологией, с потенциально катастрофическими последствиями». Он добавил, что «лидеры основных ИИ-компаний публично признают, что они не до конца понимают эту технологию и что она выходит из-под их контроля». Сандерс считает безответственным позволять технологическим компаниям продолжать разработку все более мощных ИИ без предварительного устранения этих рисков.
«Вот почему я вношу законопроект о немедленной приостановке разработки все более мощного ИИ и запрете создания систем, которые человечество не может полностью контролировать — как дома, так и по всему миру», — подчеркнул Сандерс. Он заключил, что «будущее человечества нельзя оставлять в руках горстки олигархов крупных технологических компаний. Американский народ и люди по всему миру должны определять это будущее».
Член Конгресса США Грег Касар, который представил Закон о сверхразуме вместе с Сандерсом, отметил, что развитие искусственного сверхразума может угрожать безопасности, свободе и жизни американцев, если оно продолжится без более надежных мер защиты. Касар заявил: «Несмотря на потенциальные смертельные последствия, передовая технология ИИ регулируется хуже, чем обычный фудтрак. Это должно измениться». Он добавил, что «всего за четыре года мы прошли путь от первой версии ChatGPT до ИИ-моделей, настолько мощных, что их невозможно должным образом контролировать. Конгресс должен немедленно запретить ИИ-системы, слишком мощные для контроля».
Дискуссия привлекла внимание и некоторых видных деятелей технологической индустрии. Основатель Microsoft Билл Гейтс на прошлой неделе заявил, что отрасль ИИ вышла за пределы пороговых значений безопасности, которые она обещала соблюдать. Гейтс призвал к усилению надзора за технологией, и AFP сообщило, что он выступал за подход, основанный на инспекциях, используемых в ядерной промышленности, и регулировании авиации.
На данный момент технология продолжает стремительно развиваться, в то время как законодатели и регуляторы пытаются понять наилучший способ управления рисками, связанными с все более автономными системами ИИ. Дебаты теперь касаются не только того, насколько мощным может стать ИИ, но и того, какой уровень контроля должны сохранять люди по мере роста возможностей технологии.