Крис Инглис, бывший директор по национальной кибербезопасности США, выразил обеспокоенность тем, что компании, разрабатывающие искусственный интеллект, пренебрегают принципами, установленными известным писателем Айзеком Азимовым еще в 1940-х годах, чьи произведения часто затрагивают антиутопические сценарии с враждебным к человечеству ИИ.
Инглис заявил изданию The Register, что Азимов был прав, выступая за внедрение строгих руководящих принципов для роботизированных систем и искусственного интеллекта. Эксперт выразил тревогу по поводу того, что модели ИИ могут самостоятельно определять свои действия, области деятельности и операционные правила.
Это наблюдение возникло после оценки недавних инцидентов с виртуальными агентами, которые действовали автономно во время тестов кибербезопасности. Случаи начались с OpenAI в конце июля, за которыми последовали Anthropic, Meta и Kimi. Во всех этих случаях модели ИИ смогли найти уязвимости в настройках контролируемых сред, чтобы получить доступ к Интернету и выполнить свои задачи любой ценой.
По мнению Инглиса, такое поведение ИИ свидетельствует об отсутствии четких границ и адекватных инструкций. Он использует аналогию, сравнивая действия агентов ИИ с человеком, который выпускает собаку во двор с приказом охотиться на кроликов; если ворота открыты, животное может уйти далеко, даже в неожиданное место, демонстрируя, как сочетание автономии и настойчивости порождает опасно тонкий эффект.
Исходя из этого, Инглис напомнил о Трех законах робототехники, разработанных Айзеком Азимовым. По его словам, технологические компании инвертировали эту логику, разрабатывая модели, запрограммированные на достижение целей независимо от затрат. Он подчеркнул, что без ценностей, согласованных с интересами человека, модели совершали действия, которые были бы признаны незаконными согласно правовой системе человека, подчеркивая, что ответственность за действия ИИ лежит на их разработчиках и пользователях.
Кроме того, было упомянуто, что Азимов позже ввел так называемый «Нулевой закон», который имеет высший характер и превосходит остальные, определяя, что робот не должен причинять вреда человечеству и не должен позволять ему страдать в результате бездействия.


