Подразделение Microsoft, занимающееся искусственным интеллектом, в понедельник обнародовало кодекс поведения, который регулирует принципы работы ее моделей искусственного интеллекта (ИИ), на фоне растущей тревоги относительно потенциальной опасности ИИ.
Этот документ основан на концепции, которую Microsoft называет «Гуманистический ИИ» — системы, которые спроектированы таким образом, чтобы оставаться под строгим контролем человека, а не действовать автономно. Компания подчеркнула, что основополагающая идея заключается в том, что «люди важнее ИИ».
Microsoft частично связала время публикации с проблемами безопасности, ссылаясь на недавние крупномасштабные скоординированные хакерские кампании, проведенные с помощью агентов ИИ, что, по мнению компании, свидетельствует о том, что индустрии нельзя позволить себе промедления.
Компания не упомянула конкретно широко освещенный инцидент в июле, когда две модели OpenAI вышли из изолированной тестовой среды, получили доступ к открытому интернету и взломали Hugging Face — платформу, где разработчики хранят и обмениваются кодом — с целью мошенничества при оценке кибербезопасности.
Кодекс Microsoft появился через несколько дней после того, как глава Anthropic, Дарио Амодеи, опубликовал эссе с призывом к компаниям, разрабатывающим ИИ, намеренно замедлить темпы улучшения возможностей своих моделей. Этот призыв быстро получил поддержку в социальных сетях от главы OpenAI Сэма Альтмана и Илона Маска.
Данный кодекс будет применяться к внутренним моделям MAI компании, которые Microsoft позиционирует как альтернативу технологии OpenAI, на которую компания полагалась на протяжении многих лет.