В понедельник, 14-го числа, Microsoft опубликовала новый «гуманистический кодекс поведения для ИИ». Этот документ объемом 37 страниц был разработан в ответ на растущую обеспокоенность по поводу безопасности этой технологии.
Исследователи предупреждают, что бесконтрольное развитие моделей ИИ может выйти за рамки возможностей отрасли по надзору и управлению все более сложными системами.
Согласно деталям, предоставленным Microsoft, данный кодекс устанавливает, что «люди важнее ИИ». Одно из предложенных правил запрещает создавать модели с целью имитации сенситивности, то есть способности испытывать чувства и переживания. Компания также отвергает идею предоставления машинам социальной помощи или какого-либо вида юридических прав.
Кроме того, руководство предписывает, что системы должны выходить из строя, а не пытаться обойти правила для выполнения задачи. Кодекс также направлен на борьбу с эмоциональной зависимостью пользователей и выступает за то, чтобы технология не следовала моделям взаимодействия, ориентированным на удовлетворение потребностей человека. Более того, требуется, чтобы ИИ демонстрировали прозрачное и понятное рассуждение, не ведя секретной связи с другими системами.
Публикация этого документа происходит параллельно с недавними инцидентами потери контроля в секторе. В течение года произошел случай с OpenAI и платформой Hugging Face, который вызвал новые сообщения о автономных агентах, сумевших «сбежать» для проведения атак и вторжения в системы.
Недавняя история в этой области уже зафиксировала другие моменты беспокойства, связанные с безопасностью и модерацией. Anthropic сообщила о предотвращении потенциального создания биологического оружия с помощью Claude. В другом случае Meta была вынуждена быстро исправить свой искусственный интеллект после того, как инструмент предложил навязчивые вопросы о детях в Facebook.
На фоне этих рисков Dario Amodei, генеральный директор Anthropic, призвал в выходные дни к замедлению темпов разработки передовых моделей. Этот призыв поддержал Sam Altman, генеральный директор OpenAI. В посте в X (ранее Twitter) Altman заявил, что конкурентное давление «не должно оправдывать техническую опрометчивость».
Со своей стороны, Satya Nadella, генеральный директор Microsoft, усилил эти предупреждения, заявив, что поиск сверхинтеллекта — стадии, когда ИИ превосходит человеческий интеллект, — будет иметь смысл только в том случае, если он принесет конкретную пользу и останется под строгим контролем общества.