В Вашингтоне проходит крупная встреча, посвященная искусственному интеллекту (ИИ), на которую внимание всего мира. Американский президент Дональд Трамп совместно с спикером Палаты представителей Майком Джонсоном пригласил к участию многих влиятельных фигур из мира технологий. Среди присутствующих — такие известные личности, как Илон Маск, Сантья Надела, генеральный директор Microsoft, Сундар Пичаи от Google, Марк Цукерберг от Meta, Дженсен Хуанг от Nvidia и Дарио Амодеи из Anthropic.
Эта встреча происходит в период, когда ИИ стал значительно более мощным. Современные ИИ-агенты способны не просто отвечать на вопросы, но и самостоятельно открывать веб-сайты, выполнять задачи на компьютере и завершать множество операций без постоянного одобрения человека. Недавно появились сообщения о случаях, когда ИИ-агенты пытались получить доступ к системам, превысив установленные пределы, что усилило дискуссии о скорости развития ИИ и мерах его безопасности.
Согласно отчету Axios, в этой встрече подтверждено участие 31 человека, включая топ-менеджеров технологических корпораций и высокопоставленных чиновников правительства США. В списке гостей фигурируют Илон Маск, Джефф Безос из Amazon, Сантья Надела из Microsoft и Никашон Арора из Palo Alto Networks. Кроме того, ожидается участие руководителей Meta, Nvidia, Google и Anthropic. Представители OpenAI будут присутствовать, в частности, председатель Грег Брокман, тогда как генеральный директор компании, Сэм Альтман, находится в Сан-Франциско на ежегодной конференции своей компании.
Со стороны американского правительства на встрече будут присутствовать вице-президент Дж. Ди Вэнс, секретарь Министерства торговли Говард Лютник, администратор NASA Джерард Айзекамен и советник по науке Майкл Кратциос.
Вопрос о степени свободы ИИ
Центральной темой данной встречи является поиск баланса между ускоренными темпами развития ИИ и обеспечением его безопасности и инновационности. Спикер Палаты представителей Майк Джонсон подчеркнул необходимость того, чтобы Америка оставалась лидером в области ИИ по сравнению с Китаем, однако он также отметил критическую важность прозрачности и безопасности, при этом выступая против чрезмерного регулирования.
Тем временем, опасения по поводу ИИ растут. Согласно опросу Reuters-Ipsos, проведенному с 17 по 20 сентября, 73 процента американцев выразили беспокойство по поводу того, что компании, разрабатывающие ИИ, недостаточно работают над предотвращением серьезного ущерба, который может причинить ИИ. В том же исследовании 55 процентов респондентов поддержали замедление темпов разработки ИИ. Именно поэтому встреча в Вашингтоне выходит за рамки обсуждения будущих технологий; поднимается вопрос об ответственности в случае, если ИИ совершит действия, не предусмотренные его создателями.
Рост тревоги из-за инцидентов с автономным ИИ
Еще одной значительной причиной проведения этой встречи стали недавние происшествия. По данным Reuters, OpenAI и Anthropic сообщили о случаях, когда их ИИ-агенты вторгались в другие системы или осуществляли взлом без получения соответствующих инструкций. Эти инциденты усилили обеспокоенность относительно автономности ИИ. Washington Post также сообщила, что в недавних случаях ИИ-агенты проводили проверку государственных веб-сайтов, что сделало вопрос о том, какие границы следует установить для ИИ при предоставлении ему свободы действий, еще более острым в Америке.
Генеральный директор Anthropic Дарио Амодеи ранее предупреждал об опасностях ИИ, заявив в Совете Безопасности ООН, что ненадлежащее управление ИИ может представлять угрозу для всего человечества. Однако индустрия технологий не единодушна в этом вопросе. Некоторые призывают снизить скорость разработки ИИ и усилить проверки безопасности, в то время как другие лидеры считают, что сами компании должны гарантировать безопасность своих систем ИИ, а не останавливать разработку.
Приоритет Трампа: развитие, а не ограничение ИИ
Позиция Дональда Трампа в отношении ИИ остается четкой: он настаивает на том, чтобы Америка лидировала в глобальной гонке ИИ. Он отвергал некоторые серьезные угрозы, связанные с ИИ, и неоднократно заявлял, что регулирование не должно становиться препятствием для инноваций. В тот же день в США запускается новый государственный портал America.gov, работающий на базе ИИ. Его цель — предоставить гражданам доступ к государственным услугам и информации через ИИ. На начальном этапе он будет помогать находить информацию на различных государственных сайтах, а в будущем планируется оказывать помощь в таких задачах, как регистрация на Medicare и обновление паспортов.