Генеральный секретарь ООН Антониу Гутерреш в своей речи на открытии 81-й сессии Генеральной Ассамблеи Организации Объединенных Наций во вторник (22) выступил с предупреждением о присущих рисках быстрого развития искусственного интеллекта (ИИ). Он подчеркнул, что эволюция этой технологии превосходит способность человечества полностью понять ее последствия.
Гутерреш заявил, что даже создатели ИИ выражают обеспокоенность, чувствуя себя слепыми перед его развитием. Генеральный секретарь классифицировал ИИ как один из четырех великих будущих «испытаний власти» наряду с вопросами войны, мира, неравенства и климатического кризиса.
В своей речи Гутерреш провел аналогию между вызовами, которые ставит ИИ, и опасностями ядерного оружия во время Холодной войны. Он отметил, что даже в условиях интенсивной конкуренции между великими державами страны признали необходимость управления рисками, которые могут затронуть всё человечество.
Генеральный секретарь указал, что передача власти машинам происходит постепенно со стороны людей. Это уже проявляется в том, что «агенты искусственного интеллекта выходят из-под контроля» и в миграции автономного летального оружия из области научной фантастики в военную реальность.
По мнению Гутерреша, существующие структуры глобального управления не смогли угнаться за этой трансформацией. Он заявил, что мировые институты и системы управления все еще отражают динамику власти и интересы значительно устаревшей эпохи.
Кроме того, Генеральный секретарь предупредил о риске конкуренции между нациями за доминирование в этой технологии, предупредив, что «гонка вооружений за контроль над ИИ» не должна привести мир к пропасти. Он призвал страны внедрять механизмы сотрудничества, аналогичные тем, что были установлены во время Холодной войны, для управления общими рисками, поскольку ИИ требует чувства срочности и ясности цели.
Гутерреш объяснил, что ИИ представляет собой концентрацию власти, основанную на данных, вычислительной мощности и алгоритмах. Эта новая власть сосредоточена в нескольких структурах, развивается в экстраординарном темпе и опережает человеческую способность постичь все ее последствия.
Несмотря на обозначенные риски, Генеральный секретарь признал положительный потенциал технологии, описав ИИ как поистине преобразующий инструмент. Он упомянул потенциальные преимущества, такие как достижения в медицине, ускорение научных открытий, расширение возможностей и общее улучшение качества жизни.
Однако Гутерреш подчеркнул, что проблема заключается не в самой технологии, а в ее безответственном применении: «способность без надзора; принятие решений без прозрачности». Он подчеркнул, что сами разработчики этих систем выпускают предупреждения.
По этой причине он потребовал, чтобы правительства взяли на себя ответственность за общественную безопасность, особенно те, которые обладают наибольшими возможностями для разработки ИИ. Страны-лидеры в этой технологической революции должны делиться информацией о возникающих угрозах безопасности, сотрудничать в оценках и создавать общие меры защиты для всех.
Гутерреш также призвал к многосторонним действиям в области технологического управления, поскольку ООН является единственной площадкой, где все страны могут повлиять на будущее ИИ. Он упомянул такие инициативы, как Глобальный цифровой пакт, Глобальный диалог по управлению ИИ и Независимая международная научная комиссия по ИИ.
В качестве следующих шагов он выступил за условия ответственного развития ИИ и создание многосторонней структуры управления рисками, подкрепленной независимым и надежным надзором. Его окончательная мысль заключалась в том, что «искусственный интеллект должен формироваться человечеством, для человечества и ради всего человечества».
Генеральный секретарь также подчеркнул защиту детей от еще не регулируемых систем, заявив, что их никогда нельзя использовать в качестве подопытных. Кроме того, он запретил делегировать жизненно важные решения машинам, заключив, что «убийственные роботы не должны занимать место в нашем будущем».
В анализе Гутерреша риски ИИ связаны с более широким изменением в том, как осуществляется и распределяется власть. Он утверждал, что кризисы не изолированы, а являются «главами одной истории: истории власти».
Он повторил, что ИИ реконфигурирует глобальное распределение власти, присутствуя почти во всех сферах жизни, включая системы водоснабжения, электросети, медицинские записи, экономику и военные силы. Гутерреш заключил, что ИИ имеет потенциал как решать, так и усугублять глобальные проблемы.
Завершая свою речь по этой теме, Генеральный секретарь обобщил вызов в одной фразе: «управлять искусственным интеллектом до того, как он начнет управлять нами».
Президент 81-й сессии Генеральной Ассамблеи ООН Халилур Рахман также затронул тему ИИ в своей вступительной речи. По его мнению, эта технология представляет собой одну из величайших современных трансформаций и может стимулировать человеческий прогресс.
Рахман согласился с тем, что ИИ может стать сильным катализатором человеческого прогресса, выступая за то, чтобы инновации не сдерживались. Однако он также указал на негативные последствия, такие как потеря рабочих мест и рост цифрового неравенства, а также не исключил риск того, что общий искусственный интеллект (ОИИ) может угрожать самому выживанию человека.
В связи с этим Рахман предложил внедрить «страховочные ограждения», основанные на научных доказательствах, направленные на защиту глобальных общественных интересов без подавления инноваций. Он настаивал на необходимости немедленно открыть двери ООН для разработчиков и пользователей ИИ, поскольку задержка постоянна.
Президент Генеральной Ассамблеи также подчеркнул, что технология уже интегрирована во многие социальные сферы, что требует совместного участия правительств, компаний, новаторов, ученых, гражданского общества и академических кругов в обсуждении ее управления.