Министр науки, исследований и технологий Хоссейн Симаи-Сарраф предупредил, что растущее применение искусственного интеллекта (ИИ) для анализа данных может привести к переходу от контроля над данными к контролю над человеком, что потенциально может породить то, что он назвал «невидимой диктатурой».
Эти замечания были сделаны Симаи-Саррафом во время участия в 4-м Глобальном форуме по этике искусственного интеллекта (GFEAI 2026), который проходил в Эр-Рияде, Саудовская Аравия, с 14 по 17 сентября, как сообщило агентство IRNA.
Возглавляя иранскую делегацию на форуме, министр подчеркнул необходимость серьезно рассматривать этические последствия новых технологий. Он заявил, что «технология не является нейтральной, и искусственный интеллект сам по себе не работает справедливо. Иногда алгоритмы разрушают больше, чем строят, а платформы становятся источниками вреда, а не развития».
Симаи-Сарраф отметил, что жизненно важны повышенная прозрачность и надзор со стороны правительств и властных структур. Однако, если наблюдение направлено на рядовых граждан, отслеживая их поведение, отношения и намерения, это может обернуться невидимой диктатурой.
Обращаясь к этической ответственности платформ и разработчиков ИИ, министр науки спросил: «Сегодня данные используются способами, которые нарушают права человека и даже приводят к гибели детей, что поднимает серьезный вопрос: принимают ли платформы ИИ ответственность за то, как используются их технологии?»
Он привел примеры, когда чат-боты отказываются отвечать на вопросы о самоубийстве, что правильно, но при этом ИИ может использоваться для идентификации и точного поражения людей ракетами, как это произошло с начальной школой в Минабе, которую атаковали ракеты США, унеся жизни 168 учеников во время занятий.
По мнению Симаи-Саррафа, неравенство представляет собой еще одну фундаментальную проблему эпохи ИИ. Он напомнил, что неравный доступ к знаниям и возможностям всегда создавал диспропорции, и ИИ способен расширить этот разрыв сильнее любой другой технологии. Следовательно, этическая основа должна быть направлена не только на предотвращение вреда, но и на обеспечение равного доступа.
Развивающиеся страны должны иметь возможность создавать собственные системы ИИ, адаптированные к их языкам и культурам, а международные организации несут этическую ответственность за помощь этим нациям в достижении этой цели. Министр добавил, что технология должна служить человечеству, а ИИ должен расширять человеческую свободу, а не ограничивать ее.
В ответ на вопрос о самой важной мере для укрепления потенциала Ирана в области ответственного ИИ, Симаи-Сарраф сообщил, что если бы этот вопрос был задан до июня 2025 года, он бы однозначно ответил целевыми и устойчивыми инвестициями в секторы воды и энергетики, за которыми последовало бы укрепление сотрудничества в экосистеме ИИ Ирана.
Касаясь изменения региональных приоритетов, министр продолжил, что «сегодня, я думаю, устранение принудительных мер и установление мира в регионе являются главными приоритетами для Ирана, а также для всего региона. Эти санкции неэтичны, и установление безопасности и мира является моральным императивом».
Глобальный форум служит ключевой площадкой для продвижения реализации Рекомендации по этике искусственного интеллекта среди всех государств-членов ЮНЕСКО. Он способствует обмену опытом и знаниями между регионами в разработке политики ИИ, регуляторных рамок и институционального потенциала для содействия инключительному и устойчивому социально-экономическому развитию при защите прав человека и основных свобод.
Форум, запущенный в 2022 году, ранее проводился Чехией, Словенией и Таиландом при софинансировании Европейского Союза с 2024 года. Выпуск 2026 года нацелен на создание благоприятной среды для высокого уровня этических размышлений, связывая дискуссии о управлении с технологическими инновациями. Министр науки запланировал участие в специализированных встречах, панельных дискуссиях и переговорах с представителями других стран.