Сенатор США Берни Сандерс, представляющий штат Вермонт, является одной из наиболее активных фигур в борьбе с потенциальными вредами искусственного интеллекта. В рамках своей последней инициативы политик предложил ввести наказание в виде тюремного заключения сроком до 20 лет для тех, кто разработает «сверхвысокий искусственный интеллект».
Этот законопроект называется Ban Artificial Superintelligence Act и был недавно представлен Сандерсом совместно с депутатом Грегом Касаром. Сверхвысокий искусственный интеллект (ASI) — это технология ИИ, способная превзойти людей в широком спектре задач, а не только в узкоспециализированных областях.
Сандерс и Касар предполагают, что ASI может достичь настолько высокого уровня сложности, что сможет совершать действия вне человеческого контроля. К таким действиям относятся разработка биологического оружия без соблюдения мер безопасности или создание механизмов самосовершенствования, которые игнорируют команды на отключение.
Чтобы предотвратить реализацию такого сценария, Сандерс и Касар выступают за введение регулирования, которое запрещает развитие систем ИИ без применения строгих механизмов контроля рисков к этим проектам.
Срок в 20 лет тюрьмы был бы назначен разработчикам или руководителям организаций, занимающихся проектами ASI, которые не соблюдают обязательные защитные меры. Издание USA Today отмечает, что это очень суровое наказание, сравнимое с приговорами за незаконное производство ядерного оружия.
Таким образом, законопроект призван быть достаточно строгим, чтобы остановить бесконтрольное развитие технологий ИИ. Кроме того, проект предусматривает временную приостановку разработки продвинутых систем ИИ, создание американского агентства для мониторинга таких технологий и установление международных соглашений, чтобы ASI не разрабатывались в других странах.
Однако вероятность того, что этот законопроект будет принят, по крайней мере в предложенной степени строгости, мала. Среди причин этого — опасения правительства США относительно сохранения лидерства в разработке технологий ИИ. США, вероятно, не хотят допустить, чтобы Китай занял эту позицию.
Вероятно, Берни Сандерс осведомлен об этом. Тем не менее, в одном аспекте он добился успеха: привлек внимание общественности к «темной стороне» искусственного интеллекта. Стоит также упомянуть, что несколько месяцев назад Сандерс предлагал суверенный фонд, основанный на акциях ИИ-компаний, для распределения ежегодных 1000 долларов каждому американскому гражданину. Этот законопроект был представлен после другой инициативы сенатора — о передаче 50% капитала ИИ-компаний народу Америки.