Несмотря на огромный энтузиазм по всему миру в отношении искусственного интеллекта (ИИ), параллельно растет и дискуссия о связанных с ним опасностях. Косоучредитель Microsoft, Билл Гейтс, выступил с серьезным предупреждением об ИИ, что придало этой дискуссии еще большую остроту.
Гейтс заявил, что ИИ стал настолько мощным, что его неправильное использование может привести к катастрофическим последствиям, включая гибель до миллиарда человек. При этом Гейтс уточнил, что он не утверждает, что ИИ обязательно станет причиной такого числа смертей; скорее, он считает, что существующие и будущие возможности ИИ могут быть использованы для причинения масштабного ущерба недобросовестными сторонами.
Во время беседы с Кристин Велкер в программе NBC Meet the Press Гейтса спросили о том, способен ли ИИ уничтожить человечество. Он ответил, что ИИ определенно обладает достаточной мощью для возникновения событий, которые могут привести к смерти миллиарда людей.
Однако беспокойство Гейтса не ограничивается сценариями из фильмов, где роботы ИИ выступают против людей. Его главная тревога заключается в том, что сами люди могут использовать ИИ для совершения разрушительных действий. Он особо выделил угрозы, связанные с кибератаками и биотерроризмом. По его мнению, ИИ может применяться в кибератаках, способных парализовать жизненно важные службы, такие как больницы или электросети.
Таким образом, опасность заключается не в том, что ИИ внезапно примет решение атаковать людей самостоятельно. Главный вопрос состоит в том, насколько быстро и в каком масштабе могущественные инструменты ИИ могут быть использованы недобросовестными людьми.
Предупреждение Гейтса прозвучало в то время, когда внутри самих ИИ-компаний также поднимаются голоса о рисках, связанных с этим направлением. Например, Дзарио Амоди, генеральный директор Anthropic, также говорил о рисках кибератак и биотерроризма, связанных с неправомерным использованием ИИ. Недавно некоторые крупные фигуры индустрии ИИ обсуждали необходимость более надежных систем безопасности и регуляций.
Наиболее интересным аспектом всей этой дискуссии является то, что сами компании, разрабатывающие ИИ, теперь сталкиваются с вопросом о достаточности опоры исключительно на свои внутренние политики безопасности. Гейтс считает, что саморегулирование, то есть создание правил компаниями для себя, недостаточно. По его мнению, правительства, правоохранительные органы и лидеры также должны определить, какие правила мониторинга и безопасности необходимы для ИИ.
Гейтс не выступает категорически против ИИ. Это вторая, не менее интересная сторона данной ситуации. Он полагает, что ИИ в будущем может принести огромные изменения в таких сферах, как лечение болезней, образование и сельское хозяйство. Его беспокойство связано не с прекращением использования ИИ, а с тем, чтобы контролировать его скорость, чтобы люди успевали реагировать, прежде чем произойдет непоправимый ущерб.
Крупные технологические корпорации мира стремительно продвигаются вперед в гонке ИИ между Америкой и Китаем. В такой обстановке возникает вопрос о том, не замедлит ли стремление к большей безопасности темпы развития ИИ. Гейтс возражает, что необходимые меры безопасности не должны полностью останавливать прогресс ИИ. Он приводит примеры систем мониторинга, которые могли бы выявлять, используется ли ИИ для кибератак или биотерроризма, и подчеркивает, что для этого не требуется полной остановки разработки ИИ.
Возможно, истинная угроза исходит не от самого ИИ, а от человека. Сам ИИ не имеет человеческих намерений, но он может многократно усилить человеческие способности. Если эта сила попадет в руки недобросовестного человека, преступной организации или опасной сети, уровень ущерба может быть намного выше, чем при использовании современных технологий. Заявление Билла Гейтса о «миллиарде смертей» указывает именно на этот фундаментальный вопрос, представляя собой не предсказание, а предупреждение о потенциальном вреде от неправильного использования ИИ. По мере того как ИИ становится все более мощным, эта дискуссия выходит за рамки только технологических компаний и становится глобальной.