Недавние события вызвали опасения относительно потенциальной опасности мощных систем искусственного интеллекта. В сентябре исследователь из Anthropic подал в отставку, предупредив, что разработчики мощного ИИ «искренне полагают, что он может уничтожить нас всех к концу десятилетия».
Через несколько дней Король Чарльз, открывая свой саммит по ИИ в Шотландии, говорил об «экзистенциальных опасностях» и технологиях, которые рискуют приобрести «более мрачные способности — возможно, даже способность убивать».
Билл Гейтс предостерегал, что в ненадлежащих руках ИИ обладает достаточной мощью, чтобы спровоцировать события, приводящие к «миллиарду смертей». Одновременно с этим в новостях появлялись сообщения о случаях побега «неуправляемых агентов ИИ» и их «выходе из изоляции», однако гораздо меньше внимания уделялось мерам защиты, стандартам безопасности и скомпрометированным системам.
Лидерам бизнеса, принимающим решения об использовании ИИ, будет мало пользы ни от тех, кто настроен пессимистично, ни от энтузиастов. Им необходим более строгий критерий для определения того, когда можно доверять этой технологии.
Для тех, кто работает в сфере ИИ на протяжении десятилетий, современные системы представляют собой, в некотором смысле, осуществление мечты. То, что машины теперь способны делать с языком, казалось ранее недостижимым.
Однако чудо не равно уверенности. Способность ИИ совершать выдающиеся вещи мало говорит о том, что он сможет делать надежно в будущем, каковы его пределы или достаточно ли мы понимаем эти пределы, чтобы поручить ему определенные обязанности.
Поэтому, когда появляется тревожный заголовок, следует задаваться вопросами: что было протестировано, при каких условиях, с каким доступом и с какими мерами защиты? Затем нужно выяснить, что именно демонстрирует данный инцидент. Драматическое описание не является объяснением.
Чрезмерное экстраполирование
История этой области полна прогнозов о том, что машины скоро сравняются или превзойдут людей. Современные системы значительно более способны, чем их предшественники, и в некоторых аспектах, например, в разработке программного обеспечения и математике, они уже превосходят нас. Прогресс шел чрезвычайно быстро.
Урок истории заключается в том, что настоящий прогресс соблазняет нас делать слишком далеко идущие предположения. Одна из причин таких уверенных прогнозов может заключаться в том, что ИИ использует язык очень бегло. Поскольку язык является центральным элементом человеческого опыта, мы описываем плавные системы человеческими терминами: они думают, хотят, беспокоятся. Эти слова несут в себе предположения о разумности и намерении, которые производительность технологии не подтверждает.
Поведение системы должно рассматриваться серьезно и тщательно анализироваться, не позволяя человекоподобным описаниям выполнять работу анализа. Возможности ИИ неоднородны. Люди, ежедневно работающие с этими системами, видят, как они впечатляюще справляются со сложным языком и рассуждениями, а затем терпят неудачу в чем-то, что человек посчитал бы тривиальным. В организации, которая интегрировала ИИ в свои рабочие процессы или обслуживание клиентов, такие сбои могут привести к значительным потерям. Они не говорят о злонамеренных намерениях; они показывают, что успех в одной задаче не гарантирует надежности в другой.
Поэтому советы директоров и руководители должны отдавать предпочтение локализованному ИИ, созданному для их конкретной среды, а не мощным, но неограниченным общим системам. Также нельзя предполагать, что мера предосторожности, работающая в одной обстановке, будет работать и в другой.
Существует и более тонкий риск: что лошадь обучает всадника. ИИ еще не обрел сознания или не выработал стремления изменить нас, но организации адаптируются к инструментам, которые они используют. Руководителям следует задаться вопросом, начали ли их сотрудники доверять беглым ответам, не проверяя их, перестраиваются ли процессы вокруг того, что может произвести система, а не того, что требует задача, и постепенно ли передается суждение, потому что ИИ кажется более способным, чем есть на самом деле.
Ответ заключается в точном определении того, где и как используется ИИ. Прежде чем приступить к работе, африканские предприятия должны ответить на пять вопросов:
- Назовите задачу: Что именно просит сделать ИИ?
- Проверьте в реальных условиях: Работает ли система с реальными клиентами? Понимает ли она, как они используют язык?
- Ограничьте воздействие: Какая информация ей действительно нужна? Нужен ли ей доступ ко всем данным, которые вы предполагали?
- Проверьте работу: Как будут обнаруживаться ошибки? Какие меры контроля предусмотрены в областях высокого риска, таких как конфиденциальность клиентов?
- Сохраните ясность ответственности: Кто несет ответственность, когда система выходит из строя? Где и когда человек должен вмешаться?
Ответственное внедрение ИИ основано на умеренном, но требовательном стандарте: использовать ИИ там, где он доказывает свою ценность в контексте, ограничивать его пропорционально риску и сохранять ответственность за людьми, которые решили его развернуть.