Демис Хассабис, один из ведущих специалистов в сфере искусственного интеллекта (ИИ), предупреждает о скором наступлении технологической революции. Он настоятельно призывает к незамедлительным мерам для подготовки к вызовам, которые несет в себе Общий искусственный интеллект (AGI), сравнивая его влияние с открытием электричества или огня.
Значимость момента в развитии ИИ
Технолог, стоящий за одной из передовых лабораторий ИИ, Google Deepmind, написал статью, посвященную ИИ, которая требует внимания. Хассабис подчеркивает, что данная технология, то есть Общий искусственный интеллект, «не может быть сравнена со стандартными технологическими прорывами, даже такими значимыми, как интернет или мобильные устройства — она гораздо больше похожа на открытие электричества или огня».
Он считает, что такое описание помогает всем осознать, что человечество находится на неизведанной территории, требующей нестандартных подходов для противостояния этим изменениям.
Риски и отсутствие подготовки
Хассабис акцентирует внимание на серьезном риске, указывая на необходимость «срочных действий» по мере приближения к моменту, когда эта технология приобретет более продвинутые характеристики. Однако его беспокоит тот факт, что, по его мнению, предпринимаются никакие шаги для подготовки мира к грядущим событиям. Вместо этого, он отмечает, что мир оказался «заперт в чрезвычайно интенсивной, многоуровневой коммерческой и геополитической гонке».
Автор статьи также упоминает схожие проблемы в Южной Африке, где после обнаружения ошибок в следовавшем процессе руководители ушли в подполье. Несмотря на активность академических кругов в публичной сфере, по этому важному вопросу царит молчание, что вызывает обеспокоенность, особенно учитывая возможное влияние частных интересов на законодателей.
Предложения по регулированию
Хассабис выдвигает важное предложение для преодоления этого застоя. Он рекомендует создать «новый орган стандартизации, основанный на государственно-частном партнерстве под федеральным надзором или саморегулирующейся организации, подобно Финансовому регулятору индустрии (FINRA), с советом, включающим независимых ведущих технических экспертов и представителей открытого исходного кода».
Этот регулятор, по его словам, должен отвечать за разработку протоколов оценки и сотрудничество с соответствующими федеральными агентствами и Национальными лабораториями США для проведения тестирования в областях, имеющих отношение к национальной безопасности. Он указывает, что такая модель будет считаться «классом фронтира», если она соответствует определенным порогам, установленным органом стандартизации и регулярно обновляется в соответствии с развивающимися возможностями ИИ.
Модель «Фронтир-лабораторий»
Организации, обладающие «моделями фронтира», определенными этими критериями, будут признаны «лабораториями фронтира» и получат стимулы для внедрения передовых практик. К таким практикам относятся публикация карточек моделей с техническими деталями, поддержание надежной внутренней кибербезопасности, проверка ключевого персонала и обеспечение достаточного финансирования для исследований в области безопасности. Автор отмечает, что единственным ограничением в его рекомендациях является то, что такой подход должен быть принят в США, однако он настаивает, что это вмешательство должно распространяться по всему миру.
Страны могут самостоятельно предпринимать аналогичные шаги и совместно работать с глобально признанными структурами. Хассабис предлагает, чтобы «лаборатории фронтира добровольно делились моделями с органом стандартизации для проверки за 30 дней до выпуска». После того как протокол оценки покажет свою эффективность и надежность, формализация может быстро последовать, что потребует от Моделей Фронтира соответствия этому протоколу для развертывания на рынке США. Лаборатории также будут сотрудничать с органом стандартизации для устранения любых критических уязвимостей после выпуска.
Необходимость принятия мер должна быть реализована на местном уровне. Учитывая лидерство США в области ИИ, он рекомендует более сфокусированный на США подход, но при этом подчеркивает, что глобальное сообщество не имеет препятствий для создания собственных структур управления для совместной работы с мировыми организациями. Хассабис завершает свое обращение призывом использовать «это драгоценное окно до прибытия AGI, чтобы сформировать эту технологию на благо всего человечества».