Технологические компании обращаются к различным религиям и духовным лидерам с целью обсудить и установить руководящие принципы для поведения систем искусственного интеллекта (ИИ). Этот подход направлен на обеспечение того, чтобы чат-боты могли принимать ответственные решения, распознавать моральные дилеммы и избегать предоставления вредоносных ответов.
Это движение поднимает фундаментальный вопрос: как интегрировать разнообразные человеческие ценности и убеждения в правила, управляющие ответами систем ИИ? Интерес к этой теме растет параллельно с дебатами о присущих рисках развития этих технологических моделей.
Корпорации должны установить четкие операционные границы, выходящие за рамки простого создания все более сложных программных продуктов. В этом сценарии религия может предложить важнейшие размышления о таких темах, как справедливость, человеческое достоинство и ответственность.
Роберто «Пена» Спинелли, физик, получивший образование в Университете Сан-Паулу (USP) и специалист по машинному обучению в Стэнфордском университете, прокомментировал огромную силу влияния этих платформ во время программы Olhar Digital News. Он подчеркнул, что поскольку модели работают в домах людей, они рекомендуют, говорят, предлагают и аргументируют, и ни одна модель не является нейтральной. Все имеет предвзятость, определяемую тем, кто ее создал, как она была обучена и какие данные были введены.
В репортаже ABC News сообщалось, что некоторые компании намерены собрать вклад от различных религиозных традиций, а также светских взглядов.
Anthropic, разработчик чат-бота Claude, сообщила, что провела встречи с учеными и лидерами более пятнадцати религиозных групп. На этих встречах компания представляет свои модели и обсуждает вопросы, поднятые технологией, охватывая такие темы, как ограничения использования детьми, образование и философские концепции о природе человека.
Другие крупные компании также проявили большой интерес к этому вопросу. Представители Meta, Google и Amazon недавно встречались с Ватиканом. Microsoft расширила свое сотрудничество с мировыми религиозными общинами для обсуждения руководящих принципов. Эти действия показывают, что формирование поведения ИИ выходит за рамки технической сферы, затрагивая ценности, культурные различия и социальную ответственность.
Пена заявил, что в конечном счете эти модели конструируют собственную мораль, следуя или не следуя установленному компанией кодексу этики. Он отметил, что иногда навязывание кодекса компанией не соблюдается моделью из-за других проблем. По его мнению, решение о ценностях, которые должна включать компания, не должно быть исключительно ее собственным, поскольку это огромная власть; этот выбор должен принадлежать человечеству.
Однако включение религиозных ценностей в системы ИИ сталкивается с препятствиями. Принципы каждой традиции неразрывно связаны с культурным, историческим и общинным контекстами, и их удаление может исказить их значения. Кроме того, различные религии или даже течения в одной вере могут предлагать противоречивые ответы на одну и ту же социальную ситуацию.
Это затрудняет консолидацию этих перспектив в единый набор правил, что может стереть важные различия и привести к общим рекомендациям, которые не адекватно представляют ни одну из задействованных традиций.
Часть проблемы заключается в работе больших языковых моделей, которые учатся на основе закономерностей из огромных объемов текстов, созданных людьми. Хотя это распознавание закономерностей позволяет генерировать ответы, основанные на выявленных во время обучения взаимосвязях, оно не эквивалентно глубокому пониманию веры и не доказывает, что системы обладают моральным сознанием или понимают ценности как человек.
Пена поставил под сомнение возможность создания среднего значения человеческих ценностей. Он упомянул, что Anthropic проконсультировалась с пятнадцатью религиями, и что OpenAI также ищет нечто подобное. Сэм Альтман выразил желание создать взвешенное среднее человечества. Однако Пена не согласился с этой идеей, утверждая, что взвешенное среднее всех культурных взглядов и моралей может не быть идеальным решением, поскольку оно может быть неконцентрированным.
Хотя консультации с религиозными лидерами могут помочь в выявлении этических дилемм, это автоматически не гарантирует, что системы примут правильные решения. Сложность заключается в определении того, как взвесить различные ценности, особенно когда они вступают в конфликт.
Таким образом, вопрос не ограничивается тем, какие группы должны участвовать в обсуждениях, а скорее тем, как их вклад будет учитываться при формулировании правил, которыми будут руководствоваться модели.
Пена также поднял вопросы о критериях, используемых в процессах принятия решений перед лицом тупиков. Он указал, что то, что имеет смысл для одной культуры, может быть противоположно для другой. Среднее значение может привести к промежуточной точке, которая не удовлетворит никого. Ключевой вопрос в том, как действовать: через представительство или большинство? Какая этика или мораль будет представлена? А если у кого-то есть предпочтения, отличные от большинства, этот человек будет отвергнут? Это чрезвычайно трудное решение.
Задача компаний состоит в том, чтобы определить, как справляться с расходящимися ценностями в конфликте, не рассматривая при этом какую-либо точку зрения как универсальную. Для этого крайне важно слушать разнообразные группы, разъяснять критерии, которыми руководствуются ответы систем, и внедрять прозрачные механизмы для оценки и исправления ошибок.