Искусственный интеллект вышел за рамки роли простого вспомогательного инструмента, заняв функции, ранее отводившиеся людям в контексте работы, учебы, обслуживания и отношений. Во многих сценариях автоматизированные системы уже способны генерировать сообщения, оценивать контент и принимать решения от имени пользователей.
Эта эволюция устанавливает новую социальную динамику: вместо прямого взаимодействия между двумя людьми, в одном обмене могут участвовать два системы. Эксперты и исследователи, как сообщает The New York Times, предупреждают, что этот цикл потенциально может воспроизводить ошибки, усиливать присущие моделям ограничения и уменьшать пространство, отведенное для непредсказуемости человеческих отношений.
Это явление, возможно, называемое «цикл ботов» (bot loop), имеет тенденцию усиливаться по мере того, как цифровые агенты берут на себя задачи растущей сложности. Прогнозируется, что взаимодействие между машинами станет более распространенным в таких областях, как работа, образование, обслуживание клиентов и даже в сфере личных отношений.
В профессиональной сфере 30-летний Кристиан Винсон использовал два чат-бота для структурирования информации о своей карьере и персонализации сопроводительных писем для сотен вакансий. Кандидат применил технологию, чтобы претендовать на должности на рынке, где компании также используют автоматизированные системы для первичного отбора резюме, что привело к его найму инвестиционным банком в Нью-Йорке.
Эта ситуация иллюстрирует более широкую трансформацию, в которой одна и та же технология может быть задействована как в создании, так и в анализе материала, формируя замкнутый контур между искусственными системами. В образовательной сфере студенты обращаются к чат-ботам для выполнения работ, в то время как преподаватели и учреждения используют инструменты ИИ для анализа этих же материалов.
Такая же модель проявляется в корпоративной коммуникации. Сотрудники отправляют тексты, сгенерированные автоматизированными системами, а получатели могут отвечать, используя аналогичные инструменты. Хотя разговор формально остается между людьми, все большая часть его содержания делегируется машинам.
Технологическое расширение также охватывает развлечения и информацию. В статье упоминаются подкасты, где искусственные ведущие беседуют с искусственными гостями, и отмечается, что технологические компании уже исследуют среды, где агенты искусственного интеллекта взаимодействуют напрямую друг с другом.
Эта картина приближается к теории мертвого интернета, которая предсказывает, что все большая доля цифрового трафика будет генерироваться программным обеспечением. Однако новый аспект, подчеркнутый статьей, более специфичен: он возникает, когда люди перестают участвовать непосредственно в обеих сторонах взаимодействия, выступая лишь посредниками для соединения систем.
Эта тенденция может проявиться в рутинных ситуациях. Например, при возникновении бытовой проблемы человек может поручить цифровому помощнику найти специалистов, сравнить условия и связаться с ними. Параллельно поставщики услуг также могут использовать автоматизированных агентов для управления полученными запросами.
Цзясинь Пэй, ассистент-преподаватель Института информации Техасского университета в Остине, определяет в этом процессе цикл, который может продолжаться неограниченно. Ее беспокоит тот факт, что по мере того, как обе стороны начинают использовать цифровых агентов, общение может потерять необходимость прямого участия человека.
Замещение затрагивает и личное представление. Джастин Лестер, пастор из Калифорнии, обучил агента искусственного интеллекта, чтобы он оказывал помощь верующим, когда его нет. В тексте предполагается, что следующий этап может включать цифровых агентов, одновременно представляющих людей на обеих сторонах разговора или встречи.
Руководители уже используют аватары, управляемые искусственным интеллектом, на встречах с сотрудниками. Возникает предположение, что в будущем сами сотрудники могут прибегать к цифровым представлениям для участия в этих же совещаниях.
Автоматизация общения не отменяет проблем систем искусственного интеллекта; наоборот. Когда один инструмент предоставляет данные другому, первоначальная ошибка может пройти через множество этапов, не будучи обнаруженной человеком.
Сохеил Фейзи, доцент компьютерных наук Университета Мэриленда, предупреждает о специфическом риске: подобные системы могут разделять одни и те же ограничения. Если одна модель совершит ошибку, а другая система воспримет эту информацию как достоверную, ошибка может закрепиться, а не быть исправлена.
Исследование, упомянутое в статье об использовании ИИ в больницах, иллюстрирует такой сценарий. Один инструмент может анализировать рентгеновские снимки, другой использовать эту оценку для организации коек, а третий — определить последовательность обслуживания. Если первая система допустит ошибку, и не будет человеческой проверки, неверная информация может повлиять на все последующие решения.
Существует также механизм обратной связи. Упомянутые исследования показывают, что системы ИИ могут проявлять предпочтение контенту, созданному другими ИИ. Одно исследование выявило более высокую приемлемость резюме, составленных машинами, со стороны автоматизированных систем отбора.
Такое поведение может порождать особенно чувствительные эффекты в процессах, где сам искусственный интеллект участвует как в производстве, так и в оценке. В статье это связывается с использованием автоматических читателей в процессах поступления в вузы, где тексты, написанные студентами, могут оцениваться инструментами, похожими на те, которые помогали им в создании.
Помимо технических проблем, опрошенные эксперты указывают на менее количественно измеримое последствие: возможное изменение ожиданий относительно того, что значит взаимодействовать с другим человеком.
Сара Дэвис, культуролог и ректор колледжа Сент-Джонс в Санта-Фе, Нью-Мексико, утверждает, что текучесть обменов между машинами может привести к тому, что люди начнут отвергать неотъемлемые черты человеческих отношений. По ее мнению, сосуществование также зависит от трудностей, разногласий и моментов дискомфорта.
Опасение состоит в том, что чрезмерно предсказуемая коммуникация может сделать человеческое взаимодействие менее привлекательным. Если искусственные системы могут предоставлять быстрые, хорошо структурированные и всегда доступные ответы, то терпимость к человеческим несовершенствам может снизиться.
Статья подчеркивает, что дискуссия не обязательно должна привести к сценарию, при котором машины полностью возьмут на себя общение. Более вероятной является постепенная модификация соотношения различных типов взаимодействия, при этом прямое участие человека займет меньшую долю повседневной жизни.
В этом будущем разговор с кем-либо может перестать быть само собой разумеющимся и стать специализированной услугой. Прямой человеческий контакт, который в настоящее время ожидается во многих ситуациях, может приобрести характер эксклюзивности, доступный в первую очередь тем, кто имеет финансовую возможность его оплатить.
Выявленная ирония заключается в том, что люди, которые больше всего выиграют экономически от расширения ИИ, могут иметь средства для приобретения человеческого опыта, который станет постепенно более дефицитным для остального общества.
Таким образом, прогресс цифровых агентов сигнализирует не только об изменении выполнения задач технологиями; он также может изменить участников разговоров, принимающих решения, и степень прямого контакта между людьми в деятельности, которая ранее фундаментально зависела от человеческих связей.
