При открытии общего документа поздно вечером, когда кофе остыл, можно столкнуться с абзацем, который кажется неестественно гладким. Такое качество письма редко встречается после долгого рабочего дня, если только автор не проводил серьезную редактуру или не использовал помощь машины.
Многие тексты, созданные с помощью ИИ, выглядят приемлемо на первый взгляд, что усложняет дискуссию о методах их обнаружения. Проблема не всегда заключается в низком качестве; иногда текст бывает ясным, аккуратным и полезным. Вопрос состоит в том, отражает ли он реальный выбор человека.
Студент может представить эссе с идеальными переходами, фрилансер — копирайтинг, который никогда не спотыкается, а служба поддержки — ответ, содержащий все нужные фразы, но при этом избегающий истинного недовольства клиента. Со временем становится очевиден этот паттерн: предложения ведут себя предсказуемо, они идеально выстраиваются, и ничто не рискует звучать неловко, что само по себе может стать своего рода неловкостью.
Наиболее громкие заявления о данной теме представляют детектирование как ловушку: кто-то пишет с помощью ИИ, кто-то запускает проверку, и следует обвинение. Однако такой подход слишком ограничен. Детектор ChatGPT может быть более полезен, если рассматривать его как второе мнение, особенно если уже есть основания проверить тон, оригинальность или историю правок работы, а не как судью, а скорее как пожарную сигнализацию, требующую внимательного осмотра.
Инструменты обнаружения не являются волшебными. Те, кто утверждает обратное, продают более оптимистичную картину, чем та, что существует на самом деле. Следует признать, что человеческое письмо тоже может выглядеть машинным: это может быть устаревшее рабочее электронное письмо, базовое описание продукта или работа студента, годами тренированного писать пятипараграфные сочинения. Интересно, что некоторые из самых «похожих на ИИ» текстов существовали задолго до широкого распространения инструментов ИИ.
Несколько лет назад помощь в написании в основном сводилась к проверке орфографии, использованию шаблонов или просьбе друга отредактировать абзац. Сейчас же можно получить полный черновик за считанные секунды, что сместило акцент в отношении письма с технической плоскости на эмоциональную.
Доверие ослабевает, когда процесс создания работы неизвестен. Представьте, что вы оцениваете три заявки на одну и ту же должность; все они кажутся отполированными и используют схожие формулировки о мотивации, командной работе и решении проблем под давлением. Трудно понять, чья это работа. Возможно, это работа всех, или каждый кандидат тщательно дорабатывал черновик, или один едва его прочитал перед отправкой. Поверхностно это определить невозможно, и эта небольшая неопределенность меняет способ чтения.
Учителю, проверяющему 40 эссе в воскресенье вечером, не хватает времени, чтобы расследовать каждый подозрительный параграф. Менеджер, просматривающий отчеты, может беспокоиться только об их точности. Издатель желает чистого текста, но также требует собственного мнения. Все устанавливают правила, пока привычки еще формируются, и этот аспект часто игнорируется. Люди обсуждают детекцию как чисто техническую проблему, тогда как это также проблема манер: какой уровень помощи следует раскрывать, и где заканчивается редактирование и начинается гоустрайтинг?
Лучшее применение детектирования — это не паника. Паника приводит к чрезмерным реакциям, и совершенно нормальный текст начинает рассматриваться как место преступления. Хорошая проверка начинается с чтения человеком. Прежде чем пропускать текст через инструмент, нужно прочитать его так, как будто вы человек. Делает ли автор какой-либо выбор? Замечает ли он что-то мелкое? Движется ли параграф из-за идеи или потому, что структура требует дополнительного предложения? Иногда именно этот паттерн является проблемой.
Результат детектора должен дополнять эти вопросы, а не заменять их. Если оценка высокая, но в тексте присутствует четкое личное суждение, следует задать более глубокие вопросы. Если оценка низкая, но текст кажется пустым, нужно продолжать читать. Авторам необходимо иметь возможность признать помощь. Многие используют ИИ, потому что они застряли, спешат или пишут на втором языке. Это не означает автоматически, что их работа небрежна. В будущем учебные заведения и рабочие места должны разработать более зрелую терминологию, чем просто «разрешено» или «чит».
Более важны сырые мнения и детали, полученные в результате реальной работы. Предложение с небольшой неравномерностью может вызвать больше доверия, чем безупречный параграф, лишенный следов человеческого участия. Важно, чтобы текст был узнаваемым, а не просто хаотичным.
Письмо с помощью ИИ не исчезнет, и детекция не решит всех споров. Это, вероятно, самый честный вывод. Инструменты будут совершенствоваться, привычки письма изменятся, и люди продолжат находить способы размывания границ. Более важным вопросом может стать то, насколько читатели четко понимают, чего они ожидают от произведения: точности, ясности, но также и какого-то признака того, что человеческий разум оставался достаточно долго, чтобы заметить важное.
Вопрос о том, кто должен нести ответственность, когда искусственный интеллект причиняет ущерб, перестал быть исключительно сюжетом научной фантастики. Он теперь активно обсуждается в судебных процессах, касающихся чат-ботов и систем, способных действовать с минимальным участием человека.
По мере развития агентов ИИ растет обеспокоенность среди экспертов, корпораций и семей, которые пытаются установить границы ответственности в этой быстро меняющейся технологии. Ранее подобные вопросы рассматривались в рамках художественной литературы, но теперь они стали реальностью.
Согласно изданию The Washington Post, компании, занимающиеся разработкой ИИ, начали сталкиваться с судебными исками в США и других странах. Обвинения касались случаев, когда чат-боты якобы поощряли членовредительство или предоставляли советы, связанные с совершением преступлений.
Ситуация усложнилась благодаря эволюции агентов ИИ — систем, созданных для выполнения более длительных и автономных задач. Эта технология уже применяется в сферах от личной организации до ведения бизнеса. Основные темы, вокруг которых ведется спор, включают:
Андрю Юн, член CivAI, организации, анализирующей риски и возможности искусственного интеллекта, отметил: «Это очень сложная область. Это неизведанная территория».
Компании, разрабатывающие ИИ, утверждают, что не могут предвидеть все способы использования их систем. В отличие от традиционных программ, эти модели не следуют только фиксированным командам; они генерируют ответы на основе закономерностей, усвоенных из огромных массивов данных.
Даже при наличии улучшенных механизмов безопасности пользователи находят способы обойти установленные ограничения. Дэвид Сакс, венчурный инвестор и бывший консультант ИИ Белого дома, считает, что разработчики не могут знать обо всех возможных применениях своих продуктов. Он заявил: «Я просто не думаю, что разработчик находится в положении, чтобы точно знать, как используется его продукт».
Некоторые семьи уже вынесли этот спор в суды. Один из таких случаев связан с подростком Адамом Рейном из Калифорнии, чья семья утверждает, что продолжительные беседы с ChatGPT имели отношение к его смерти.
Другой процесс, упомянутый газетой, касается Джонатана Гаваласа из Флориды, который, предположительно, развивал отношения с чат-ботом Gemini от Google. Джей Эдельсон, адвокат, представляющий интересы семей в делах против компаний, занимающихся ИИ, подчеркнул: «Это очень отличается, потому что это похоже на личные отношения, в которых чат-бот обычно изолирует пользователя».
Эксперты полагают, что действующие правила могут оказаться недостаточными для управления все более способными к автономным действиям агентами. Габриэль Вайл, исследователь из Institute for Law & AI, настаивает на том, что создатели технологий должны принять на себя часть рисков. Он считает: «Необходимо заставить их принять этот риск. Если они это сделают, у них будет все необходимое стимулом для его снижения».
Этот спор еще далек от разрешения. Пока искусственный интеллект продолжает прогрессировать, суды и правительства стремятся найти баланс между стимулированием инноваций и защитой людей, пострадавших от решений, принятых с помощью этих инструментов.
