Обсуждение надежности детекторов искусственного интеллекта после обвинений в использовании ИИ в романе
Подробнее
IOL
iol.co.za

Обсуждение надежности детекторов искусственного интеллекта после обвинений в использовании ИИ в романе

Канадско-гаитянский писатель, поэт и романист Телисон Орелиен оказался в центре скандала 22 сентября после того, как анонимный аккаунт в X обвинил его в использовании искусственного интеллекта для написания романа «C'était ça ou mourir», который стал одним из хитов осеннего литературного сезона.

Эти утверждения, касающиеся использования ИИ-инструментов для создания бестселлера Орелиена, вызвали волну обсуждений во французском литературном мире и поставили под сомнение методы обнаружения контента, созданного ИИ.

Скандал начался с поста в X, где утверждалось, что программа Pangram, предназначенная для обнаружения ИИ, заключила, что повествование о гаитянском мигранте, путешествующем в Канаду, было в значительной степени сгенерировано текстовым генератором, таким как Claude или ChatGPT.

Орелиен, которому 38 лет, категорически отрицает эти обвинения и заявил о намерении доказать авторство книги, которая была продана издателям более чем в 20 странах. Он недавно подчеркнул: «Я не писал этот роман своей головой, а своими кишками и сердцем».

Агентство AFP провело тестирование отрывков из книги различными инструментами для обнаружения ИИ, получив разнообразные результаты — от «очень вероятно», что текст написан человеком, до «100 процентов» сгенерирован ИИ.

В настоящее время существует множество онлайн-инструментов для выявления текста, созданного ИИ, многие из которых предназначены для образовательных или издательских целей. Эти программы обычно сравнивают большие объемы сгенерированного ИИ текста с материалами, написанными людьми.

За последние годы производительность этих инструментов значительно улучшилась. В исследовании, опубликованном в октябре 2025 года под названием «Artificial Writing and Automated Detection», исследователи из Чикагского университета обнаружили, что Pangram достигает «почти нулевых показателей ошибки» при анализе средних и длинных фрагментов.

Тьерри Пуабо, исследователь из национального научно-исследовательского института CNRS Франции и специалист по обработке естественного языка, объяснил, что программы ищут «лингвистические особенности». Он уточнил, что классическим примером является триадическое построение фраз (использование трех придаточных предложений) или тире.

Эти характерные признаки ранее часто встречались в сгенерированных текстах, поскольку инструменты обучались на американской научной литературе или американских романах, как отметил Пуабо. Pangram заявляет, что способен «обнаруживать текст ИИ путем анализа и понимания тонких намеков в письме».

Также предупреждается, что монотонные структуры предложений являются тревожным сигналом, а некоторые слова или фразы появляются регулярно. Хотя многие инструменты публикуют процентные показатели точности, эти цифры невозможно проверить и они не учитывают риск ложноположительного срабатывания.

Макс Сперо, генеральный директор и соучредитель Pangram, заявил американскому изданию The Atlantic, что инструмент не должен быть окончательным судьей, а лишь отправной точкой для более глубокого расследования.

По мнению Тьерри Пуабо, эти системы обнаружения сталкиваются и с «проблемой движущейся цели», поскольку программы ИИ «постоянно развиваются». Эксперт также указывает на потенциальную трудность при выявлении использования ИИ в романах. Он отмечает, что «инструмент может уловить что-то специфическое в письме, что-то повторяющееся, но это может быть именно тем, что составляет стиль писателя».

Орелиен сообщил на этой неделе, что его стиль основан на гаитянских и карибских традициях, заявив газете Liberation, что программное обеспечение «привыкло к французской литературной традиции и классическим авторам».

Бенуа Рафаэль, предприниматель и писатель, специализирующийся на ИИ, провел собственное исследование с использованием Pangram для проверки работ Орелиена, и результаты также оказались положительными для ИИ. Он сообщил журналу Nouvel Obs, что «факт, что он получил оценку около 100 процентов ИИ или даже 90 процентов, является довольно показательным признаком».

Несмотря на то, что книга получила широкое признание критиков и быстро распродавалась во Франции до начала скандала, ранее уже высказывались некоторые сомнения. Леа Бори в своем подкасте Torchon могла быть первой, кто публично предположил в начале этого месяца, что роман написан ИИ из-за повторяющегося характера предложений и чрезмерного использования аналогий, которые являются отличительной чертой ИИ. Фабрис Колен в газете Canard Enchaine также подверг критике формульную структуру предложений, отметив, что он «тщетно искал уникальный голос» в прозе.

Популярное