При поиске информации люди могут выбрать три метода: обратиться к Google, взаимодействовать с чат-ботом искусственного интеллекта (ИИ), таким как ChatGPT, Claude или Gemini, или поговорить напрямую с человеком. С растущей интеграцией ИИ в поиск Google первые два пути имеют тенденцию давать схожий опыт, в отличие от человеческого взаимодействия, где знания находятся в уме людей.
Фундаментальное различие заключается в том, что консультируемый человек обладает реальными знаниями по теме и может развеять или даже вызвать новые вопросы, в то время как ИИ не обладает этими внутренними знаниями. Хотя ответы чат-ботов передают ощущение достоверности, будучи хорошо структурированными и последовательными, крайне важно понимать, что платформа не владеет знаниями о том, что она сообщает.
Общение между человеком и ИИ происходит на разных языках. Даже если человек владеет всеми мировыми языками, он не будет говорить на том же языке, что и машина. Человек использует словарный запас слов, в то время как машина обрабатывает только токены, которые являются блоками с числовыми обозначениями.
Фабрисиу Карраро, менеджер программ Alura, объяснил в интервью Olhar Digital, что один токен эквивалентен подслову. Он привел пример, что слова 'feliz' (счастливый), 'triste' (грустный) и 'divisível' (делимый) являются отдельными токенами. Для таких слов, как 'indivisível' (неделимый) или 'infeliz' (несчастный), используется токен 'in', соответствующий определенному числу в словаре языковой модели, который, будучи добавлен к токену 'feliz', образует слово 'infeliz'.
При взаимодействии с ChatGPT процесс больше похож на 'вычисление слов', чем на артикуляцию мыслей. По словам Карраро, ИИ выбирает тысячи токенов из своего словаря и присваивает каждому из них вероятность на основе того, что было изучено во время этапов обучения.
Обучение большой языковой модели (LLM) требует огромных объемов данных; ежедневное чтение не позволило бы достичь объема данных, обработанного ChatGPT, примерно за сто тысяч лет. После первоначального обучения происходит обучение с подкреплением, в ходе которого LLM настраивается для полезности для людей.
Карраро подробно рассказал, что на этом этапе после обучения модели обучают представлять ответы в формате, ожидаемом людьми для определенного вопроса. Это обучение с подкреплением также направлено на обучение ИИ тому, какие ответы желательны, а какие нет.
Отвечая, ИИ выполняет миллионы математических операций, поскольку каждый нейрон нейронной сети по сути является математическим уравнением. Во время вывода ИИ выбирает каждое слово на основе своего обучения, генерируя следующий токен в соответствии с вероятностями, установленными в предварительном обучении, обучении с подкреплением и обучении с подкреплением; по сути, чат-бот просто производит то, что статистически наиболее вероятно.
Хотя генеративные платформы ИИ не обладают собственными знаниями, технологические компании внедрили функции для смягчения этого ограничения. Одна из таких функций — включение возможности поиска в интернете, что повысило точность при ответе на текущие вопросы, такие как недавние спортивные результаты или победители Оскара.
Другая техника — так называемое 'рассуждение' (reasoning). Карраро подчеркнул, что машина не думает, но внутренний механизм имитирует мыслительный процесс. Такие компании, как Google и OpenAI, приняли стратегию заставить модель внутренне генерировать множество микровопросов и разрабатывать ответы на них, не раскрывая этот процесс пользователю. Это позволяет ИИ обнаруживать ошибки, пробовать альтернативные подходы и предоставлять более достоверный ответ, значительно повышая точность.
Несмотря на то, что ИИ ничего 'не знает', его полезность остается неоспоримой для помощи в разъяснении сомнений, генерации контента и повышении производительности. Кеннет Коррея, специалист по ИИ и профессор FGV, считает, что платформы ИИ теоретически являются чрезвычайно продвинутыми калькуляторами.
На практике наблюдаются LLM с триллионами параметров, способные генерировать ответы или выполнять команды с навыками, выходящими за рамки их базы знаний. Эти инструменты, хотя и могут 'галлюцинировать', производят значительный объем результатов. Коррея утверждает, что нельзя сводить ИИ к простому сложному калькулятору, поскольку это игнорирует влияние, которое он оказывает.
Менеджер программ Alura упомянул, что некоторые открытия, полученные с помощью этих мощных моделей, могут быть интеграциями уже существующих знаний, организованных новым образом, требующими лишь 'грубой силы' для их поиска.
Профессор FGV сделал важное предупреждение: эти инструменты лишены морали и этики. Они выражают уверенность как при предоставлении правильного ответа, так и при предоставлении неправильного. По этой причине человеческий надзор незаменим, поскольку только люди могут подтвердить ответы и определить их использование.