ИИ-поиск в Интернете: рациональная логика вместо человечности

Теряет ли Интернет свою «душу»? Ответу на этот вопрос посвящено совместное исследование, проведенное компьютерщиками и социологами. По мере того, как искусственный интеллект всё чаще отвечает на наши вопросы краткими и аккуратными сводками, мы, вероятно, выигрываем в скорости и удобстве, но теряем другое и нечто важное – «человечность» получаемой информации.

Исследование показало, что большие языковые модели (LLM), такие как ChatGPT и Gemini, в ответах на субъективные вопросы в подавляющем большинстве случаев опираются лишь на логику и согласованность фактов. В то же время обычные веб-страницы, созданные людьми, используют более широкий набор аргументов, включающий эмоции, жизненный опыт, этику и личный авторитет.

Специалисты считают, что по мере того, как люди для поиска информации всё большее предпочтение отдают системам ИИ, Интернет рискует со временем перестать отражать ту человеческую природу, которая формировала его на протяжении последних 25 лет. В будущем это может привести к появлению совершенно иных платформ поиска и распространения информации.

Кроме того, отмечается, что люди привыкли считать, что язык создаёт человек, но проведённое исследование показывает, что машина способна создавать язык и без свойственных человеку рассуждений и аргументаций.

Учёные сравнили, как системы искусственного интеллекта (ChatGPT и Gemini) и традиционный поиск в Интернете (Google и Bing) реагируют на спорные вопросы. Задача эксперимента заключалась не только в том, чтобы сравнить позиции сторон, но и в том, какие типы аргументов используются для их обоснования.

Сопоставление трёх типов убеждения

Исследователи классифицировали типы убеждения в соответствии с риторическим треугольником Аристотеля: логос, этос и пафос. Логос означает логику и фактическую последовательность. Этос апеллирует к авторитету или достоверности. Пафос обращается к эмоциям и общему человеческому опыту.

Эксперимент показал, что люди используют все три типа аргументации, тогда как LLM в основном опираются только на логос. Это означает, что человеческая аргументация – многослойная и эмоционально насыщенная, тогда как ИИ чаще остаётся «сухим» и рациональным. Разница становится очевидной при простом повседневном поиске в сети.

Даже обычные запросы могут потерять «человеческую» окраску

Например, если запросить рецепт коктейля «Маргарита», ИИ выдаст точный и корректный рецепт. Но он не обратится к сопутствующим бытовым деталям, которые часто сопровождают популярные кулинарные блоги. В то время как сайт Difford’s Guide не просто предоставит рецепт, но и расскажет историю этого напитка – от журналистских заметок 1930-х годов до версии о мексиканском бармене, который случайно создал коктейль «Маргарита», перепутав бутылки.

Именно такие детали, по мнению исследователей, ИИ отфильтровывает как второстепенные.

Искусственный интеллект аргументирует иначе

Учёные обнаружили, что веб-страницы, созданные человеком, содержат более широкий спектр аргументов, содержащих не только факты, но и моральные аспекты, эмоциональную окраску, личные истории и ожидаемые последствия.

Системы искусственного интеллекта, напротив, отдают предпочтение аргументации, основанной исключительно на фактах, в которых приоритет отдается логическим рассуждениям.

По мнению исследователей, виной этому являются встроенные системы безопасности и «выравнивания» (alignment), которые заставляют модели избегать эмоционально окрашенных или спорных формулировок.

Интересно, что разные модели LLM (например, ChatGPT и Gemini) демонстрируют очень похожий между собой стиль рассуждений, даже когда их ответы значительно отличаются от разнообразных «человеческих», найденных в Интернете.

Искусственный интеллект не похож на реального собеседника

Замечено, что люди общаются совсем не так, как машины, потому что они всегда ожидают эмоциональную и интеллектуальную реакцию собеседника. В реальном разговоре это постоянное взаимное считывание эмоций и намерений.

Однако, языковые модели так не работают. Они на самом деле совершенно не считаются с характером предполагаемой аудитории, а генерируют статистически вероятные последовательности слов на основе данных обучения и встроенных параметров, что совсем не похоже на разговор с человеком. Это просто алгоритм, который предсказывает, какие слова следует произнести в ответ на запрос.

Что мы рискуем утратить?

Учёные предупреждают, что по мере того, как все большее количество людей полагается на системы ИИ вместо традиционного поиска в Интернете чтобы разобраться в политике, здравоохранении, этике и социальном взаимодействии, общество может постепенно деградировать, теряя возможность восприятия богатого разнообразия человеческих точек зрения.

ИИ-поиск может казаться более быстрым и эффективным, но при этом он более простой и «плоский»: в нём меньше личного отношения, меньше эмоций и моральных переживаний, которые и помогают людям лучше понимать друг друга.

Авторы исследования не без основания полагают, что, используя вместо традиционного веб-поиска платформенные решения ИИ, мы получаем рафинированную версию знаний, ограниченную рамками этих платформ, лишённую человеческих эмоций и игнорирующую существующее разнообразие мнений.

Источник: TechXplore

Изображение для иллюстрации. Источник: Magnific.com