Чат-боты с ИИ сужают спектр знаний

Многие из нас уже заменили привычный поисковый запрос на обращение к чат-боту, чтобы получать ответы на самые разные вопросы: от рецепта приготовления блюда до формулировок делового письма.

Однако оказывается, что большие языковые модели, лежащие в основе чат-ботов, предоставляют значительно более узкий спектр информации по сравнению с традиционным веб-поиском. К такому выводу пришли учёные из Дании. Результаты их исследования будут представлены на ближайшей конференции по эмпирическим методам в обработке естественного языка.

Авторы отмечают, что все протестированные языковые модели по всем рассмотренным темам выдают пользователям гораздо более однородную информацию, нежели обычный поиск в Google. То есть люди в значительной степени получают одни и те же сведения снова и снова. Таким образом, чат-боты с ИИ меняют не только способы поиска знаний, но и влияют на то, к каким сегментам знаний предоставляется доступ.

Разнообразие ответов на 18% ниже, чем у Google

Исследователи протестировали 27 различных больших языковых моделей, используя 155 тем. К каждой теме применялось по 200 вариантов формулировок запросов, основанных на реальных вопросах пользователей. В результате был сформирован набор данных, содержащий около 70 миллионов отдельных утверждений, сгенерированных этими моделями.

Полученные данные свидетельствуют о том, что даже та языковая модель, которая выдает наиболее разнообразные ответы (GPT-5 от OpenAI), предоставляет информацию, разнообразие которой как минимум на 18% уступает показателям Google. В число тем, рассматривавшихся исследователями, входили как вопросы глобального характера — например, ядерное оружие, брак и геноцид, — так и темы, специфичные для отдельных стран — например, Марин Ле Пен или Фолклендская война.

По мнению исследователей, тот факт, что люди все чаще используют ИИ-модели в качестве основного источника информации, может иметь серьезные последствия, поскольку существует потенциальный риск ограничения доступа к различным точкам зрения и сужения круга знаний. Это может привести к возникновению порочного круга: самый популярный контент будет доминировать всё больше, а остальной — всё чаще оставаться без внимания. Ситуация напоминает процесс глобализации. Так, сегодня практически в любой точке мира можно купить одни и те же товары и найти одни и те же сетевые кафе. В этом, конечно, есть свои преимущества, но вместе с тем это чревато потерей разнообразия.

Почему разнообразие столь низко?

По мнению исследователей, низкий уровень разнообразия в языковых моделях отчасти обусловлен принципом их работы. Они обрабатывают огромные объемы текста, на которых проходят обучение, и усваивают наиболее часто встречающиеся закономерности. В ходе этого процесса информация, отклоняющаяся от типичной, отсеивается.

Положение будет усугубляться, если языковые модели будут все чаще обучаться на текстах, созданных другими моделями ИИ, — а исследователи ожидают, что именно так всё и произойдет. В этом случае модели начнут обучаться на собственных результатах, которые и без того не блещут разнообразием, по сравнению с исходными текстами, написанными людьми и использованными для первоначального обучения.

Если этот процесс будет повторяться на протяжении нескольких поколений моделей, спектр информации постепенно сузится. Именно такого «коллапса знаний» опасаются учёные.

Впрочем, сегодня наблюдается и то, что новые модели выдают несколько более разнообразные ответы, чем старые. Тем не мене механизм, способный спровоцировать кризис знаний в долгосрочной перспективе вполне реален.

Сохранение широты знаний

Теперь становится очевидным, что использование искусственного интеллекта должно быть более взвешенным. По мнению авторов исследования краткие сводки, подготовленные чат-ботами на базе ИИ, безусловно, могут быть полезны — поэтому ими и пользуется так много людей. Однако по-прежнему важно обращаться к различным источникам информации, чтобы улавливать нюансы и получать более полную картину происходящего. В особенной степени это касается молодого поколения, которое растет в эпоху ИИ. Нельзя становиться настолько зависимыми от технологий, чтобы перестать самостоятельно мыслить и понимать суть вещей.

Индустрии ИИ также следует уделить серьёзное внимание этому вопросу. Требуется создавать новые языковые модели так, чтобы обеспечивать приемлемую широту доступных знаний. Есть надежда, что предложенный исследователями метод оценки разнообразия моделей окажется полезен разработчикам.

Источник: TechXplore

Изображение для иллюстрации. Источник: Magnific.com