ИИ-чатботы могут стандартизировать человеческое выражение, предупреждают исследователи из USC

Чатботы на базе искусственного интеллекта все больше влияют на способы общения людей, что, по мнению исследователей из Университета Южной Калифорнии (USC), может привести к гомогенизации языка и мышления. Об этом говорится в недавней статье с мнением, опубликованной в журнале Trends in Cognitive Sciences. В исследовании отмечается, что эта тенденция может ослабить коллективную мудрость и адаптивность человечества.

Команда исследователей под руководством Мортезы Дехгани, профессора психологии и информатики в колледже USC Dornsife, подчеркивает важность включения реального разнообразия в обучающие наборы данных больших языковых моделей (LLM). Они утверждают, что такое разнообразие необходимо не только для сохранения когнитивного многообразия людей, но и для улучшения способностей к рассуждению у ИИ-чатботов.

Живар Сурати, первый автор исследования и аспирант инженерной школы USC Viterbi, отметил, что индивидуальные различия в письме, рассуждениях и мировоззрениях сглаживаются единообразными LLM, что приводит к стандартизации выражений и мыслей пользователей. По мнению исследователей, такая стандартизация может снизить креативность и способности к решению проблем в обществах.

В статье также подчеркивается, что результаты работы LLM часто отражают язык, ценности и стили мышления западных, образованных, индустриализированных, богатых и демократических обществ, что может не учитывать разнообразие точек зрения, существующих в мире. Чтобы решить эти проблемы, исследователи призывают разработчиков ИИ сознательно включать более широкий спектр языков, взглядов и стилей рассуждений в свои модели, чтобы обеспечить отражение разнообразия глобального человеческого опыта.

Исследование акцентирует необходимость скоординированных усилий по диверсификации моделей ИИ и корректировке взаимодействия человека с ними для сохранения когнитивного разнообразия и потенциала идей будущих поколений.