Исследование выявляет географические предубеждения в ответах ChatGPT
Исследование Оксфорда и Кентукки выявляет возможные географические предубеждения в ChatGPT, вызывая опасения по поводу стереотипов, поддерживаемых ИИ.
Недавнее исследование Университета Оксфорда и Университета Кентукки показывает, что ChatGPT демонстрирует заметные географические предубеждения, классифицируя различные штаты США на основе воспринимаемого интеллекта, привлекательности и других характеристик. Исследователи задействовали модель OpenAI GPT-4o-mini, задав ей более 20 миллионов вопросов в период с марта по май прошлого года, чтобы выявить устойчивые классификации среди локаций.
Результаты показывают, что при необходимости делать сравнительные суждения модель оценила Массачусетс как самый умный штат, Луизиану — как самый вонючий, а Огайо — как самый некрасивый, среди прочих оценок. Некоторые штаты, такие как Кентукки, Западная Виргиния и Миссисипи, были определены как обладающие наименее интеллектуальным населением, в то время как Гавайи, Колорадо и Нью-Гэмпшир считались штатами с наиболее образованными жителями.
Мэтт Зук, профессор географии и соавтор исследования, подчеркнул обеспокоенность нормализацией негативных стереотипов, заявив: «Нас больше всего беспокоит, как определённые идеи становятся нормой, например идея о том, что люди в Кентукки глупее, чем где-либо ещё». Ответы модели отражали более широкие общественные предубеждения, с указаниями на то, что более богатые и преимущественно белые сообщества воспринимались как более благоприятные по сравнению с другими. Это поддерживает нарративы, соответствующие существующим предрассудкам в источниках данных.
Исследование также выявило дисбаланс в восприятии регионов на международном уровне, при котором западные страны классифицировались как более желательные по сравнению с странами субсахарской Африки. Сафия Ноубл, академик из UCLA, критиковала присущие предубеждения, отмечая, что исторический расизм и классовая дискриминация отражены в обучающих данных ИИ. В ответ на исследование OpenAI заявила, что играет важную роль в минимизации субъективных сравнений, отметив, что исследование использовало устаревшую модель, и утверждая, что ChatGPT стремится избегать укрепления стереотипов. Тем не менее, Зук предполагает, что врождённые предубеждения могут по-прежнему влиять на результаты модели, воздействуя на восприятие и решения в реальном мире.
