Исследование выявило пропекинскую предвзятость в ответах ИИ-чат-ботов

Недавнее исследование, опубликованное в журнале Nature, показывает, что популярные ИИ-чат-боты, включая ChatGPT и Claude, дают значительно более благоприятные ответы о китайском руководстве при запросах на китайском языке по сравнению с английским. Исследователи предполагают, что это расхождение возникает из-за того, что модели ИИ часто включают контент из китайских государственных СМИ, которые доминируют в доступном информационном пространстве на китайском языке.

Эксперты предупреждают, что эта тенденция отражает более широкую стратегию Пекина по влиянию на глобальное развитие ИИ. Экспортируя крупные наборы данных, курируемые государством, такие как коллекция WanJuan, Китай стремится интегрировать свои официальные нарративы в фундаментальные данные, используемые международными разработчиками. Аналитики отмечают, что эта практика позволяет авторитарным взглядам формировать ценности и результаты работы систем ИИ, эффективно скрывая происхождение информации, предоставляемой пользователям.

В то время как Национальное управление данных Китая объявило о планах стать ведущим мировым экспортером данных к 2028 году, западные аналитики выражают обеспокоенность по поводу потенциала этих наборов данных диктовать политическую направленность ответов ИИ. Исследователи подчеркивают, что пользователи могут не осознавать, что получаемая ими информация исходит из контролируемых государством источников.