Анализ исследует влияние протоколов согласования ИИ на мировое знание

В недавнем отчёте исследуется растущая зависимость от искусственного интеллекта как основного источника информации, при этом концентрация разработок в области ИИ в Кремниевой долине характеризуется как интеллектуальное «узкое место». В анализе предполагается, что, поскольку ограниченное число корпораций контролирует протоколы согласования для основных языковых моделей, эти структуры фактически выступают в роли привратников информации, потребляемой миллиардами пользователей по всему миру.

В статье объясняется, что, хотя большие языковые модели строятся на обширных наборах данных, их конечные результаты формируются фильтрами согласования после обучения. Эти протоколы, созданные людьми, призваны обеспечить полезность, честность и безопасность ответов за счёт снижения таких рисков, как разжигание ненависти или опасные инструкции. Однако автор отмечает, что эти фильтры также привносят субъективные человеческие решения в процесс получения знаний. Изучая механизмы весов моделей и предпочтения при цитировании, статья призывает пользователей осознать, что контент, созданный ИИ, является результатом как статистических вычислений, так и конкретных корректировок, направляемых человеком.