Анализ изследва влиянието на протоколите за съгласуване на ИИ върху световното знание

Скорошен доклад изследва нарастващата зависимост от изкуствения интелект като основен източник на информация, като описва концентрацията на разработките в областта на ИИ в Силициевата долина като интелектуално „тясно място“. Анализът предполага, че тъй като ограничен брой корпорации контролират протоколите за съгласуване на основните езикови модели, тези субекти ефективно действат като пазители на информацията, консумирана от милиарди потребители по целия свят.

Статията обяснява, че въпреки че големите езикови модели са изградени върху огромни масиви от данни, крайните им резултати се оформят от филтри за съгласуване след обучението. Тези протоколи, създадени от хора, са предназначени да гарантират, че отговорите са полезни, честни и безвредни чрез смекчаване на рискове като реч на омразата или опасни инструкции. Авторът обаче отбелязва, че тези филтри също така въвеждат субективни човешки решения в процеса на придобиване на знания. Чрез изследване на механизмите на теглата на моделите и предпочитанията при цитиране, статията насърчава потребителите да осъзнаят, че съдържанието, генерирано от ИИ, е резултат както от статистически изчисления, така и от специфични корекции, насочвани от човека.