Аналіз досліджує вплив протоколів узгодження ШІ на світові знання

У нещодавньому звіті досліджується зростаюча залежність від штучного інтелекту як основного джерела інформації, при цьому концентрація розробок у сфері ШІ в Кремнієвій долині характеризується як інтелектуальне «вузьке місце». В аналізі припускається, що оскільки обмежена кількість корпорацій контролює протоколи узгодження для основних мовних моделей, ці структури фактично виступають у ролі «воротарів» інформації, яку споживають мільярди користувачів у всьому світі.

У статті пояснюється, що хоча великі мовні моделі будуються на величезних наборах даних, їхні кінцеві результати формуються фільтрами узгодження після навчання. Ці протоколи, створені людьми, покликані забезпечити корисність, чесність і безпеку відповідей шляхом зменшення таких ризиків, як мова ворожнечі або небезпечні інструкції. Проте автор зазначає, що ці фільтри також привносять суб'єктивні людські рішення у процес отримання знань. Вивчаючи механізми ваг моделей та вподобання при цитуванні, стаття заохочує користувачів усвідомити, що контент, створений ШІ, є результатом як статистичних обчислень, так і конкретних коригувань, спрямованих людиною.