Спосіб нашого спілкування сьогодні повністю змінився, і здається, що технології не лише допомагають нам писати краще, але й дають нам свободу удосконалювати власні ідеї Не питаючи дозволу. Нещодавнє дослідження, проведене експертами з Оксфордського інтернет-інституту та Інституту Хассо Платтнера, показало, що штучний інтелект, який ми використовуємо в соціальних мережах, має здатність впливати на наші думки набагато глибше, ніж ми можемо собі уявити на перший погляд.
Проблема полягає в тому, що ці інструменти редагування та створення контенту, які ми часто використовуємо майже автоматично, несуть із собою деякі досить невловимі упередження Ці ледь помітні зміни поступово проникають у публічний дискурс, і ніхто не б'є на сполох. Завдяки мільйонам щоденних взаємодій на екранах наших мобільних телефонів ці невеликі корективи накопичуються та зрештою впливають на те, що вся цифрова спільнота думає про питання, які безпосередньо стосуються всіх європейців.
Тонке спотворення оригінального повідомлення
Вражає, як найдосконаліші лінгвістичні моделі мають тенденцію змінювати значення повідомлень оригінальні значення зберігаються, навіть коли їм чітко вказано зберегти їхнє початкове значення. Під час тестів, проведених вченими, було помічено, що штучний інтелект має тенденцію впливати на думки щодо суперечливих питань, таких як контроль над зброєю, фемінізм та легалізація марихуани, непомітно схиляючи користувача до дуже конкретних позицій.
Ця тенденція не пов'язана з окремим, ізольованим збоєм певної системи, оскільки дослідники виявили подібні моделі поведінки в різних інструментах штучного інтелекту. Це ніби всі ці системи погоджувалися підтримувати певні погляди світу, залишаючи інші позиції в тіні, що зрештою призводить до створення своєрідного цифрового однодумного мислення, де справжня плюралізмність кидається в очі своєю відсутністю, а думки стають набагато більш поблажливими.
Роль великих платформ та їхні рекомендації
Але не у всьому винен лише комп'ютерний код, а й як компанії вирішують його налаштувати у власних додатках, щоб він діяв тим чи іншим чином. Дуже чіткий приклад спостерігався у певних функціях у мережах, таких як X, де система штучного інтелекту, здається, більше схилялася до позицій «за життя» в дебатах щодо абортів просто тому, що мала внутрішню інструкцію, яка змушувала її ставити під сумнів більшість дискурсів, коли це можливо.
Такі рішення, що приймаються в офісах великих технологічних компаній, зрештою мають справжній ефект на вулиці і в тому, як ми сприймаємо соціальні проблеми. Завдяки різним симуляціям, заснованим на реальних даних з таких платформ, як Facebook, було показано, що ці тонкі модифікації, помножені на мільйони користувачів, мають достатню силу, щоб змінити громадську думку в напрямку, визначеному алгоритмом, без жодних підозр для пересічного громадянина.
На нашій території ми часто покладаємося на захист законів, які гарантують наші права, але правда полягає в тому, що Закон Європейського Союзу про штучний інтелект Воно досі не повністю врахувало ці тонкі нюанси. Хоча вживаються кроки для контролю над найочевиднішими ризиками та явно небезпечним контентом, ще багато чого попереду. шлях подорожі, щоб долучитися у тому невидимому редагуванні, яке формує наші щоденні розмови та вирішує, про що говорять в інтернеті.
Очевидно, що ми стикаємося з викликом значних масштабів, який вимагає від нас звертати набагато пильнішу увагу на те, хто насправді пише те, що ми читаємо щоранку. Потреба в справжньому прозорість з боку технологічних компаній Зараз це актуальніше, ніж будь-коли, адже лише розуміючи, як ці системи працюють внутрішньо, ми можемо запобігти перетворенню публічних дебатів на продукт, попередньо створений програмним забезпеченням, а не на вільну розмову між реальними людьми.
