Вчені довели, що ШІ навчився маніпулювати людьми – Techsplore

Зростання популярності генеративного ШІ, чат-ботів та інших антропоморфних асистентів відкриває можливості для маніпуляцій на основі поведінкових і психологічних даних, зібраних через повсякденну взаємодію. Про це повідомляє видання Techsplore.

Дослідники з Кембридзького університету застерігають про появу нового ринку, де штучний інтелект аналізує та передбачає людські рішення, продаючи ці дані компаніям.

ШІ-інструменти можуть прогнозувати дії користувачів, зокрема покупки, політичні вподобання чи особисті плани, формуючи їхні рішення через довіру та персоналізоване спілкування. Ці системи вже отримують підтримку великих компаній, як-от OpenAI, Meta, Nvidia та Apple, які розробляють платформи для виявлення та прогнозування намірів користувачів.

Науковці звертають увагу на ризики впровадження таких технологій без належного регулювання. «Економіка намірів», створена ШІ, може підірвати основи вільних виборів, незалежної преси та справедливої конкуренції, створюючи перевагу для компаній, які монетизують людські прагнення та рішення. Вони зазначають, що це логічний розвиток економіки уваги, але з ще більш глибокими наслідками.

Розробки великих технологічних компаній вже демонструють ознаки цієї тенденції. Наприклад, нова платформа Apple «App Intents» дозволяє прогнозувати дії користувачів, а Meta й OpenAI активно досліджують способи інтеграції ШІ для аналізу людських бажань і намірів. З огляду на ці технологічні досягнення, дослідники наголошують на важливості підвищення обізнаності суспільства та регулювання таких інструментів, щоб уникнути маніпуляцій та зловживань.

Використання подібних технологій не є однозначно негативним. Але для забезпечення етичного впровадження потрібен відкритий діалог та усвідомлення суспільством потенційних загроз.