Масове впровадження штучного інтелекту в пошукові системи загрожує якості даних в інтернеті через здатність чат-ботів упевнено генерувати вигадані відповіді. Експерти закликають розробників призупинити поспіх і навчити ШІ мовчати, якщо він не має достовірної інформації.
Про це повідомляє Der Spiegel.
Головна проблема сучасних моделей полягає не стільки у помилках, скільки у формі їхньої подачі. Навіть за відсутності перевірених фактів чат-боти пропонують правдоподібні відповіді з повною впевненістю. Журналісти зазначають, що системи на кшталт Gemini часто ігнорують інструкції, довільно змінюють об’єкти у відео або просто не знаходять доступну інформацію.
Особливу критику викликають ШІ-огляди у пошуковику Google, які видають готові відповіді та відучують користувачів переходити на першоджерела. Це підриває економічну модель традиційних медіа, які витрачають ресурси на збір і перевірку фактів. До того ж під час пошуку медичної інформації ШІ нерідко спирається на неспеціалізовані джерела, що створює ризики для здоров’я людей.
Питання відповідальності за помилки генеративного ШІ вже переходить у судову площину. Зокрема, в Німеччині суд визнав, що компанія Google має відповідати за неправдиву інформацію, згенеровану її системою. Саме тому фахівці наполягають, що головним принципом для чат-ботів має стати правило: «Я знаю, що нічого не знаю».