Медики попередили про смертельну небезпеку надмірної довіри до штучного інтелекту. Мешканка Великої Британії на власному досвіді переконалася що впевнений тон чатбота може приховувати фатальні помилки.
Про це повідомляє ВВС.
Мешканка Манчестера на ім’я Абі протягом року використовувала ChatGPT як заміну сімейному лікарю через зручність та персоналізовані відповіді. Проте один інцидент змусив її змінити ставлення до технології.
Коли жінка впала у горах і відчула біль у спині, ШІ поставив їй страшний діагноз — «проколотий внутрішній орган». Налякана Абі терміново поїхала до лікарні де після тривалого обстеження з’ясувалося що загрози життю немає а чатбот просто вигадав небезпеку.
Професор сер Кріс Вітті наголосив що відповіді алгоритмів часто є «одночасно впевненими та помилковими». Дослідження Оксфордського університету підтвердили ці побоювання. Виявилося що при спілкуванні з реальними людьми точність діагнозів ШІ падає з майже ідеальних 95% до критичних 35%.
Експерти також виявили випадки коли ШІ радив гомеопатію та трави для лікування раку замість того щоб направити пацієнта до онколога. Доктор Ніколас Тіллер попереджає що авторитетний тон бота створює ілюзію достовірності яка вводить в оману.
Компанія OpenAI офіційно закликала користувачів не використовувати ChatGPT як заміну професійним медичним порадам. Розробники наголошують що сервіс створений для освіти та отримання інформації а не для постановки діагнозів.
Зараз Абі продовжує користуватися ШІ але тепер перевіряє кожне його слово. Медики ж радять уникати будь-яких порад алгоритмів щодо здоров’я якщо ви не є експертом у цій галузі.