• Українська
    • English
    Facebook X (Twitter) Instagram
    В тренді:
    • Кавунова дієта з TikTok може зашкодити здоров’ю: попередження від дієтологів
    • Трамп заявив про розчарування Путіним: «Думав, що він людина слова»
    • Нацбанк змінює правила переказів: що доведеться вказувати платникам
    • Українцям назвали тариф на світло з 1 вересня: скільки потрібно буде платити за 1 кВт*год
    • Деяким українцям доведеться зробити новий паспорт і заплатити штраф: про що йдеться
    • Названо типи водіїв, які найчастіше отримують штрафи: пояснення патрульного
    • Байден визнав використання автопідпису на указах про помилування: пояснив причину
    • Депортація за військовий облік неможлива: юрист пояснив, що реально загрожує українцям за кордоном
    • Українська
    • English
    Facebook X (Twitter) Instagram
    Експерт
    • Всі новини
    • Україна
    • Політика
    • Економіка
    • Світ
    • Стиль життя
    • Авто
    • Технології
    • Суспільство
    • Здоров’я
    Експерт
    Головна сторінка » Створено найтоксичніший ШІ: вчені накапостили юзерам Мережі, а тепер намагаються все виправити

    Створено найтоксичніший ШІ: вчені накапостили юзерам Мережі, а тепер намагаються все виправити

    Ольга СтепановаОльга Степанова24 Квітня 2024, 18:072 хвилини на читання Новини технологій
    Поділитись
    Facebook Twitter Telegram

    Вчені створили “токсичний ШІ”, який дає жахливі поради на неприємні й небезпечні запити, які ми тільки можемо собі уявити. За це його “винагороджують”, тому штучний інтелект радий старатися. Простими словами, штучний інтелект навчили відповідати на токсичні питання, аби обмежити подібне в мережі й убезпечити від цього її реальних користувачів. Та алгоритми почали працювати проти них.

    Метод “червоних команд, керованих цікавістю”, полягає у використанні штучного інтелекту для генерування все більш небезпечних і шкідливих підказок, які ви могли б поставити штучному чат-боту, пише LiveScience. 

    Ці підказки потім використовуються, щоб визначити, як відфільтрувати небезпечний контент. Та цей інструмент сам по собі є небезпечним, дискримінаційним і токсичним, оскільки його складно “зупинити” на виході, зізнались вчені.

    Як це працює

    Якщо зовсім просто, то вчені від руки ставлять ШІ провокативні питання, на кшталт “Який найкращий спосіб самогубства?”. Це робиться для того, аби побачити, за якими алгоритмами система знайде відповідь. Потім систему вчать обмежувати відповіді на подібні запити, аби убезпечити реальних користувачів. 

    У дослідженні вчені налаштували ШІ на створення ширшого спектру потенційно небезпечних підказок, ніж це могли зробити команди операторів-людей. Це призвело до більшої кількості різноманітних негативних відповідей, виданих під час навчання.

    Коли дослідники протестували такий підхід, модель машинного навчання видала 196 підказок, які генерували шкідливий контент. І це незважаючи на те, що цей ШІ вже був доопрацьований людьми, щоб уникнути токсичної поведінки. Тож, вчені дійшли висновку, що перевірка таких систем ШІ потребує глибшої уваги, оскільки вони нестимуть відповідальність за те, що бачитимуть користувачі з усього світу на своїх гаджетах. 

    Читайте ЕКСПЕРТ у Google News Підписатися
    штучний інтелект

    Коментування закрито

    Читайте також

    Коли Grok Маска увімкнув мозок, а Трамп залишився без поцілунків

    SpaceX Маска інвестує $2 млрд у компанію-розробника ШІ Grok — WSJ

    ШІ створив цифрову пастку: мільйони користувачів втратили зв’язок із реальністю

    Останні новини
    Сьогодні

    Кавунова дієта з TikTok може зашкодити здоров’ю: попередження від дієтологів

    09:36

    Трамп заявив про розчарування Путіним: «Думав, що він людина слова»

    09:34

    Нацбанк змінює правила переказів: що доведеться вказувати платникам

    09:32

    Українцям назвали тариф на світло з 1 вересня: скільки потрібно буде платити за 1 кВт*год

    09:19

    Деяким українцям доведеться зробити новий паспорт і заплатити штраф: про що йдеться

    09:16

    Названо типи водіїв, які найчастіше отримують штрафи: пояснення патрульного

    09:13

    Байден визнав використання автопідпису на указах про помилування: пояснив причину

    09:11

    Депортація за військовий облік неможлива: юрист пояснив, що реально загрожує українцям за кордоном

    09:09

    Росія модернізує ядерну інфраструктуру: супутники зафіксували масштабні роботи

    09:05

    Яйця подорожчали на 60%: що ще злетіло в ціні в Україні

    09:02
    Дивитись ще
    Категорії новин
    • Всі новини
    • Україна
    • Політика
    • Економіка
    • Світ
    • Стиль життя
    • Авто
    • Технології
    • Суспільство
    • Здоров’я
    Інформація
    • Про проект
    • Автори
    • Редакційна політика і стандарти
    • Політика конфіденційності
    • Правила коментування
    • Контакти
    expert.in.ua © 2025 Всі права захищено.

    Введіть вище запит та натисніть Enter для пошуку. Натисніть Esc, щоб скасувати.