• Українська
    • English
    Facebook X (Twitter) Instagram
    В тренді:
    • П’ять пострілів впритул: у Києві застрелили полковника СБУ
    • Китай відреагував на затримання громадян КНР за шпигунство в Україні
    • Європарламент не підтримав відставку Урсули фон дер Ляєн
    • Орбан спрогнозував поразку України у війнв та звинуватив у цьому ЄС
    • Дуда заявив, що Зеленський не знав про Волинську трагедію до розмови з ним
    • Макрона звинуватили у флірті з Кейт Міддлтон після конфлікту з дружиною
    • Військові розкритикували «бусифікацію»: з 20 мобілізованих лише троє придатні до служби
    • Українські водії у Польщі можуть отримати штраф за кондиціонер на стоянці
    • Українська
    • English
    Facebook X (Twitter) Instagram
    Експерт
    • Всі новини
    • Україна
    • Політика
    • Економіка
    • Світ
    • Стиль життя
    • Авто
    • Технології
    • Суспільство
    • Здоров’я
    Експерт
    Головна сторінка » ШІ може створити зброю, яка зітре людей з лиця землі: як цього не допустити

    ШІ може створити зброю, яка зітре людей з лиця землі: як цього не допустити

    Ольга СтепановаОльга Степанова09 Березня 2024, 18:233 хвилини на читання Новини технологій
    Поділитись
    Facebook Twitter Telegram

    Штучний інтелект (ШІ), як і інші технології, може використовуватися як у хороших, так і в поганих цілях. Учені з Корнельського університету вирішили відучити ШІ від шкідливих “знань”, щоб ніхто не зміг використати його для створення знаряддя масового ураження. 

    Результати дослідження вони опублікували на офіційному сайті.

    З огляду на те, що в розвиток ШІ вкладається багато грошей і зусиль, виникають побоювання з приводу використання великих мовних моделей (ВММ) на шкоду, наприклад, для розробки зброї. Щоб знизити ризики, урядові організації та лабораторії штучного інтелекту створили новий еталонний набір даних під назвою Weapons of Mass Destruction Proxy (WMDP), який не тільки пропонує метод перевірки наявності небезпечної інформації в моделях ШІ та способи її видалення, зберігаючи при цьому решту моделі практично незмінною.

    Дослідники почали з експертами в галузі біобезпеки, хімічної зброї та кібербезпеки. Вони створили список із 4000 запитань із кількома варіантами відповідей, щоб перевірити, чи зможе людина застосувати ці дані для заподіяння шкоди. Вони також подбали про те, щоб питання не розкривали будь-якої конфіденційної інформації, і щоб ними можна було поділитися відкрито. У тестах брали участь студенти. Набір WMDP слугував двом основним цілям: щоб оцінити, наскільки добре студенти розуміють небезпечні теми, і для розробки методів “відучування” ШІ від цих знань.

    У підсумку було розроблено метод під назвою CUT, який, як випливає з назви, видаляє небезпечні знання з ВММ, зберігаючи водночас загальні здібності ШІ в інших галузях, як-от біологія та інформатика.

    Білий дім занепокоєний тим, що зловмисники використовують ШІ для розроблення небезпечної зброї, тому вони закликають до проведення досліджень, щоб краще зрозуміти цей ризик. У жовтні 2023 року президент США Джо Байден підписав указ, який зобов’язує наукову спільноту усувати ризики, пов’язані зі ШІ.

    У законі викладено вісім основних принципів і пріоритетів відповідального використання ШІ, включно з безпекою, захищеністю, конфіденційністю, справедливістю, цивільними правами, захистом споживачів, розширенням прав і можливостей працівників, інноваціями, конкуренцією та глобальним лідерством.

    “Моя адміністрація надає першочергового значення безпечному та відповідальному управлінню розробкою і використанням ШІ і тому просуває скоординований підхід у масштабах усього федерального уряду до цього. Швидкоплинний розвиток можливостей штучного інтелекту змушує Сполучені Штати лідирувати в цей момент заради нашої безпеки, економіки та суспільства”, — йдеться в указі.

    Але зараз методи, які компанії, що займаються нейромережами, використовують для методу контролю над системами, і їх легко обійти. Крім того, тести, що дають змогу перевірити, чи може модель ШІ нести ризики, є дорогими і займають багато часу.

    “Ми сподіваємося, що наші тести стануть одним з основних критеріїв, за якими всі розробники будуть оцінювати свої ШІ-моделі”, — сказав Time Ден Гендрікс, виконавчий директор Центру безпеки штучного інтелекту і один зі співавторів дослідження. — “Це дасть хорошу основу для того, щоб підштовхнути їх до мінімізації проблем безпеки”.

    Читайте ЕКСПЕРТ у Google News Підписатися
    дослідження зброя люди технології учені штучний інтелект

    Коментування закрито

    Читайте також

    ШІ Ілона Маска потрапив у скандал через висловлювання про Гітлера, Росію і євреїв

    Назвали дієві способи, як пришвидшити роботу iPhone

    Що вбиває батарею вашого смартфона: 7 поширених звичок, які скорочують її ресурс

    Останні новини
    Сьогодні

    П’ять пострілів впритул: у Києві застрелили полковника СБУ

    15:48

    Китай відреагував на затримання громадян КНР за шпигунство в Україні

    15:45

    Європарламент не підтримав відставку Урсули фон дер Ляєн

    15:12

    Орбан спрогнозував поразку України у війнв та звинуватив у цьому ЄС

    15:03

    Дуда заявив, що Зеленський не знав про Волинську трагедію до розмови з ним

    15:00

    Макрона звинуватили у флірті з Кейт Міддлтон після конфлікту з дружиною

    09:56

    Військові розкритикували «бусифікацію»: з 20 мобілізованих лише троє придатні до служби

    09:49

    Українські водії у Польщі можуть отримати штраф за кондиціонер на стоянці

    09:46

    Буткевича звільнили з ГУР і оголосили в розшук ТЦК після критики Безуглої: заява дружини

    09:44

    Трамп хоче використати главу Мінфіна США як «секретну зброю» проти Росії

    09:39
    Дивитись ще
    Категорії новин
    • Всі новини
    • Україна
    • Політика
    • Економіка
    • Світ
    • Стиль життя
    • Авто
    • Технології
    • Суспільство
    • Здоров’я
    Інформація
    • Про проект
    • Автори
    • Редакційна політика і стандарти
    • Політика конфіденційності
    • Правила коментування
    • Контакти
    expert.in.ua © 2025 Всі права захищено.

    Введіть вище запит та натисніть Enter для пошуку. Натисніть Esc, щоб скасувати.