Провідні лабораторії штучного інтелекту почали активно наймати філософів. Вони мають допомогти вирішувати моральні дилеми та формувати правила для майбутнього сильного ШІ.
Про це пише The Economist.
Технологічні компанії дедалі частіше звертаються до філософів, щоб розібратися з етичними та концептуальними питаннями розвитку штучного інтелекту. Йдеться не лише про безпеку моделей, а й про принципи їхньої взаємодії з людьми.
Одне з головних завдань таких спеціалістів — створення так званих “конституцій” для моделей ШІ. Саме ці правила мають визначати межі поведінки алгоритмів у складних ситуаціях.
У великих лабораторіях вже серйозно готуються до появи AGI — сильного штучного інтелекту. Його потенційний вплив на суспільство викликає дедалі більше запитань.
Наприклад, Google DeepMind запросила до роботи кембриджського філософа Генрі Шевлін. Він займається питаннями свідомості та моральної відповідальності машин.
Філософи допомагають аналізувати, чи може штучний інтелект у майбутньому мати ознаки свідомості. Також вони досліджують, чи здатні такі системи потенційно “страждати” або отримати моральний статус.
Втім, не всі вірять у щирість таких ініціатив. Частина експертів припускає, що співпраця з філософами може бути частиною стратегії для демонстрації відповідальності перед регуляторами.
Критики вважають, що компанії можуть використовувати етичні команди більше як інструмент репутації. При цьому базові підходи до розвитку технологій залишаються незмінними.
Попри це, сама дискусія про свідомість машин стає все гострішою. І великі ІІ-лабораторії вже змушені враховувати не лише технічні, а й правові та філософські наслідки своїх розробок.