У Amazon під час тестування систем штучного інтелекту для управління персоналом на складах виник конфлікт між алгоритмами та працівниками. Частина менеджерів була настільки незадоволена роботою нових інструментів, що просила керівництво тимчасово їх відключити.
Про це пише Yahoo Finance із посиланням на внутрішні документи та листування компанії.
Amazon розробляє ШІ-інструменти для оптимізації роботи складів і логістики. Компанія прагне прискорити обробку замовлень і зробити управління персоналом ефективнішим.
Однак під час перших етапів тестування працівники не завжди погоджувалися з рекомендаціями алгоритмів. За даними видання, менеджери могли ігнорувати поради системи, обходити їх або вимикати окремі функції, якщо вважали власні рішення точнішими.
Через це керівництво Amazon дійшло висновку, що добровільне використання рекомендацій ШІ не працює належним чином, і почало посилювати контроль за застосуванням системи.
Водночас представник компанії заявив, що витік документів не показує повної картини. За його словами, остаточні рішення залишаються за менеджерами, а штучний інтелект лише допомагає аналізувати інформацію.
«Менеджери, як і раніше, ухвалюють рішення — ця технологія лише надає їм кращу інформацію для прийняття цих рішень і звільняє більше часу для підтримки команд», — заявили в Amazon.
Попри це, у внутрішніх повідомленнях деякі керівники складів скаржилися на роботу системи. Частина з них просила «вимкнути застосунок просто зараз» або призупинити його використання до виправлення проблем.
Серед основних претензій називали нездатність алгоритмів враховувати індивідуальні особливості працівників. У компанії пояснили, що ці проблеми стосувалися ранньої версії системи, а отримані відгуки використали для її доопрацювання.
Amazon заявила, що нинішня версія програмного забезпечення суттєво відрізняється від початкових тестових варіантів, а рішення про подальше масштабування технології ухвалюватимуть після додаткової перевірки.