Чорне дзеркало: у США робот звільнив працівника без відома керівництва

Розробник з Каліфорнії і співзасновник стартапу Renly Ібрагім Діалло розповів, як його звільнила комп'ютерна програма.

Контракт з Діалло був розірваний, хоча повинен був діяти ще майже 10 місяців.

До слова: Робот навчився читати думки людей

Історія почалася з того, що Діалло отримав голосове повідомлення від свого безпосереднього керівника зі словами "Боже мій, з тобою все в порядку?", Але не став на нього відповідати. У той же день він не зміг потрапити на роботу – пропуск не працював. Він звернувся до охоронця, який допоміг йому дістатися до свого робочого місця. Відділ кадрів пообіцяв Діалло розібратися з ситуацією. Однак така ж ситуація повторилася і на наступний день. Крім того, він став втрачати доступ до робочих програм на комп'ютері, а один із співробітників повідомив, що обліковий запис Діалло в системі деактивовано.

Через пару днів охорона сказала Діалло зібрати речі і залишити офіс. Коли він звернувся безпосередньо до директора компанії, та запевнила, що програміста не планували звільняти і не віддавали такого розпорядження. Проте, в певний момент глава компанії сама отримала лист з повідомленням про звільнення Діалло.

Ібрагім Діалло

"Я просидів три тижні без роботи і без зарплати, поки зі мною переукладали договір і заново налаштовували всі необхідні рівні допуску. Так що я хотів пояснень", – розповідає Діалло.

Виявилося, що менеджер повинен був переукласти тимчасовий контракт з Діалло, але був звільнений і, ймовірно, не став цим займатися. Контракт закінчився, і система самостійно звільнила співробітника. Далі машина розпорядилася заблокувати пропуск Діалло, а потім відключити його робочий аккаунт.

Детальніше про ситуацію з Ібрагімом Діалло можна прочитати в його особистому блозі. Деякі коментатори розповіли, що самі опинялися в подібній ситуації і порівняли історію Діалло з серіалом "Чорне дзеркало".

"Автоматизація може бути активом для компанії, але повинні бути способи виправити ситуацію, якщо машина допустила помилку", – пише він.

"Одним з фундаментальних навичок для всіх людей в світі штучного інтелекту є підзвітність. Навіть якщо алгоритм каже, що це правильна відповідь, це не завжди означає, що це так і є насправді", – прокоментував ситуацію експерт в області штучного інтелекту Дейв Коплін. За його словами, ця історія має стати застереженням для розвитку відносин людина-машина.

Читайте також: Голова болить: секс-роботів навчили відмовлятися від сексу

• Теги:
• Події
• Технології
• США
• Робота
• Лайфстайл