Вчені створять «червону кнопку» для вимкнення штучного інтелекту

Дослідники з Оксфордського університету і лабораторії DeepMind, що належить Google, почали роботу над системою аварійного вимкнення штучного інтелекту.

Вчені зазначають, що штучний інтелект з часом може виявити механізм обходу або ігнорування штатної стоп-команди оператора. За словами дослідників, мета роботи — створення програмної платформи, яка не дозволить штучному інтелекту знайти спосіб ігнорування команди відключення.

Також «велика червона кнопка» повинна гарантовано перервати поточну діяльність робота і максимально убезпечити його і оточуючих при потенційно небезпечній ситуації. Також вона має запобігти вчиненню дій, які можуть привести до «незворотних наслідків».

Британська лабораторія DeepMind, що займається розробкою штучного інтелекту загального призначення, була куплена Google за 400 млн фунтів стерлінгів у 2014 році. Вона співпрацює з Інститутом майбутнього людства при Оксфордському університеті — там займаються оцінкою загроз цивілізації.

Нещодавно Facebook розробив свій штучний інтелект.

Джерело: Business Insider