Чи здатний штучний інтелект призвести до вимирання людства: що кажуть дослідження

Опитування провідних вчених у галузі штучного інтелекту свідчить, що існує 5% ймовірність того, що штучний інтелект стане неконтрольованим і знищить людство.

У короткостроковій перспективі, за оцінками дослідників, ШІ стане значно досконалішим, здатним створити пісню з Топ 40 популярної естради і написати бестселер NYT до 2030 року. Тож наші володарі ШІ принаймні розважатимуть нас перед тим, як вбити.

Це цікаво Підліток зі США став першою людиною, яка пройшла усі рівні гри "Тетріс"

"Хоча прогнози експертів зі штучного інтелекту не слід розглядати як надійний провідник до об'єктивної істини, вони можуть надати один важливий шматочок головоломки", – кажуть дослідники з Берклі та Оксфордського університету, які провели дослідження в грудні.

Їхнє знайомство з технологією і динамікою її розвитку в минулому дозволяє їм робити обґрунтовані припущення про майбутнє ШІ.

Під час опитування 2 778 вчених, які опублікували рецензовані дослідження в галузі ШІ, розповіли про свої прогнози на майбутнє. Яке відчуття переважає? Невпевненість.

Приблизно 68% дослідників вважають, що хороші результати від надлюдського ШІ більш вірогідні, ніж погані, але приблизно половина з цих оптимістів допускає ненульову ймовірність вимирання людства.

Дослідження висвітлює сприйняття небезпеки навколо створення потужного штучного інтелекту провідними світовими дослідниками. Існує широка згода щодо того, що дослідження, спрямовані на мінімізацію ризиків ШІ, повинні бути більш пріоритетними, але дослідники розділилися в думках щодо того, чи повинен прогрес ШІ в цілому прискорюватися або сповільнюватися.

Понад 80% дослідників ШІ висловили "надзвичайну" або "значну" стурбованість тим, що ШІ може сприяти поширенню дезінформації. Більшість дослідників висловили аналогічну стурбованість щодо авторитарних правителів, які використовують ШІ для контролю над населенням, систем ШІ, що поглиблюють економічну нерівність, і ролі ШІ у створенні штучних вірусів. Це опитування є найбільшим у своєму роді на сьогодні.

Провідні американські розробники ШІ посилаються на безпеку у своїх заявах про місію. У грудні OpenAI випустила свій перший документ про узгодження надлюдського ШІ з людськими цінностями. У Anthropic є конституція, покладена на системи штучного інтелекту, яка гарантує, що вони діють відповідно до правил нашого суспільства. Але чи будуть ці методи дійсно працювати з моделями ШІ, розумнішими за людину? Це ще належить з'ясувати, оскільки сучасний ШІ не такий вже й розумний.

Читайте також У Instagram з'явилася сторінка віртуального Тараса Шевченка, створеного за допомогою ШІ

Дослідники дали свої найкращі оцінки того, коли суспільство досягне 39 основних досягнень ШІ. Експерти очікують, що до 2033 року ШІ зможе збирати LEGO, перекладати новостворені мови та створювати відеоігри. До 2063 року, за оцінками дослідників, ШІ зможе виконувати роботу хірурга або навіть дослідника ШІ.

• Теги:
• Технології
• Інтернет
• Світ
• Суспільство