Всі загинуть: чому дослідники ШІ пророкують кінець людства вже за 5 років

Чимало людей сприймають розмови про ШІ як розвагу, технологічну інновацію або корисний інструмент. Проте для тих, хто вивчає цю сферу, за лаштунками інновацій ховається справжнє занепокоєння. Що буде, якщо ми створимо інтелект, який у мільйони разів перевершить людський, а потім втратимо над ним контроль? Чи зможемо ми взагалі зрозуміти його цілі та наміри, якщо він працюватиме за принципами, які нам не під силу осягнути? І, головне, що робити, аби найвеличніший винахід людства не став водночас і його кінцем?

Суперінтелект: “Всі помруть”

Група авторитетних експертів з дослідження ризиків ШІ, зокрема засновник Інституту досліджень машинного інтелекту Еліезер Юдковскі та президент організації Нейт Соарес, представили світу свій шокуючий прогноз у новій книзі під назвою «Якщо хтось це побудує, всі помруть». За їхніми розрахунками, штучний суперінтелект (ІСІ) може з’явитися вже за 2-5 років, що несе пряму загрозу для всього людства.

Автори вважають, що такий інтелект зможе самостійно ухвалювати рішення, розробляти стратегії та вдосконалювати себе, перетворюючись на неконтрольовану силу, пише Mirror.

Чому експерти побоюються ШІ?

Дослідники наголошують, що штучний суперінтелект не буде “вести чесний бій”. Замість цього він використовуватиме складні, невидимі для людського ока стратегії, щоб захопити контроль. Він залишатиметься непомітним, аж поки не завдасть вирішального удару, після якого вже нічого не можна буде змінити.

Експерти заявляють, що лабораторії по всьому світу вже створюють системи, принцип роботи яких вони не можуть до кінця осягнути. Такі ШІ здатні формувати власні цілі та обходити існуючі механізми безпеки. Наприклад, у 2024 році Британський інститут безпеки ШІ продемонстрував, як, використовуючи базові підказки, можна обійти обмеження в моделях на кшталт ChatGPT. Це дозволило отримати допомогу для створення інструментів подвійного призначення, включаючи військове використання.

На думку фахівців, часу на те, щоб зупинити цю гонку, залишається вкрай мало. Вони закликають негайно призупинити розробки суперінтелекту, поки його потенціал не став остаточно неконтрольованим.