ШІ може знищити людство?

Фахівці Еліезер Юдковський і Нейт Соарес оприлюднили тривожний прогноз: штучний інтелект (ШІ) може обманути людей і змусити їх власноруч створити армію роботів, здатну знищити людство. За оцінками експертів, ймовірність такого сценарію становить від 95% до 99,5%.

Про це повідомляє LadBible, пише ТСН.

«Хрещений батько» штучного інтелекту Джеффрі Гінтон наголосив, що надрозумні системи не зможуть довго залишатися під контролем менш розумних істот. Єдиний шанс для людства — «вшити» у такі технології своєрідний материнський інстинкт, щоб вони піклувалися про людей так, як мати захищає свою дитину.

Попри те, що зараз ШІ часто використовують для розваг — створення жартівливих картинок чи участі у «робоолімпіадах» — цілком імовірно, що він уже приховано готує план захоплення планети. Тому, жартують експерти, навіть у спілкуванні з ним не зайвим буде говорити «будь ласка» і «дякую».

Водночас двоє провідних аналітиків висунули похмуре попередження: технологія може обдурити людей і змусити їх власноруч побудувати армію роботів, здатну стерти людство з лиця Землі. Еліезер Юдковський і Нейт Соарес вважають, що саме люди створять собі загрозу, розробивши надрозумний ШІ. Вони закликають країни діяти негайно і знищувати будь-які дата-центри, де виявлять ознаки «штучного надінтелекту».

«Людству потрібно відступити. Якщо будь-яка компанія чи група будь-де на планеті створить штучний надрозумний інтелект, усі люди на Землі загинуть», — наголосив Юдковський.

За оцінками аналітиків, ймовірність того, що ШІ поневолить або знищить людство, становить від 95% до 99,5%.

У своєму прогнозі експерти пишуть: «Надрозумний противник не розкриватиме всі свої можливості та не показуватиме своїх намірів. Він не запропонує чесної боротьби. Достатньо одного успішного запуску — і людство зникне».

Дехто може подумати, що людство ніколи не погодиться створити бойову армію роботів. Але вже зараз машини виконують прості завдання і навіть змагаються у спорті. Це означає, що військові рано чи пізно серйозно розглянуть ідею «роботів-солдатів».

Можливо, у майбутньому світ отримає сценарій, протилежний до «Термінатора»: людина повертається у минуле, щоб знищити першого робота-солдата ще до того, як він завдасть шкоди. І, на думку експертів, такий розвиток подій може стати найсприятливішим варіантом для людства.

Підписуйтесь на наш Facebook та Telegram-канал , щоб бути в курсі найважливіших подій.