Нобелівський лауреат Гінтон: ризик знищення людства через ШІ — близько 10%

Джеффрі Гінтон — лауреат Нобелівської премії з фізики, когнітивний психолог та інформатик, якого називають «хрещеним батьком штучного інтелекту», — в інтерв'ю BBC Newsnight назвав імовірність знищення людства через ШІ на рівні близько 10%. Водночас він визнає: точно порахувати такий ризик неможливо.

«10% здаються мені цілком обґрунтованою оцінкою, хоча насправді ніхто не знає, як зробити це точно», — сказав він.

Що стоїть за цими відсотками

За словами Гінтона, людство вперше створює системи, які згодом можуть перевершити нас за інтелектом. Досвіду, на який можна було б спертися для точного прогнозу, просто немає.

Науковець наголошує: суперінтелекту не обов'язково діяти у фізичному світі. Він може створювати хаос через спілкування з людьми, організовувати масштабні кібератаки, розробляти небезпечні біологічні та комп'ютерні віруси. Схожу думку висловлював і футуролог Ювал Ной Харарі: на його переконання, ШІ здатен поступово підпорядкувати бюрократичні інституції, інформаційні потоки й ухвалення рішень без участі людини.

«Ми повинні з'ясувати, як створити його так, щоб воно цього не захотіло», — підкреслив Гінтон.

Його власні оцінки часу до появи потенційно небезпечного суперінтелекту постійно скорочувалися: спершу йшлося про 30–50 років, потім про 10–20, а тепер — приблизно десять років або й менше.

Чому це не привід для паніки

Гінтон не закликає зупиняти розробки. Він визнає: на відміну від ядерної зброї, ШІ має величезну практичну користь — від охорони здоров'я та освіти до створення нових ліків. Чат-боти вже зараз допомагають у повсякденні. На думку науковця, розробники мають одночасно робити системи розумнішими й працювати над мінімізацією вже відомих ризиків. Проблема в тому, що великі технологічні компанії передусім конкурують за дедалі потужніші моделі, бо саме це дає короткостроковий прибуток. Дослідник Трістан Гарріс із цього приводу закликав зупинити неконтрольовану гонку ШІ, адже корпорації привласнюють прибутки, а ризики перекладають на суспільство.

Що можуть зробити батьки вже зараз

Головним рішенням Гінтон називає регулювання, хоч універсального рецепта, за його словами, немає: різні ризики потребують різних механізмів контролю. Міжнародна співпраця реальна там, де інтереси держав збігаються. Як приклад він згадав холодну війну, коли США та СРСР разом запобігали ядерній катастрофі, — схожа логіка має спрацювати й щодо ШІ.

Поки рішення ухвалюють на глобальному рівні, вдома варто тримати базову гігієну:

— говоріть із дітьми про те, що чат-бот може помилятися й вигадувати факти; — перевіряйте важливу інформацію з ШІ-відповідей за надійними джерелами; — не діліться з чат-ботами персональними даними дитини; — пояснюйте, що рішення про здоров'я, навчання чи гроші ухвалює людина, а не програма.

Підсумок

Оцінка Гінтона — це не пророцтво, а спроба позначити масштаб невизначеності. Для родини це радше нагадування: користуватися ШІ можна й корисно, але з розумінням його меж. Коментарі науковця пролунали невдовзі після оголошення про звільнення дослідника Anthropic Джейкоба Коксона, який висловлював побоювання щодо неконтрольованих перегонів за самовдосконалюваними ШІ-системами. Його позицію підтримав і дослідник Anthropic Еван Гюбінгер, який оцінив імовірність знищення людства штучним інтелектом у найближчі десять років у понад 10%.