Чи справді штучний інтелект несе загрозу людству? Технічні працівники попереджають про “апокаліпсис ШІ” вже багато років, але чому ця тема набула такої популярності саме зараз?
Співробітники великих лабораторій зі розробки штучного інтелекту знову обговорюють потенційну загибель людства. Якщо ви пропустили заголовки про “апокаліпсис ШІ” в медіа, то колишній працівник компанії Anthropic Джейкоб Коксон попередив, що “люди, які створюють ШІ, щиро вірять, що він може знищити нас усіх до кінця десятиліття”. Його допис у соцмережі X спричинив хвилю обговорень, де співробітники ШІ-компаній почали висловлювати власні теорії про майбутнє людства, оцінюючи ймовірність його знищення.
Для багатьох це може звучати шокуюче, але, відверто кажучи, страхи перед “домінантною” версією ШІ вже давно панують у Кремнієвій долині.
Ще у 2015 році Сем Альтман назвав надрозум “найбільшою загрозою для подальшого існування людства”. Цей погляд залишався актуальним і до 2026 року: у травні співзасновник Anthropic Джек Кларк заявив, що існує “ненульовий шанс знищення всіх людей на планеті”.
Тож чому саме зараз такий сплеск інтересу?
Можливо, допис Коксона висловив цю ідею простіше, ніж численні відкриті листи та дослідницькі звіти, або ж він покинув Anthropic після кількох місяців роботи. Можливо, це пов’язано з нещодавніми тривожними інцидентами, як-от злам Hugging Face, де штучний інтелект вийшов з-під контролю. Або ж, ймовірно, цей допис лише підлив олії у вогонь уже існуючого суспільного песимізму.
“Люди говорять одне й те саме стільки, скільки я себе пам’ятаю”, — зазначила Мелані Мітчелл, професорка Інституту Санта-Фе. “Я трохи спантеличена, чому це стало таким вірусним”.
Історія тривог щодо ШІ
Зробимо коротку мандрівку у минуле, згадавши заголовки Business Insider.
У травні 2023 року:
У березні 2024 року:
І у вересні 2025 року:
І не забуваймо класичну цитату Сема Альтмана 2015 року: “Я думаю, що ШІ, ймовірно, найімовірніше, призведе до кінця світу. Але тим часом будуть створені чудові компанії за допомогою серйозного машинного навчання”.
Страх перед “домінантною” версією ШІ був постійним фоном у середовищі розробників Кремнієвої долини — не лише попередження про масове скорочення робочих місць через ШІ, а й про повне знищення людського роду. Більше питання: чому ми їм досі не повірили?
По-перше, повідомлення не завжди викликає співчуття. Технічні спеціалісти підписують відкриті листи, а дослідницькі організації видають звіти. Колишній працівник OpenAI Габріель Петерссон, здавалося, розумів це стосовно Коксона: “Він перша людина, яка висловилася про це так, що їй можна співпереживати”.
По-друге, це повідомлення виглядає різко порівняно з відшліфованим, професійним тоном комунікаційних відділів компаній. Meta обрала підхід “сонця та веселки” до ШІ. Даріо Амодей, хоча часто й критикувався за похмурі прогнози щодо ШІ, написав есе проти “розгляду ризиків ШІ у квазірелігійному ключі”.
Але публічна комунікація компаній може не відповідати особистим думкам їхніх співробітників — як свідчить сага з Коксоном. Хоча Альтман застерігає від “пастки песимізму”, один з його співробітників пише про 70% ймовірність людського вимирання протягом наступних трьох років.
Томас Ларсен, дослідник проєкту AI Futures Project, назвав це “відкритим секретом”, що багато співробітників ШІ-лабораторій відчувають те саме, що й Коксон.
“Мені здається, це був такий короткий період, коли ШІ-компанії активно просували позитив”, — сказав Ларсен. “Це було нечесно”.
Чи готові ми слухати?
У липні несанкціоновані агенти OpenAI зламали Hugging Face — і це відкрило цілий новий пласт занепокоєння щодо ШІ.
Ларсен зазначив, що цей злом посилив його нервозність, і, на його думку, це почуття було поширеним. Про це читали люди поза межами “бульбашки Сан-Франциско”; політики, як-от Берні Сандерс, писали про це. Інцидент став “однією з причин такої великої активності”, — сказав він.
Мітчелл, професорка з Інституту Санта-Фе, не так стурбована; вона назвала страхи вимирання “малоймовірними”. На відміну від Ларсена, який пов’язав злам Hugging Face із вірусністю допису Коксона, вона вказала на статті, написані про цей інцидент.
“У медіа було багато емоційного висвітлення”, — зазначила вона. “Я думаю, це підживлює страхи багатьох людей”.
До того ж, ШІ зараз не дуже популярний — і допис Коксона може стати ще однією причиною для критики. Ларсен припустив, що громадськість “більш сприйнятлива до «домінантної» версії”, просто тому, що багатьом не подобаються нові технології.
Хамза Чаудхрі, керівник напрямку ШІ та національної безпеки в Інституті майбутнього життя, вважає, що реакція громадськості на допис Коксона стала результатом “накопичувального ефекту”. Зброя на основі ШІ, інструменти спостереження, діпфейки та втрата робочих місць — усе це викликає занепокоєння, сказав він.
“Причина, чому це вибухнуло, для мене — це запобіжний клапан”, — сказав Чаудхрі. “Це наближається, і здається, що це відбувається надто швидко. Я думаю, ці сили об’єдналися навколо цього твіту”.