Китай став ключовим питанням у одній з найважливіших дискусій про штучний інтелект (ШІ).
Цього тижня дебати набули нового виміру після того, як головний розвідник Китаю опублікував рідкісне есе, в якому попередив про значні ризики, пов’язані з передовим ШІ, та необхідність посилення контролю, навіть попри прагнення Пекіна стати світовим лідером у сфері ШІ.
Ці коментарі з’явилися через кілька днів після того, як генеральний директор Anthropic Даріо Амодеї відновив дискусію про «темпи розвитку на межі». Він стверджував, що провідні лабораторії ШІ повинні сповільнити розробку найпотужніших моделей, щоб безпека встигала за прогресом, одночасно зберігаючи достатню перевагу США над Китаєм за допомогою таких заходів, як експортний контроль та посилення безпеки ШІ.
Дискусія також відбувається напередодні зустрічі президента Дональда Трампа з китайським лідером Сі Цзіньпіном у Білому домі, де ШІ стає ключовим питанням у відносинах між США та Китаєм.
Ось що говорять експерти про роль Китаю у регулюванні темпів розвитку ШІ.
Кентон Тібо, старший науковий співробітник відділу цифрових розслідувань Atlantic Council
Всеосяжна угода між Вашингтоном і Пекіном щодо уповільнення розвитку передового ШІ залишається малоймовірною, навіть попри зростаюче усвідомлення обома країнами ризиків цієї технології, зазначила Кентон Тібо, старший науковий співробітник відділу цифрових розслідувань Atlantic Council.
За словами Тібо, Китай стурбований тим, що безпека ШІ може стати черговим інструментом США для збереження свого технологічного лідерства, тому значного прориву у сфері безпеки ШІ “вкрай малоймовірно” досягти.
Натомість, вона вважає, що більш реалістичним шляхом є обмежена співпраця у запобіганні зловживанню ШІ з боку недержавних акторів та розбудова технічних систем для моніторингу ризиків і реагування на надзвичайні ситуації.
«Втрата контролю може стати рідкісною підставою для співпраці — за умови, що обидві сторони зможуть уникнути перетворення безпеки ШІ на черговий фронт у їхньому технологічному протистоянні», — написала вона.
Аналітики Mizuho
Аналітики банку попереджають, що односторонні заходи безпеки ШІ можуть передати перевагу китайським конкурентам.
MHFG
Спроби сповільнити розробку передового ШІ навряд чи будуть успішними без глобальної координації, зазначили аналітики Mizuho під керівництвом Віджея Ракеша у своєму звіті в понеділок.
Фірма вважає, що односторонні заходи безпеки ризикують поступитися позиціями китайським конкурентам, які можуть скоротити розрив з американськими передовими моделями, одночасно розвиваючи власні обчислювальні потужності.
Mizuho додала, що досягти ефективної координації між хмарними провайдерами та урядами може бути «майже неможливо».
Ішан Вонг, колишній генеральний директор Reddit
Ішан Вонг, колишній генеральний директор Reddit, заявив у X, що «темпи розвитку на межі» — це «розумний крок».
Центральним у позиції Вонга є те, що американський скептицизм щодо співпраці з Китаєм виникає через нездатність бачити китайський народ та їхній уряд як «реальних людей, з такими ж дійсними та реальними бажаннями, мріями та фактичним людським існуванням». Це «сліпа пляма», яка спотворює стратегічні судження США, додав він.
Він провів паралель з Холодною війною, стверджуючи, що Китай історично заявляв, що роззброїться лише після того, як США зрівняють його (нижчу) кількість боєголовок — отже, сьогодні сторона, яка лідирує, повинна зробити перший крок до уповільнення, а не вимагати від сторони, що відстає, зупинитися.
Він також поставив під сумнів, що Китай близький до передових розробок, посилаючись на його залежність від переробки американських моделей та відсутність передових чіпів.
«Загалом, існує сильна готовність до співпраці — цинічно, тому що співпраця — це шлях до багатства, а китайці просто хочуть, щоб усі збагатилися; війна не робить усіх багатими», — написав Вонг.
«Але США повинні припинити бути наївними і усвідомити, що коли йдеться про ШІ, вони повинні зробити перший крок у розбудові мосту. Це оголошення та подібне від OpenAI кілька тижнів тому є правильним початком», — написав Вонг про позицію Амодеї.
Кріс Макгуайр, старший науковий співробітник Ради з міжнародних відносин
Останній публічний обмін думками щодо регулювання передового ШІ залишає США лише з двома реалістичними варіантами, стверджує Кріс Макгуайр, старший науковий співробітник з питань Китаю та нових технологій у Раді з міжнародних відносин.
Вашингтон повинен або посилити експортний контроль, щоб уповільнити розвиток ШІ в Китаї, або дозволити американським лабораторіям ШІ рухатися вперед з меншими внутрішніми обмеженнями безпеки, щоб зберегти свою перевагу.
«Це єдині два варіанти. Більше немає проміжних рішень», — написав Макгуайр у відповідь на коментар Global Times, який охарактеризував пропозицію генерального директора Anthropic Даріо Амодеї «сповільнити темпи» як спробу зберегти технологічне домінування США над Китаєм.
Якщо Китай залишатиметься «загрозою, що диктує темпи», Макгуайр стверджує, що США буде важко нав’язати значущі правила безпеки ШІ власним компаніям, не ризикуючи своєю технологічною перевагою.
Арно Бертранд, підприємець і письменник
Підприємець і письменник заперечив твердження, що Китай відкинув співпрацю у сфері безпеки ШІ.
Florencia Tan Jun/Sportsfile for Web Summit via Getty Images
Арно Бертранд, підприємець і автор, який пише про Китай та геополітику, заперечив позицію Макгуайра.
Він написав у X у відповідь на Макгуайра: «Китай не «чітко і недвозначно відкинув співпрацю з США щодо безпеки ШІ»: вони відкинули визначення ШІ-безпеки Даріо, який визначає її як лідерство США в ШІ та розгляд Китаю як загрози, яку слід стримувати».
Райан Федасюк, науковий співробітник Американського підприємницького інституту
Райан Федасюк, дослідник проблем національної безпеки, пов’язаних з Китаєм, і колишній радник Держдепартаменту, також відповів Макгуайру у X, написавши: «Ось теорія з низькою впевненістю: я думаю, ми недооцінюємо, наскільки ворожість китайських державних ЗМІ до координації між США та Китаєм щодо безпеки ШІ може бути відповіддю саме на звіт Anthropic про зловживання ШІ».
Він назвав звіт Anthropic «одним з найкращих розвідувальних продуктів», які він бачив, стверджуючи, що це був не просто викривальний матеріал, а й велике приниження для китайських розвідувальних служб, оскільки він публічно викрив провал контррозвідки на світовій арені.
Федасюк заявив, що цей звіт, ймовірно, вплине на те, як діятимуть китайські лабораторії ШІ в майбутньому, і він очікує наслідків для китайських компаній, які були спіймані на маршрутизації запитів користувачів до Claude без відповідного повідомлення — крок, який, на його думку, Anthropic передбачала як стримуючий фактор проти переробки.