Президент США Дональд Трамп та лідер Китаю Сі Цзіньпін, як очікується, обговорять штучний інтелект (ШІ) під час зустрічі у Вашингтоні цього тижня. Обидві країни прагнуть знайти шляхи для врегулювання ризиків національної безпеки, пов’язаних із цією технологією, попри загальне суперництво.
Однак, порівняння, яке часто проводять з контролем над ядерними озброєннями, має свої обмеження, зазначає Антонія Хмайді, керівниця програми з науки, технологій та інновацій у Mercator Institute for China Studies.
“ШІ не схожий на ядерну зброю, і наша ситуація з ШІ також не схожа на ситуацію з ядерною зброєю”, — сказала вона на брифінгу для ЗМІ в п’ятницю. “З ядерною зброєю відносно легко перевірити, принаймні, загальні заяви іншої сторони. Дуже, дуже важко сховати величезну кількість ядерної зброї десь. З ШІ це не так”, — додала Хмайді.
Очікується, що ШІ стане одним із найважливіших пунктів порядку денного на зустрічі Трампа та Сі у Білому домі в четвер, поряд із торговельною політикою та експортним контролем.
У неділю міністр фінансів США Скотт Бессент заявив, що Сполучені Штати запропонували новий діалог між США та Китаєм щодо ШІ та механізм повідомлень про інциденти, пов’язані зі ШІ, які досягають рівня національної безпеки.
Зустріч Трампа та Сі відбувається на тлі посилення дебатів щодо безпеки ШІ. Генеральний директор Anthropic Даріо Амодей нещодавно закликав компанії, що займаються розробкою ШІ, уповільнити темпи розвитку передових моделей.
Трамп, однак, виступає проти уповільнення розвитку ШІ, стверджуючи, що США повинні зберігати свою перевагу над Китаєм, навіть попри попередження деяких дослідників про те, що все більш потужні системи ШІ можуть становити катастрофічні ризики.
Але перевірка — це одна з найбільших перешкод для досягнення значущих угод щодо ШІ, вважає Хмайді.
“Як перевірити заяву, якщо Сі скаже: ‘Наші лабораторії припиняють розробку ШІ для біотехнологій, для біологічної зброї’? Як це взагалі можна перевірити? І навпаки, звісно”, — сказала вона.
Хмайді зазначила, що ці виклики виходять за рамки формальних угод. Вона поставила під сумнів пропозиції щодо створення еквівалента “червоної лінії” часів Холодної війни між Вашингтоном і Москвою для ШІ, запитуючи, як уряди взагалі дізнаються, коли використовувати такий механізм.
“Але навіть там, як ви вирішите, коли провести червону лінію?” — запитала вона.
Іншою проблемою є те, що ШІ все ще швидко розвивається, що ускладнює для урядів досягнення згоди щодо того, що саме вони могли б обмежувати.
“Ми не знаємо, куди це нас приведе. Чи приведе це нас до штучного загального інтелекту (AGI), як стверджують деякі в США? Чи призведе це до ситуації застою, коли прогрес зупиниться? Ми не знаємо”, — сказала Хмайді, маючи на увазі AGI — штучний інтелект, здатний виконувати широкий спектр інтелектуальних завдань на рівні людини або вище.
Ця невизначеність робить малоймовірним досягнення країнами згоди щодо обмежень на розробку ШІ, додала вона.
Навіть якщо Трамп і Сі оголосять про ініціативи щодо ШІ, Хмайді вважає, що вони, швидше за все, стосуватимуться технічного обміну або широких принципів, а не зобов’язуючих зобов’язань.
Вона навела як приклад пропозиції, що вимагають від людей приймати остаточне рішення щодо використання ядерної зброї. Це угода, яка була б політично простою, але “жодним чином не зобов’язуючою” і “навіть жодним чином не перевіряється”.
“Я була б здивована, якби було щось перевірене, або якась заява щодо ШІ, яка б реально підвищила безпеку”, — сказала вона.