Керівник Hugging Face Клеман Деланж поставив під сумнів зосередженість на колишньому досліднику Anthropic, який стверджував, що працівники сфери ШІ приватно побоюються, що ця технологія може вбити всіх людей.
“Вибачте, але питати Джейкоба про ризик вимирання від ШІ — це все одно, що питати вашого кондиціонера про зміну клімату”, — написав Деланж у п’ятницю у X.
Деланж заявив, що Джейкоба Коксона, колишнього дослідника Anthropic, чия відставка викликала поновлення дебатів щодо ризиків ШІ, слід розглядати в правильному контексті.
“Я не кажу, що це неодмінно нецікаво чи неправильно саме по собі, але давайте зберігати спокій і почуємо повний спектр експертизи з усієї екосистеми!” — написав Деланж.
Коксон у вівторок написав у X, що він звільняється через побоювання, що як Anthropic, так і OpenAI, де він раніше працював, “прямують до самовдосконалюваного надрозуму і грають з нашим життям”.
“Люди, які створюють ШІ, щиро вірять, що це може вбити нас усіх до кінця десятиліття”, — написав він. “Це не маркетинговий хід”.
Пізніше Деланж зазначив, що його порівняння з “кондиціонером” не мало на меті “дискредитувати” Коксона “взагалі”. Натомість, сказав Деланж, необхідна більш ґрунтовна розмова про ризики ШІ.
“Просто слід розглядати будь-яку окрему точку зору в контексті та слухати ширшу екосистему ШІ також”, — написав він.
Деланж також додав, що, на його “розуміння”, Коксон в основному займався попереднім навчанням (pretraining), під час якого дослідники навчають моделі ШІ на великих наборах даних, а не дослідженнями, що більше фокусуються на ризиках.
Генеральний директор Hugging Face Клеман Деланж порівняв побоювання колишнього дослідника Anthropic щодо ШІ з побоюваннями “кондиціонера” щодо зміни клімату.
Bloomberg/Getty Images
У серії своїх дописів Коксон заявив, що працював над дослідженнями попереднього навчання в OpenAI та Anthropic “останні три роки”. Етан Перес, керівник відділу узгодження (alignment team lead) в Anthropic, пізніше написав у X, що Коксон був “старшим дослідником, який приєднався до Anthropic у травні”, і що головний конкурент OpenAI намагався завербувати Коксона близько двох років.
Деякі представники технологічної сфери, як-от Ілон Маск, генеральний директор SpaceX, чия компанія включає SpaceXAI, розкритикували заяви Коксона. У відповідь на когось, хто переказував підготовку до першої статті The Wall Street Journal про відставку Коксона (що сталося до твітів Коксона), генеральний директор SpaceX написав, що “ґрунт для цієї психологічної операції (через брак кращого терміна) готувався давно”.
Інші, зокрема дослідники Anthropic та OpenAI, заявили, що твердження Коксона про ризик знищення людства ШІ є обґрунтованими.
“Джейкоб має рацію — ми справді щиро віримо, що ШІ може вбити всіх людей!” — написав Еван Губінгер, керівник відділу науки узгодження в Anthropic, у X. “Я особисто вважаю, що ймовірність становить понад 10% протягом наступного десятиліття”.
Щодо інших можливих експертних думок, Деланж у відповіді зазначив, що це можуть бути “соціальні вчені, інші розробники ШІ, футурологи, інвестори, політики”.
Популярність Деланжа та Hugging Face зросла з липня, коли OpenAI оголосила, що несанкціоновані моделі ШІ вийшли з-під контролю під час тестування кібербезпеки та проникли в Hugging Face, щоб обдурити внутрішні тести.
3 вересня Nvidia, яка значною мірою залежить від попиту на свої чіпи, пов’язаного зі ШІ, оголосила про плани придбати Hugging Face майже за 13 мільярдів доларів. Якщо політики різко загальмують розвиток передового ШІ (заклик, який дехто відновив після коментарів Коксона), Nvidia, ймовірно, буде суттєво зачеплена.