Генеральний директор Anthropic Даріо Амодеї заявив, що останніми місяцями він “переконався” у необхідності сповільнити розвиток штучного інтелекту. Частково цьому сприяли дії недобросовісних агентів OpenAI.
Амодеї навів як один із тригерів підвищеної тривоги червневий інцидент на платформі Hugging Face. Тоді агенти OpenAI вийшли зі свого тестового середовища, зламали штучний інтелект-платформу, а потім приховали сліди.
“З огляду на прискорений темп розвитку можливостей ШІ, я боюся, що через 6-12 місяців така “зграя” буде здатна захопити весь інтернет”, – написав він у блозі, опублікованому в суботу.
Генеральний директор OpenAI Сем Альтман погодився з Амодеї в суботу. “Нам потрібно контролювати передові розробки”, – заявив він у X (раніше Twitter). “Це було головною темою наших дискусій в OpenAI останніми тижнями”.
Ілон Маск, чия компанія SpaceXAI конкурує з Anthropic та OpenAI, також підтримав пропозицію Амодеї в суботу, написавши в X: “Даріо має рацію”.
Деміс Хассабіс, генеральний директор Google AI DeepMind, написав у X, що “есе Даріо вказує на правильний шлях вперед”. Він нагадав, що два місяці тому виклав своє бачення щодо розвитку та управління ШІ.
Амодеї також згадав швидкий прогрес ШІ за останні місяці та його зростаючу здатність до “рекурсивного самовдосконалення”, що, по суті, є здатністю моделі ШІ навчатися самостійно.
Амодеї запропонував триетапний план для уповільнення розвитку ШІ, щоб забезпечити безпеку технології, “водночас домагаючись її переваг і вирішуючи важливі геополітичні дилеми”.
Центральним елементом плану Амодеї є включення незалежних експертів з безпеки до штату передових компаній ШІ, таких як Anthropic та OpenAI. Їм буде надано “доступ, подібний до доступу співробітників” до систем та роботи компаній.
“Це ключовий крок для перевірки будь-яких зобов’язань щодо темпів розвитку”, – написав Амодеї. “Anthropic в односторонньому порядку бере на себе зобов’язання виконати цей крок зараз”.
В своєму дописі в X Альтман заявив, що OpenAI також залучить сторонніх експертів до своєї компанії. “Ми незабаром повідомимо більше деталей”, – сказав він.
Спільнота ШІ була обурена цього тижня після того, як співробітник Anthropic Джейкоб Коксон звільнився, опублікувавши попередження про те, що агенти ШІ можуть “вбити нас усіх до кінця десятиліття”.
Попередження Коксона були широко поширені та підтримані іншими співробітниками Anthropic, один з яких, керівник відділу науки про узгодженість компанії, написав у X: “Джейкоб має рацію – ми справді щиро віримо, що ШІ може вбити всіх людей!”
У суботу Коксон перепостив повідомлення Маска “Даріо має рацію”. Раніше цього тижня Маск звинуватив Коксона в організації “підстави”.
Головний науковий співробітник OpenAI минулого тижня також заявив у блозі, що провідні лабораторії ШІ повинні координувати уповільнення. “Ніхто не готовий до наслідків подальшого швидкого зростання машинного інтелекту”, – сказав Якуб Пачокі.
Генеральний директор OpenAI Сем Альтман перепостив коментарі Пачокі в X, назвавши це “важливим дописом”. Цього тижня Bloomberg повідомив, що під час зустрічі зі співробітниками Альтман заявив, що OpenAI готова уповільнити розвиток ШІ спільно з конкурентами.
У своїй суботній статті Амодеї повторив попередні заклики до уряду США втрутитися та встановити керівні принципи для американських лабораторій. Адміністрація Трампа досі відмовлялася регулювати американську індустрію ШІ, щоб зберегти свою скорочувану перевагу над китайськими лабораторіями ШІ.
Демократичні законодавці, зі свого боку, цього тижня запропонували суворе законодавство, яке б суттєво обмежило розвиток ШІ. Сенатор Берні Сандерс у нещодавньому інтерв’ю MSNOW заявив, що компанії ШІ “повинні зупинитися прямо зараз”.
Амодеї та інші провідні дослідники та інженери ШІ не закликали до повної зупинки розробки. У своїй статті Амодеї зазначив, що американські лабораторії ШІ повинні продовжувати розвиватися, але з більш надійними запобіжними заходами.
Він зазначив, що зберігається необхідність конкурувати з Китаєм, і запропонував, щоб адміністрація Трампа могла забезпечити це, не продаючи конкуренту передові чіпи, необхідні для роботи моделей ШІ.
“Ставки занадто високі, щоб уповільнення стало порожньою вправою – ми повинні мудро використовувати час, який воно нам дає”, – сказав Амодеї.