Співзасновник LinkedIn Рейд Гоффман не поділяє думки тих, хто вважає, що штучний інтелект (ШІ) неминуче призведе до катастрофи.
“Насправді я вважаю, що більшість цих побоювань, якщо їх ретельно обміркувати, є настільки віддаленими та контрольованими, що це радше схоже на тих, хто каже: ‘Подивіться на мене, я Кассандра, я пророкую кінець світу'”, – заявив Гоффман під час саміту Decoded від Politico у Вашингтоні в середу.
Гоффман додав, що існують переваги для продовження досліджень передових технологій ШІ, зокрема, як ця технологія може допомогти у вирішенні ризиків для біо- та кібербезпеки.
“Я не думаю, що уповільнення є важливим, тому що, коли йдеться про захист від біологічних та кіберризиків, а також про створення економічного процвітання, це, я вважаю, є вагомою причиною для продовження”, – зазначив він.
Співзасновник LinkedIn вважає слушною критику на адресу лідерів Anthropic та OpenAI, які закликають до сповільнення розвитку передових технологій ШІ саме тоді, коли їхні компанії, здається, лідирують у світі.
“Ви лідируєте, тож можете сповільнитися будь-коли, коли захочете”, – сказав Гоффман.
Замість уповільнення, Гоффман наголосив на важливості належного управління рекурсивним самовдосконаленням з боку передових лабораторій.
Деякі представники галузі ШІ стурбовані тим, що рекурсивне самовдосконалення – процес, за допомогою якого ШІ може навчитися будувати себе та, зрештою, своїх наступників – може відкрити шлях до експоненційного зростання, яке розробники моделей можуть не змогти повністю контролювати.
Джейкоб Коксон, колишній дослідник Anthropic, чия резонансна відставка сприяла актуалізації цієї дискусії, у вівторок увечері написав, що Anthropic “значною мірою ініціювала” гонку рекурсивного самовдосконалення.
Минулими вихідними генеральний директор Anthropic Даріо Амодеї закликав передові лабораторії ШІ “дозувати” свої розробки та використовувати цей час для кращого узгодження моделей ШІ. Генеральний директор SpaceX Ілон Маск та генеральний директор OpenAI Сем Альтман пізніше висловили згоду з загальними цілями Амодеї.
У своїй статті, опублікованій у середу, Гоффман зазначив, що заклики Амодеї та Альтмана були кроками “у правильному напрямку”.
Однак не всі поділяють думку про необхідність єдиної відповіді.
Генеральний директор Meta Марк Цукерберг у вівторок увечері написав, що компанії можуть самостійно сповільнювати розробки, без потреби в галузевому пакті, якого прагне Амодеї.
“Кожна лабораторія несе відповідальність та має стимули рухатися з такою швидкістю, яка необхідна для безпечного навчання своїх моделей”, – написав Цукерберг у X.
Цукерберг додав, що Meta відтермінувала випуск Muse, свого ШІ-агента, розробленого командою Superintelligence Labs, на кілька місяців, щоб посилити безпеку моделі.
“Ми не закликали всіх інших робити це до того, як зробимо самі, – сказав Цукерберг. – Ми просто зробили це”.