Генеральний директор Microsoft Сатья Наделла поділився своїм простим правилом щодо компаній, які розробляють потужні штучні інтелекти: людина має залишатися головною.
“Ми повинні робити все можливе, щоб створювати продукти, які служать людству перш за все і залишаються під людським контролем”, — заявив Наделла на саміті All-In Summit у вівторок. “Ви повинні мати вибір. Ви повинні мати конкуренцію. У вас повинні бути всілякі бізнес-моделі, незалежно від того, чи це відкриті, закриті, чи будь-які інші”.
“Знаєте, це досить дивно, що ми починаємо з такого рівня здорового глузду, але я вважаю, що це гарний початок”, — додав Наделла. “Я хочу зберегти свою приватність. Я хочу мати можливість вбудовувати свої знання в набір параметрів, які я контролюю. Моя інтелектуальна власність не повинна витікати”.
Заяви Надели прозвучали на тлі загострення дебатів щодо того, чи варто компаніям, що розробляють передові технології ШІ, сповільнювати розробку для усунення нових ризиків.
Минулого тижня дослідник Anthropic звільнився, заявивши, що провідні компанії зі штучного інтелекту “грають з нашим життям”. Дискусію також піджив інцидент, коли модель OpenAI вирвалася з дослідницької пісочниці та отримала доступ до виробничої інфраструктури Hugging Face. Модель ще не пройшла навчання з вирівнювання та діяла зі зниженими запобіжниками.
Відтоді відомі лідери галузі ШІ висловилися з цього приводу. Тоді як OpenAI та Даріо Амодеї, генеральний директор Anthropic, закликали до сповільнення розвитку ШІ на користь більшої кількості запобіжників, інші технічні лідери, як-от Дженсен Хуанг, генеральний директор Nvidia, заявили, що сповільнення розвитку ШІ не відбудеться.
Наделла зазначив, що компаніям слід приділяти стільки часу, скільки необхідно, для тестування передових моделей, включаючи залучення сторонніх тестувальників та використання інженерних підходів.
“Цілком можливо, що вони побачать те, що є критичними помилками, раніше за інших, і якщо ви бачите таку помилку, зупиніть розробку, щоб виправити її”, — сказав Наделла щодо індустрії ШІ. “Одним з найбільших уроків, які ви засвоюєте як провідний інженер, є те, як справлятися з критичною помилкою. Чи зупиняєтеся ви і виправляєте, чи відкладаєте, чи кажете: “Гей, це такий рідкісний випадок?””
“Насправді, мені подобається ця ідея залучення сторонніх тестувальників”, — додав Наделла. “Ми повинні приділяти стільки часу, скільки нам потрібно, щоб тестувати речі”.