Сем Альтман, генеральний директор OpenAI, вважає, що деякі інциденти, пов’язані зі штучним інтелектом (ШІ), неминучі, але ключовим є те, як компанії навчаються на них.
Під час виступу на конференції Dreamforce від Salesforce у вівторок Альтман закликав технологічні компанії наслідувати приклад авіаційної галузі, запровадивши культуру прозорого звітування про інциденти та навчання на помилках.
“Я вважаю, що певна кількість інцидентів неминуча з новими технологіями”, – зазначив Альтман. “Мені справді важливо, щоб у нас була чудова культура звітування про інциденти та навчання на них”.
Він навів як приклад Управління цивільної авіації (FAA) та Національну раду з безпеки на транспорті (NTSB) США, зазначивши, що їхній акцент на розслідуванні інцидентів допоміг зробити авіаперельоти безпечнішими.
“Ви знаєте, інциденти траплятимуться”, – сказав він про підхід FAA та NTSB. “Ми навчимося всього, що зможемо, і реагуватимемо на кожен з них”.
Коментарі Альтмана з’являються на тлі відновлення запитань щодо того, чи найбільші лабораторії ШІ-індустрії занадто швидко рухаються до потужних автономних систем.
Якоб Коксон, дослідник, який минулого тижня пішов з Anthropic, а раніше працював в OpenAI, розпочав дискусію, заявивши, що компанії “прямують просто до самовдосконаленого надрозуму та грають нашими життями”.
“Світ має право боятися цього”
Після цього інші дослідники безпеки ШІ повідомили Business Insider, що передові системи можуть одного дня уникнути людського контролю або полегшити здійснення кібер-, біологічних та інших катастрофічних загроз, хоча вони й стикатимуться з перешкодами в доступі до фізичного світу.
Альтман визнав, що страхи перед “кінцем світу” через ШІ є обґрунтованими. “Світ має право боятися цього”, – сказав він на Dreamforce, вказуючи на можливість інциденту з втратою контролю та ризик того, що невелика кількість розробників ШІ може сконцентрувати надмірну владу.
Він зазначив, що відповідь не в тому, щоб відмовитися від технології, а в тому, щоб переконатися, що “узгодженість, безпека та моніторинг” залишаються “значно випереджаючими щодо можливостей”. Він додав, що компанії також повинні бути готові “уповільнитися або зупинитися”, якщо вони не зможуть цього забезпечити.
Його коментарі можуть також загострити центральну критику з боку прихильників безпеки ШІ: що передові лабораторії заявляють про усвідомлення ризиків, але продовжують створювати потужніші моделі.
Альтман сказав, що “люди дуже лякаються”, коли здається, що комерційний тиск може заважати компаніям чи країнам робити “правильні речі”.
Мета полягає не в тому, щоб прийняти катастрофу, а в тому, щоб розкривати інциденти, швидко вчитися на них і запобігати їх ескалації, наголосив Альтман.
“Можливо, ми зможемо уникнути, знаєте, коли-небудь досягнення такого рівня ставок”, – сказав він.
Дискусія також розгортається на тлі того, що адміністрація Трампа демонструє невеликий інтерес до регулювання сектора, прагнучи зберегти лідерство США над Китаєм.
Девід Сакс, радник президента з науки і технологій і колишній “AI Czar” Білого дому, в неділю підтвердив цю позицію, відповідаючи на заклики генерального директора OpenAI Сема Альтмана та генерального директора Anthropic Даріо Амодеї “підтримувати темп на кордоні” розвитку.
“Даріо написав, що нам потрібно «підтримувати темп на кордоні», і Сем погодився. Люди можуть бути здивовані моєю відповіддю: вперед”, – написав Сакс у X. “Але припиніть вдавати, що вам потрібен чийсь дозвіл”.