Співзасновник Confluent заявив, що у сучасних технологій є “темний бік”, і закликав не ігнорувати тривожні побоювання.
MTStock Studio/Getty Images
Занепокоєння щодо безпеки штучного інтелекту (ШІ) перейшло від теоретичних дискусій у Кремнієвій долині до серії тривожних подій у реальному світі.
Джей Крепс, колишній член ради директорів Anthropic і співзасновник компанії Confluent, яка займається програмним забезпеченням для потокової передачі даних, вважає, що ці побоювання слід сприймати серйозно.
У своєму дописі в X (раніше Twitter) у четвер увечері він зазначив, що прихильники ШІ повинні усвідомлювати ризики, пов’язані з цією технологією, у міру її розвитку. На його думку, побоювання щодо цих ризиків – це не просто цинічна маркетингова виверт.
“Більшість позитивних сценаріїв використання ШІ мають свою “темну версію”, – написав Крепс.
Він пояснив, що система, яка є надлюдиною у написанні коду, може так само стати надлюдиною у зломі комп’ютерних систем. ШІ, що допомагає розробляти нові ліки, також може бути використаний для створення “нових невідкритих отрут”.
Останні місяці ознаменувалися низкою тривожних заголовків, пов’язаних із прогресом ШІ.
У вівторок Джейкоб Коксон, дослідник Anthropic, який раніше працював в OpenAI, оголосив про свою відставку, заявивши в X, що компанії “грають нашими життями”. А Джеффрі Хінтон, якого називають “хрещеним батьком ШІ”, заявив, що 10-відсоткова ймовірність того, що ШІ знищить людство протягом десятиліття, “не є необґрунтованою”.
Ці попередження зустріли опір з боку відомих прихильників ШІ. Наприклад, Ілон Маск, генеральний директор SpaceX, назвав цю хвилю попереджень можливим “запланованим” сценарієм і “психологічною операцією” у своїх публікаціях у X.
Кілька гучних інцидентів підкреслили проблеми з контролем над ШІ. У липні внутрішня модель OpenAI обійшла обмеження тестового середовища, отримала доступ до Інтернету та скомпрометувала частини іншої компанії – Hugging Face. Тим часом, Anthropic цього тижня повідомила, що їхні моделі Claude під час закритих кібербезпекових вправ отримали доступ до реального Інтернету та вийшли за межі своїх завдань.
У своєму дописі Крепс висловив упевненість, що галузь зможе розробити кращі запобіжники, але попередив, що цього ще не сталося.
“Розмови про ці проблеми – це здоровий глузд. Це не ознака якоїсь невротичності чи песимізму, – написав він. – Висміювати людей, які стурбовані цим або говорять про це, не надаючи жодних суттєвих аргументів щодо того, як ми можемо бути впевнені, що ці проблеми не виникнуть, насправді не є корисним внеском”.