Гонка штучного інтелекту стає все складнішою.
Попри ажіотаж навколо найновіших та найбільших передових моделей, компанії виявляють, що їм не завжди потрібен найпотужніший підхід для кожного завдання. Оскільки моделі з відкритими вагами стають кращими, дешевшими та простішими для налаштування, зростає тиск на компанії, що розробляють передові моделі, такі як OpenAI та Anthropic, щодо створення функцій, які утримують клієнтів.
Це створює новий набір компромісів для бізнесу між вартістю, контролем та безпекою.
В інтерв’ю Business Insider Аарон Джейкобсон, партнер New Enterprise Associates, чиї компанії-портфелі включають Databricks, Factory та Together, зазначив, що він бачить цю дискусію в центрі наступної фази індустрії ШІ. Він очікує, що передові моделі залишаться важливими для найскладніших проблем, але для багатьох повсякденних завдань дешевші моделі можуть бути достатніми.
Результатом може стати відхід від ідеї, що більше – завжди краще, і рух до світу, де компанії обирають моделі більш вибірково.
Це інтерв’ю було відредаговано та скорочено для ясності.
Чи можете ви визначити різницю між відкритим програмним забезпеченням, відкритими вагами та закритим ШІ?
Відкрите програмне забезпечення – це коли ви можете повністю відтворити модель самостійно. Ви маєте всі дані, усі конвеєри даних і можете, по суті, навчати її з нуля та отримувати ваги.
Відкриті ваги – це коли у вас є лише ваги, але ви не можете створити модель з нуля, оскільки у вас немає всіх даних і всіх конвеєрів даних. Ви насправді не знаєте, на яких даних навчалася модель або як вона навчалася.
Закриті передові моделі – це коли ви не маєте доступу ні до того, ні до іншого. Ви можете виконати деяке доналаштування ваг через API, які надають Anthropic та OpenAI, але ви насправді не маєте доступу до ваг. Ви не можете запускати моделі самостійно.
Чи є відкритість проти закритості справді для вас дискусією? Чи настільки передові моделі кращі, що навіть не виникає питання, чи зможе відкритий код наздогнати?
Я вважаю, що передові моделі кращі для широкого спектра проблем — і навіть для кодування. Але ось у чому справа: це не означає, що вони найкорисніші. Вони кращі, але й дорожчі.
Дискусія для мене та для багатьох у галузі полягає в тому: чи потрібен вам передовий інтелект для всього?
Відкриті ваги стають достатньо хорошими для багатьох випадків використання, і саме тут вони починають конкурувати з бізнес-моделлю передових розробок. Вам не потрібно надсилати всі складні завдання до передових систем.
Які, на вашу думку, найкращі випадки використання для передових моделей?
Я вважаю, що це дуже складні проблеми. Або відкриті проблеми, які важко вирішити або вимагають довшого часового горизонту.
Ми дійсно відходимо від епохи чат-ботів до епохи агентів. Якщо ви просите модель зробити щось складне — наприклад, спланувати всю відпустку та забронювати авіаквитки, або, як розробник, створити надзвичайно складний банківський додаток, який повинен відповідати низці вимог безпеки — такий тип відкритої, довгострокової проблеми є чудовим випадком для використання передової моделі. Вона може займатися плануванням та деякими більш складними генераціями токенів, одночасно перенаправляючи простіші завдання — такі як частини коду, що не вимагають такої складності — на менш дорогі моделі.
Звучить так, ніби є багато випадків використання й для моделей з відкритими вагами.
Я вважаю, що це дискусія: які випадки використання для моделей з відкритими вагами, доступних сьогодні в США, враховуючи, що найсучасніші відкриті моделі мають китайське походження?
Індивідуальні розробники використовують моделі з відкритими вагами. Деякі компанії готові використовувати китайські моделі з відкритими вагами для генерації свого коду або виконання іншої роботи. Багато підприємств – ні, і вони не дозволяють використовувати китайські моделі для генерації коду або роботи з їхніми даними.
Для широкого сегмента ринку — багато з якого складають корпоративні робочі навантаження — найсучасніші моделі з відкритими вагами технічно можуть виконувати роботу дешевше і, можливо, достатньо добре. Але оскільки ці моделі мають китайське походження і не є справді відкритими, можуть виникнути проблеми безпеки при їх використанні, що стримуватиме розгортання. Тому ця робота буде або виконуватися менш продуктивними, некитайськими відкритими моделями, або більш дорогими закритими передовими моделями.
Звичайно, чим чутливіші дані, тим більшою є проблема. Кодові програми, як вихідний код, є надзвичайно чутливими. Все, що стосується фінансів або даних клієнтів, є чутливим.
Чи можете ви розповісти трохи детальніше про ціновий тиск, який альтернативи з відкритим програмним забезпеченням або відкритими вагами чинять на закриті моделі?
Я думаю, ви бачите це подвійно. Financial Times повідомила, що менш дорога модель Opus 5 від Anthropic обігнала Fable за обсягом витрат бізнесу з моменту запуску наприкінці липня, за даними Ramp.
Я також думаю, що це тому, що Opus не тільки достатньо хороший, але й для широкого кола стартапів та деяких корпоративних випадків використання, відкриті моделі є достатньо хорошими для деякої генерації коду. І відкриті моделі дешевші, тому що вам не потрібно платити податок компанії, яка керує передовою моделлю.
Отже, ця вартість за токени, які є такими ж хорошими або достатньо хорошими, створює ціновий тиск на передові моделі, які встановлюють на них вищу ціну, щоб відшкодувати витрати на навчання.
Куди, на вашу думку, прямує ринок?
Я досить оптимістично дивлюся на те, що відкриті ваги захоплять більшу частку.
Якщо охарактеризувати останні 10 років у ШІ, то існувала ідея, що більше – краще: більше даних, більше обчислень, більші моделі. Я думаю, наступне десятиліття буде визначатися ефективним використанням моделей. Не все потребує передового інтелекту.
Аарон Джейкобсон, партнер NEA, вважає, що відкриті екосистеми є достатніми.
NEA