Здавалося б, навіщо машині мудрість? Справа в тому, що нинішні ІІ-системи чудово справляються з чітко визначеними завданнями, але пасують, коли проблема розмита, неоднозначна або вимагає врахування безлічі точок зору, тобто в ситуаціях, з якими люди стикаються щодня. Причина проста: ІІ немає того набору стратегій, який допомагає нам орієнтуватися в невизначеності. Міжнародна група вчених вперше запропонувала конкретні способи інтегрувати мудрість у ІІ, щоб зробити його більш надійним, прозорим та безпечним.
«Мудрість – це не просто знання чи інтелект. Це набір ментальних навичок, необхідних для вирішення життєвих завдань: ухвалення важких рішень, орієнтації у непередбачуваних соціальних ситуаціях», — пояснює один із керівників дослідження, професор психології Університету Ватерлоо Сем Джонсон.
Ключова ідея вчених – навчити ІІ метакогніції, тобто здатності “думати про власне мислення”. На практиці це означає, що система має вміти розпізнавати межі своїх знань, адаптуватися до контексту, враховувати різні точки зору та зберігати гнучкість в оцінці того, як може розвиватись ситуація. Фахівці пропонують конкретні шляхи: від спеціальних методів навчання великих мовних моделей до нових архітектур та тестів для виміру «мудрості» ІІ.
«Мудрість довгий час здавалася нам надто філософським, надто людським поняттям, щоб формалізувати її для машин, — каже професор психології Університету Ватерлоо Ігор Гроссман. — Але якщо розкласти її на конкретні стратегії — інтелектуальну скромність, пошук альтернативних точок зору, адаптацію до контексту — можна створити реальну дорожню карту для ІІ, яка в результаті не просто обчислює, а міркує мудро».
На думку авторів, «мудрий» ІІ зможе краще справлятися з незнайомими завданнями, ефективніше співпрацювати з людьми, бути зрозумілішими для користувачів та безпечнішими за рахунок більш точного узгодження своїх цілей з людськими. Питання актуальне як ніколи: можливості ІІ стрімко зростають, а ось мудрість за ними не встигає, і це породжує серйозні ризики.
«Якби найрозумніша людина у світі була малюком, ми все одно не довірили б йому ядерних кодів, — образно зауважує Джонсон. — ІІ все більше нагадує дитину-генію, якій, як і раніше, потрібна здорова доза мудрості від людей, які її створили».