Штучний інтелект уже перевершив людей у багатьох видах діяльності, що вимагають ретельності, точності та терпіння. Проте це не заважає йому помилятися у таких елементарних речах, як відрізнити черепаху від рушниці. З огляду на можливі наслідки (від помилкових підозр у скоєнні злочинів до смертельних ДТП), деякі експерти навіть дискутують, чого нам слід боятися більше: штучного інтелекту чи штучної дурості. Чому ШІ припускається таких помилок і як це виправити?
Нещодавня аварія, в якій безпілотний автомобільUber збив жінку, проливає світло на те, чому автономні системи можуть стати настільки вразливими в критичних ситуаціях. Яким би розумним не був ШІ, він сприймає реальність інакше, ніж люди: замість того, щоб зробити найрозумніший миттєвий вибір для запобігання зіткненню, він витратив довгі секунди, намагаючись класифікувати об’єкт попереду. Щоб запобігти таким збоям і дати системам можливість вчитися на помилках, потрібно переходити до стійких робочих процесів на основі агентного ШІ, що передбачають багатоетапне міркування, саморефлексію та постійну валідацію.
Хочете веб-додаток, який може більше?
Давайте створимо розумне, елегантне та потужне рішення.
Аліна
Менеджерка по роботі з клієнтами
Світ складний: чому алгоритми дають збій?
При прийнятті рішень ШІ покладається на вбудовані алгоритми та величезні обсяги даних, які він обробляє, щоб дійти певних «висновків». Ерік Брінйольфссон і Том Мітчелл зазначають, що для того, щоб забезпечити ШІ міцну основу для правильного прийняття рішень, ми повинні встановити чітко визначені вхідні та вихідні дані, чітко визначити цілі та показники, надавати короткі й точні інструкції та усунути довгі ланцюжки міркувань, що спираються на здоровий глузд. Тобто створити середовище, яке буде максимально однозначним і передбачуваним.
Але такі ідеальні умови важко знайти в реальному світі. Не можна очікувати, що всі учасники дорожнього руху бездоганно дотримуватимуться правил дорожнього руху. Або що всі почерки будуть розбірливими. Або що всі ситуації будуть чіткими й однозначними. Людський мозок пристосований до роботи в невизначеному, постійно мінливому середовищі, яке досить часто саме й є джерелом цієї невизначеності та неоднозначності. І щоб успішно діяти в цьому світі, ШІ має навчитися мислити більше як людина.
Людське мислення проти машинного: чи має штучний інтелект здоровий глузд?
А як ми, люди, вчимося приймати рішення? Більшість досвіду, який ми отримуємо з самого дитинства, походить від методу проб і помилок. Але було б надто необачно покладатися лише на емпіричні знання, зважаючи на безпорадність людських дітей та кількість небезпек, які таїть навколишній світ. Ось чому, крім методу проб і помилок, з найперших днів життя дитини відбувається цілеспрямоване навчання та виховання. І слід зазначити, що сама природа подбала про нас, наділивши набором вроджених інстинктів.
Сьогодні вчені намагаються застосувати те, що ми знаємо про те, як люди навчаються, до машинного навчання. Так, компанія OpenAI розробила алгоритм, який дає змогу штучному інтелекту вчитися на власних помилках так само, як це роблять немовлята. Їхня нова технологія, що називається Hindsight Experience Replay (або просто HER), дозволяє штучному інтелекту аналізувати свої попередні дії під час виконання конкретного завдання. Процес навчання схожий на людський, включаючи підкріплення. Коли ми освоюємо якусь дію, результати рідко відразу відповідають поставленим цілям. Але ми вчимося й на цих невдалих результатах, а згодом можемо використовувати їх для досягнення інших цілей. Отже, можна сказати, що хоча наші спроби й не увінчалися успіхом, їхній результат все одно є позитивним. Для нашого мозку таке навчання відбувається як свого роду фоновий підсвідомий процес. HER формалізує його для машинного навчання, переосмислюючи невдачі як успіхи.
Розвиток нейронних мереж та розпізнавання образів
Нові алгоритми штучного інтелекту нагадують розвиток людських нейронних мереж, де крихітні нейрони передають сигнали один одному, тим самим створюючи та отримуючи доступ до наших спогадів про різні об’єкти та їхні властивості. Згодом ці спогади використовуються як основа для міркування, передбачення та прийняття рішень.
Подібним чином прості обчислювальні елементи ШІ (вузли) створюють сильніші або слабші зв’язки, неодноразово коригуючи з’єднання під час обробки навчальних даних. З часом система визначає найкращі схеми зв’язків і приймає їх як стандартні, формуючи те, що ми називаємо автоматичною реакцією, коли йдеться про людську поведінку. Згодом вона може застосовувати отримані знання до нових ситуацій, передбачаючи результат на основі статистики попередніх спроб. Чим більший обсяг навчальних даних, тим «розумнішою» стає ваша нейронна мережа і тим точнішими є її прогнози.
Звісно, слід розуміти, що мова не йде про абсолютну схожість. Людський мозок містить близько 100 млрд нейронів, які утворюють приблизно 1 000 трильйонів зв’язків. І сама його природа інша: він спирається на електрохімічний, а не на цифровий сигнал. На відміну від машинного «мозку», людський мозок потребує у рази менше даних для побудови зв’язків і може застосовувати знання до нових ситуацій незрівнянно легше та швидше (що і є основою творчості). Отже, комп’ютерні нейронні мережі є лише дуже приблизною копією того, що відбувається в наших головах.
Дізнайтеся, як ми за місяць створили ШІ-агента для митно-брокерської компанії та скоротили час обробки документів на 67%.
Проблема «чорного ящика»: чому ШІ важко пояснити власні рішення
Складність самонавчання ШІ полягає в тому, що чим більше він нагадує людину, тим менш зрозумілими та контрольованими стають процеси, що відбуваються в його «мозку». У цьому сенсі прислів’я, яке ми звикли застосовувати до людей — «Не можна зазирнути в чужу голову», — стає актуальним і для сучасних самонавчених штучних нейронних мереж. Так сталося з чат-ботами Facebook, які, коли їх залишили самих на себе, швидко розвинули власну мову, незрозумілу для людей.
У випадку з чат-ботами, які є досить простими програмами, це насправді не несе ніякої небезпеки. Проте це стало для вчених уроком, що слід бути обережнішими при роботі з більш складними рішеннями. Не те щоб завтра за рогом вашого будинку ви мали зустріти «Термінатора». Але уявіть собі той самий безпілотний автомобіль, який приймає рішення: краще повернути чи переїхати вас.
«Помилкове міркування» — найпоширеніша причина безглуздих помилок штучного інтелекту. І що найгірше, машина не може пояснити, чому вона так вирішила, що значно ускладнює з’ясування, що саме і на якому етапі пішло не так. Нещодавно вчені подолали цю проблему, створивши програмне забезпечення, яке може налагоджувати системи штучного інтелекту шляхом реверс-інжинірингу їхнього процесу навчання. Воно тестує нейронну мережу з великою кількістю вхідних даних — по черзі кожен «нейрон» — і вказує їй, де її відповіді є неправильними, щоб вона могла самостійно виправитися.
Залежність від людських вчителів і помилки у навчальних даних
Метод самонавчання методом проб і помилок є найменш виправданим у ризикованих або неоднозначних ситуаціях. У таких випадках, як діти отримують користь від вказівок дорослих, штучний інтелект також може отримати користь від людських вчителів. У цьому напрямку вже зроблено певні кроки. Так, в одному з експериментів ШІ навчився розрізняти людське волосся на фотографіях (завдання, яке є дуже складним для машини) після попередніх інструкцій тренерів. В іншому дослідженні ШІ навчили грати в гру «Помста Монтесуми», дотримуючись інструкцій, викладених простою англійською мовою.
Результати цих експериментів справді багатообіцяючі, але на шляху до безперешкодної комунікації між людиною та ШІ все ще існує чимало перешкод. На сьогодні ШІ здатний розуміти лише прості прямі команди, що далеко не відповідає тому, як люди спілкуються у повсякденному житті. Ніколаос Мавридіс виділяє 10 аспектів взаємодіїміжлюдиноютароботом, яких ще не вдалося досягти, зокрема багатоетапні мовленнєві акти, діалоги зі змішаною ініціативою, невербальна комунікація тощо.
Інша справа в тому, що для того, щоб щось пояснити, ми повинні самі чітко це розуміти. А це рідко буває правдою щодо людей. Модель, описана ще в 1950-х роках філософом і вченим Міхаелем Полані, вказує на те, що, приймаючи рішення, ми лише частково покладаємося на очевидні, явні знання. Більшість знань, якими ми користуємося щодня, є неявними, тобто ми не усвідомлюємо, що володіємо ними та застосовуємо їх. Ми отримуємо їх у процесі взаємодії один з одним та з навколишнім світом на підсвідомому практичному рівні. Саме тому їх важко передати, особливо коли йдеться про навчання машини.
Інстинкти проти алгоритмів: чи можна навчити ШІ людської інтуїції?
Ще одна відмінність наших розумових процесів від процесів машини полягає в тому, що ще до народження людський мозок не є «чистою дошкою». Ми маємо набір вроджених базових інстинктів, своєрідні базові знання, які допомагають нам розуміти об’єкти, дії, числа та простір — і розвивати здоровий глузд. У випадку машин роль таких інстинктів відіграють функції активації.
Чи слід вбудовувати такі «інстинкти» (у вигляді вроджених механізмів) у штучний інтелект? Деякі вчені наполягають на цьому. До цього переліку входять поняття причинності, аналізу витрат і вигод, трансляційної інваріантності, контекстуалізації тощо. Серед вчених точаться запеклі суперечки щодо того, чи доцільно впроваджувати такі вроджені алгоритми в ШІ та які наслідки це може мати. Дійсно, на еволюцію наших інстинктів пішли мільйони років. Чи можна ефективно стиснути цей тривалий процес? Один із способів, який пропонують вчені, — це ретроспективний аналіз того, що насправді відбувається, коли ми поводимося інстинктивно чи інтуїтивно.
Саме це зробили дослідники з Массачусетського технологічного інституту (MIT), щоб зрозуміти алгоритм інтуїтивного прийняття рішень під час вирішення складних задач. Вони попросили групу найрозумніших студентів знайти рішення для оптимізації мережі авіарейсів. Потім підходи до вирішення задачі було проаналізовано та закодовано у машиночитаній формі.
Що далі: еволюція інтелекту та майбутнє ШІ-систем
Досі ми зосереджувалися на здатності ШІ міркувати та приймати логічні рішення. Але логіко-математичний інтелект — це лише один із багатьох видів інтелекту, якими ми користуємося щодня. Психологи виділяють щонайменше 9 різних типів людського інтелекту, зокрема музичний, екзистенційний, міжособистісний, кінестетичний тощо. Формування цих типів інтелекту є особливо важливим для ШІ загального призначення, проте поки що це здебільшого залишається у сфері майбутнього, так само як і здатність ШІ враховувати контекст та вирішувати моральні дилеми.
Важко передбачити, скільки часу знадобиться, щоб ШІ еволюціонував до стадії «вуглецевого мозку», і чи отримаємо ми користь від цих досягнень, але до того часу нам слід бути готовими до того, що ШІ робитиме все більше дивних помилок.
Дізнайтеся більше про практичне застосування ШІ в бізнесі.
Давайте разом подивимося, що принесе майбутнє. А ще краще — давайте разом створимо це майбутнє. Stfalcon запрошує вас до співпраці!
