«Я не знаю, чи зможуть люди пережити ШІ» – ізраїльський футуролог Ной Гарарі

Історії завжди були життєво важливими для ізраїльського історика Юваля Ной Гарарі. Унікальна здатність нашого виду бути пов’язаними і об’єднуватися невловимими оповіданнями, навіть через океани, була центральною для Sapiens, дивовижно популярної хроніки піднесення нашого виду, яка катапультувала його до статусу провидця після публікації англійською майже десять років тому.

Можливо, саме тому він сьогодні так глибоко стурбований появою претендента на нашу майстерність оповідання історій — штучного інтелекту.

“Це перша в історії технологія для створення історій”, — зазначає 47-річний Гарарі.

На його думку, наша колективна віра в “історії” — зокрема про віру, фінанси та націю — підживлювала панування людства на Землі. Наприклад, гроші дозволили нам процвітати, але яка цінність у п’ятірці у вашій кишені, якщо власник магазину відмахується від неї, як від клаптика синього паперу?

Він зазначив, що потенціал технології як для великої користі, так і для шкоди, який раніше вважався далеким і теоретичним, тепер є негайним і реальним. Ось чому Гарарі додав своє ім’я до листа минулого місяця, підписаного тисячами експертів, зокрема Ілоном Маском, із закликом до мораторію на дослідження програмного забезпечення, такого як Chat GPT.

Він пояснив, що нове покоління штучного інтелекту не просто поширює контент, створений людьми. Він може створювати контент сам.

“Спробуйте уявити, що означає жити у світі, де більшість текстів і мелодій, а потім серіалів і зображень створюються нелюдським інтелектом. Ми просто не розуміємо, що це означає. Які можуть бути наслідки того, що ШІ захопить культуру?”.

Тривіальні приклади вже є. Минулого тижня німецький журнал був розкритикований за публікацію того, що здавалося ексклюзивним інтерв’ю з семиразовим чемпіоном “Формули-1” Міхаелем Шумахером, хоча насправді текст був згенерований ШІ, імітуючи колишнього гонщика. Гарарі припускає, що штучний інтелект незабаром піде набагато далі, створюючи світ, у якому “ви заходите в Інтернет і сперечаєтеся з кимось про якесь політичне питання. Можливо, вони навіть надішлють вам відео. Але за цим не стоїть жодна людина. Це все штучний інтелект”.

За його словами, це б дозволило маніпулювати публічним дискурсом, якого раніше не було, і це зробило б тривіальними скандали щодо впливу соціальних медіа за минулі 10 років, які вже, як вважається, зіграли роль у виборах від Бразилії до США.

“Це більша загроза для демократій, ніж для авторитарних режимів, тому що демократії покладаються на публічну дискусію”, – каже Гарарі. “Демократія — це в основному розмова. Люди розмовляють один з одним. Якщо розмову бере на себе ШІ, демократії кінець”.

Але який ефект може мати ця технологія, якщо її запустити на полі бою тоталітарними режимами?

“Нацистський режим базувався на таких технологіях, як потяги, електрика та радіо. У них не було таких інструментів, як штучний інтелект”, — пояснює історик. “Новий режим у 21 столітті матиме набагато потужніші інструменти. Тож наслідки можуть бути набагато катастрофічнішими. Це те, що я не знаю, чи зможе людство вижити”.

Інша небезпека, зазначає філософ, полягає в тому, що багато осіб можуть опинитися повністю без роботи, не лише тимчасово, а й без основних навичок для майбутнього ринку праці. Ми можемо досягти точки, коли економічна система вважатиме мільйони осіб абсолютно марними. Це матиме жахливі психологічні та політичні наслідки.

Саме автономія ШІ робить його таким відмінним. Проте навіть Гарарі, який зробив собі ім’я завдяки складним темам, здається, розчарований своєю неспроможністю змусити всіх нас зрозуміти це так само глибоко, як він.

“Ми повинні розуміти, що штучний інтелект є першою технологією в історії, яка може самостійно приймати рішення. Він може приймати рішення про власне використання. Він також може приймати рішення щодо вас і мене. Це не прогноз на майбутнє. Це вже відбувається”, – пояснює він своє занепокоєння.

Як і інші, тепер він підтримує регулювання, з метою керування потужністю ШІ, використовуючи його можливості та запобігаючи катастрофам. На думку Гарарі, такі правила наслідуватимуть медичні гарантії.

“Фармацевтична компанія не може випустити на ринок нові ліки, не пройшовши попередньо тривалий процес регулювання. Це справді дивно й лякає, що корпорації можуть просто випустити надзвичайно потужні інструменти штучного інтелекту у суспільну сферу без жодних заходів безпеки”.

Він наполягає на тому, що такі заходи має здійснювати уряд. Очікувати, що технологічна індустрія сама себе регулюватиме – марно.

Можливо, не дивно, що Гарарі тримає свій телефон вимкненим, “у ящику”. Він називає його “смартфоном для екстреної допомоги”, коли подорожує за кордон.

“Забагато непотрібної інформації”, — наголошує історик. “Це як їжа. Більшу частину історії людства ми відчайдушно намагалися отримати більше їжі. А зараз ми в протилежній ситуації. Ми повинні бути дуже обережними як щодо кількості, так і щодо якості їжі, яку ми приймаємо”.

Зауважимо, Ілон Маск разом із групою експертів зі штучного інтелекту та керівників галузі закликали дотриматися шестимісячної паузи у розробці систем, потужніших за нещодавно запущений Chat GPT, апелюючи до “потенційних ризиків” для суспільства та людства.