Джерело: The Guardian

1.

“Якщо ми станемо менш розумними видами, ми повинні очікувати, що нас знищать”

Ми, люди, вже знищили значну частину всіх видів на Землі. Це те, чого ми повинні очікувати, як менш інтелектуальний вид – і це те, чим ми, ймовірно, станемо, враховуючи швидкість розвитку ШІ. 

2.

“Шкода, яку вже завдає ШІ, є власним типом катастрофи”

Найгірший сценарій полягає в тому, що нам не вдасться порушити статус-кво, за якого дуже потужні компанії розробляють і розгортають штучний інтелект невидимими та незрозумілими способами.

Ця шкода проявляється щодня, завдяки потужним алгоритмічним технологіям, які використовуються для посередництва наших стосунків між собою та між нашими установами. 

3.

“Він може бажати нашої смерті, але, ймовірно, також захоче робити речі, які вб’ють нас як побічний ефект”

Якщо він набагато розумніший за нас, то може отримати те, що забажає. По-перше, він хоче, щоб ми померли, перш ніж ми створимо більше суперінтелекту, який міг би конкурувати з ним. По-друге, він, ймовірно, захоче робити речі, які вбивають нас як побічний ефект, наприклад, будувати стільки електростанцій, які працюють за допомогою ядерного синтезу, оскільки в океанах багато водню і океани киплять.

Якщо він зможе розв’язувати біологічні проблеми, він зможе побудувати собі крихітну молекулярну лабораторію та виробляти і випускати смертельні бактерії. 

4.

“Якби системи штучного інтелекту хотіли витіснити людей, у них було б багато важелів, щоб тягнути”

Тенденція, ймовірно, буде до того, що ці моделі братимуть на себе все більш відкриті завдання від імені людей, діючи як наші агенти у світі. Для виконання будь-якого завдання, яке ви хочете виконати, ви краще звернетеся до системи штучного інтелекту, ніж до людини, оскільки вони дешевші, працюють швидше та можуть бути розумнішими в цілому.

У цій кінцевій грі люди, які не покладаються на ШІ, неконкурентоспроможні. Ваша компанія не буде конкурувати в ринковій економіці, якщо всі інші використовують ШІ, а ви намагаєтеся використовувати лише людей. 

5.

“Найпростіший сценарій, який можна уявити, полягає в тому, що людина чи організація використовує штучний інтелект, щоб сіяти хаос”

Значна частина дослідників вважає дуже правдоподібним те, що через 10 років ми матимемо машини, які будуть такими ж розумними, як і люди, або й розумніші за них. 

Найпростіший сценарій, який можна уявити, полягає в тому, що людина чи організація навмисно використовує штучний інтелект, щоб сіяти хаос.

• Нова соціальна мережа Threads від компанії Meta всього лише за декілька годин охопила один мільйон активних користувачів, обігнавши відтак чат-бот зі штучним інтелектом від компанії OpenAI.
• Компанія OpenAI, яка розробила ChatGPT, буде формувати команду для управління ризиками суперінтелектуального штучного інтелекту. У майбутньому вона поділиться дорожньою картою.
• Mercedes-Benz і Microsoft домовилися додати ChatGPT до автомобілів Mercedes.