ШІ може становити «більш нагальну» загрозу для людства, ніж зміна клімату – Reuters

Розробник штучного інтелекту (ШІ) Джеффрі Хінтон схвильований тим, що сучасна технологія може становити "більш нагальну" загрозу для людства, ніж зміна клімату.

Понеділок, 8 травня 2023, 11:21

Про це пише Reuters.

Джеффрі Хінтон нещодавно пояснив своє звільнення з компанії Alphabet після десяти років роботи в ній, тим, що прагнув висловитися про ризики технології без шкоди для свого колишнього роботодавця.

Хінтон зробив важливий внесок у розвиток новітніх систем штучного інтелекту. У 1986 році він став співавтором статті “Навчання репрезентацій шляхом зворотного поширення помилок”, опублікування якої стало “поворотним моментом” в розвитку нейронних мереж, на яких базуються технології ШІ. У 2018 році він став лауреатом премії Тюрінга на знак визнання його дослідницьких досягнень.

Проте зараз він, подібно до своїх колег, публічно висловлює занепокоєння щодо можливої загрози, яку становить ШІ, якщо машини стануть спроможними досягнути більшого рівня інтелекту, ніж люди, і візьмуть під свій контроль всю планету.

“Я не хочу знецінювати зміну клімату. І тим більш я не хочу говорити: “Ви не повинні турбуватися про зміну клімату”. Це, безумовно, теж величезний ризик. Проте, на мою думку, штучний інтелект може виявитися більш нагальною проблемою”, – прокоментував Хінтон.

Також він додав, що у випадку зміни клімату дуже легко дати рекомендації: просто припинити спалювання вуглецю. Однак, для вирішення ймовірних ризиків, пов’язаних із ШІ, не зрозуміло, який саме алгоритм дій потрібно застосовувати.

Нагадаємо, що журналістський та технологічний інструмент NewsGuard викрив 49 новинних веб-сайтів, якими керують анонімні джерела, зокрема, чат-боти зі штучним інтелектом.

NewsGuard зафіксував, як чат-боти генерували неправдиву інформацію для оприлюднених матеріалів. Деякі із сайтів мають вигляд новин із загальними назвами, як-от News Live 79 та Daily Business Post, інші містять поради щодо способу життя чи чутки про знаменитостей.

Варто зазначити, що техногігант Samsung забороняє своїм співробітникам користуватися інструментами генеративного штучного інтелекту, наприклад ChatGPT. У компанії зафіксували випадки, коли співробітники завантажували конфіденційний код на платформу.

Водночас співзасновник Microsoft Білл Ґейтс сказав, що тимчасове зупинення розвитку штучного інтелекту не “розв’яже проблему”, як наголошували експерти, ризиків для суспільства. На його думку, варто визначити “складні моменти” і працювати над ними.

Теги: Джеффрі Хінтон, загроза, зміни клімату, новітні технології, розробник ШІ, ШІ, штучний інтелект

Межа у Youtube

Підписатись