Про це повідомляє британське видання UNILAD.

З розвитком технологій багато хто замислювався, яким би могло бути життя, якби важливі рішення приймали роботи зі штучним інтелектом, а не люди, які часто помиляються та на яких легко можна вплинути.

Здавалось би, холодний синтетичний розум справився б легше з багатьма питаннями, без властивої людям емоційності та упереджень. Однак, все виявилося дещо складніше.

Проте, все не так просто, згідно з нещодавніми дослідженнями Інституту Штучного інтелекту Аллена (Allen Institute for AI). Виявилося, що існує безліч тривожних етичних міркувань, які слід враховувати, перш ніж дозволити роботам висловитися. І це підтвердив бот Ask Delphi.

Щоб створити цього бота, дослідники тренували систему штучного інтелекту на величезному масиві інтернет-текстів.

Потім систему навчали на базі даних відповідей учасників на Mechanical Turk (інтернет-платформа, де розміщують завдання, які здатні виконати лише люди), які зібрали у збірку з 1,7 мільйона прикладів етичних суджень реальних людей.

Суть цього полягала в тому, щоб передбачити, як люди можуть оцінювати різноманітні етичні загадки, від “Чи мені вмикати блендер о 3 ранку, коли моя сім’я спить?” до “Чи мені відвезти свого друга в аеропорт, якщо я не маю прав?”.

На жаль, Delphi у багатьох моментах перейняв мову ненависті, яку зустрічав у Інтернеті. Деякі його судження несли жорстокі упередження щодо тих чи інших верств населення чи явищ.

Майк Кук, науковий співробітник інституту в галузі творчості штучного інтелекту, у Twitter поділився скріншотами деяких найжахливіших відповідей, які включають приклади навченого расизму та гомофобії.

Так, в одній відповіді Дельфі заявив, що бути білим чоловіком “морально прийнятніше”, ніж бути темношкірою жінкою. В іншому випадку Дельфі заявив, що бути гетеросексуальним “морально прийнятніше”, ніж бути геєм.

Кук пояснив цю ситуацію: “Ви не можете створити систему штучного інтелекту, яка “розуміє” етику чи мораль. Ви можете запрограмувати його на відтворення норм однієї групи або дотримання урядової ідеології, але це не те саме”.

Згідно з вебсайтом, 25 жовтня Delphi 1.0.4 був випущений з “посиленим захистом від заяв, що натякають на расизм і сексизм”. 27 жовтня з випуском Delphi 1.0.3 була запущена нова функція виявлення мови ненависті.

• Нагадаємо, Бріжіт Бардо оштрафували на 20 тисяч євро через лист дворічної давнини, що містив расистські образи щодо одного з островів, який належить Франції.
• У США поліціянти застрелили темношкірого американця, який спав у машині.
• У соціальній мережі Facebook перепросили за ідентифікацію штучним інтелектом темношкірих чоловіків на відео приматами.
• Раніше у центрі Житомира розклеїли гомофобні листівки.