Основатель и глава Facebook Марк Цукерберг провел дискуссию о будущем Интернета в обществе с израильским историком, автором международного бестселлера “Sapiens: Краткая история человечества” Ювалем Ноем Харари. #Буквы перевели интервью Цукерберга с Ювалем Харари.
Марк Цукерберг: Всех приветствую! В этом году я провожу серию публичных дискуссий о будущем Интернета в обществе, а также о некоторых важных проблемах, связанных с этим. Сегодня я беседую с Ювалем Ноем Харари, великим историком и автором мировых бестселлеров. Его первая книга “Sapiens: краткая история человечества” в некотором роде содержит описание и анализ событий, начиная с первых дней существования общества охотников-собирателей и заканчивая тем, как организована наша цивилизация, а ваши следующие две книги “Homo Deus: Краткая история завтрашнего дня” и “21 урок для 21-го века” затрагивают важные вопросы технологий и будущего, и я думаю, мы об этом будем сегодня много говорить.
Большинство историков, как правило, только изучают и анализируют прошлое, но большая часть работы, которую проделали вы, имела действительно интересные идеи и подняла важные вопросы на будущее. Поэтому я очень рад возможности поговорить с вами сегодня. Итак, Юваль, спасибо, что присоединились к этой беседе.
Юваль Ной Харари: Я счастлив быть здесь. Я думаю, если историки и философы не могут заниматься текущими вопросами техники и будущего человечества, значит, мы не выполняем свою работу, исключительно ведя хронику событий столетней давности. Все люди, которые жили в прошлом, уже мертвы. Им все равно. Вопрос в том, что случится с людьми в будущем.
Марк Цукерберг: Итак, из всех вопросов, которые вы изложили, с чего нам сейчас начать? Я думаю, что одна из важных тем, которую стоит затронуть, — это вопрос дуализма, то есть: объединяемся ли мы со всеми достигнутыми технологиями и прогрессом, становимся ли мы едиными, или же наш мир, наоборот, разделяется и становится более фрагментарным? Мне любопытно начать с этого и узнать, что вы думаете.
Предполагаю, что можно много говорить об этом.
Юваль Ной Харари: Да, если вы посмотрите на длительный период истории, то очевидно, что человечество становится все более и более объединенным. Если тысячи лет назад планета Земля была на самом деле галактикой множества изолированных миров, почти не связанных между собой, то со временем люди постепенно собирались вместе и объединялись включительно до сегодняшнего дня, когда весь мир впервые стал единой исторической, экономической и культурной единицей. Но связь не обязательно означает гармонию. Люди, с которыми мы чаще всего боремся, — это члены нашей семьи, соседи и друзья. Так что на самом деле вопрос в том, говорим мы об объединении людей или о гармонизации людей?
Объединение людей может привести к множеству конфликтов, и когда вы смотрите на мир сегодня, вы видите эту двойственность, например, в постройке стены, о которой мы говорили немного ранее, когда встречались. Это то, что я просто не могу понять, потому что у нас есть все эти новые объединительные технологии, Интернет, виртуальная реальность и социальные сети; и вместе с этим — одна из главных политических проблем — строительство стены (вдоль границы с Мексикой – ред.), не просто киберстены или брандмауэра, а настоящей каменной стены; как и большинство технологий каменного века, они внезапно стали самыми передовыми.
Юваль Ной Харари
Итак, вопрос состоит в том, как осмыслить этот мир, который связан больше, чем когда-либо, но в то же время строит больше стен, чем прежде.
Марк Цукерберг: Я думаю, один из интересных вопросов заключается как раз в том, существует ли на самом деле так много противоречий между этими идеями людей, которые становятся более связанными, и той фрагментацией, о которой вы говорите. Мне кажется, в XXI веке, чтобы иметь возможность распространять процветание и мир, научный прогресс и решить проблемы, с которыми сталкивается человечество, такие как изменение климата, обеспечение уверенности в том, что болезни не распространяются и нет эпидемий, — нам действительно нужно иметь возможность собраться вместе и жить в связанном мире. Но в то же время это работает только тогда, когда мы, как отдельные личности, удовлетворяем наши экономические, социальные и духовные потребности. Таким образом, один из способов — думать об этом с точки зрения фрагментации, а другой — с точки зрения персонализации.
Когда я рос, мне казалось, что одна из важных вещей, которые дает Интернет, — это возможность общаться с группами людей, которых объединяют одни ценности и интересы, но так было не всегда. До Интернета мы были привязаны к своему физическому местоположению. Я, например, вырос в городе с населением около 10 тысяч человек, там было много разных клубов и занятий на любой вкус. Но, как и многие другие дети, я играл в бейсбол Малой лиги. Я вспоминаю об этом в ретроспективе, и это похоже на то, что я не очень-то увлекаюсь бейсболом. Я вообще не спортсмен. Так почему же я играл в Малой лиге, когда моей настоящей страстью было программирование? Но реальность была такова, что в моем городе просто не было никого, кто бы занимался программированием компьютеров, поэтому у меня не было ни группы, ни клуба, в которых я мог бы заниматься любимым делом. Так продолжалось до тех пор, пока я не пошел в школу-интернат, а затем в колледж, где у меня появилась возможность встретиться с людьми, которые занимались тем же, чем и я.
И вот теперь я думаю, что с Интернетом это начинает меняться, и теперь у нас есть возможность не просто не привязываться к своему физическому местоположению, но и находить онлайн людей со схожими нишевыми интересами, различного рода субкультуры и сообщества.
Интернет — это действительно мощная вещь, но если посмотреть на этой с другой стороны, если бы я сегодня рос, то, вероятно, не играл бы в Малой лиге, хотя вы можете полагать, что играл бы, поскольку это могло стать объединяющим фактором в моем городе, в котором не так уж много занятий. Возможно, если бы я создал или состоял в онлайн-сообществе, которое могло бы быть более значимым для меня, был знаком с реальными людьми, которые увлекаются программированием так же, как и я, вы бы утверждали, что наше сообщество хоть и растет, но становится более раздробленным, потому что у людей нет чувства принадлежности к физическому сообществу. Поэтому когда я думаю об этих проблемах, то вижу две стороны одной медали: с одной стороны, это фрагментация и персонализация, с другой — поиск человеком того, что его на самом деле волнует.
Но существует и более сложная проблема: есть люди, которые остались на переходном этапе и были бы теми, которые играли бы в Малой лиге, но не нашли своего нового сообщества, и теперь просто чувствуют себя растерянными. Возможно, их основной ориентацией в мире по-прежнему остается физическое сообщество, в котором они находятся, а возможно, они просто не смогли найти сообщество людей, в которых они заинтересованы.
Марк Цукерберг. Фото: AFP
Чем больше прогрессирует мир, тем большее людей чувствуют себя потерянными — такова моя гипотеза, это что касается социальной версии глобализации, но есть также экономическая версия, которая тоже важна. Однако мне интересно, что вы думаете об этом?
Юваль Ной Харари: Что касается социальной проблемы, Интернет-сообщества — конечно, замечательная вещь, но они все еще не способны заменить физические сообщества по многим причинам.
Марк Цукерберг: Да, это действительно так. Это правда.
Юваль Ной Харари: Благодаря Интернету можно путешествовать по всему миру умом, но не своим телом. Офлайн-путешествия поднимают вопросы о стоимости и выгодах; Интернет дает возможность избегать вещей, которые вам не нравятся, чего нельзя сделать в реальных офлайн-сообществах. Я имею в виду, что вы можете удалить своих друзей из Facebook, чего не можете сделать с соседями. Они все еще физически остаются ими. Можно взять и переехать в другую страну, если у вас есть средства, но большинство людей просто не могут себе этого позволить. Традиционные сообщества учат нас ладить с людьми, которые нам по каким-то причинам не нравятся, и потому мы вынуждены разрабатывать социальные механизмы, как это сделать; а онлайн-сообщества хоть дают массу других преимуществ, но не способны дать нам этот ценный и важный опыт — находить общий язык с людьми в реальном мире.
Марк Цукерберг: Да, я, естественно, не хочу утверждать, что онлайн-сообщества могут заменить все, что делали физические сообщества. Но нужно признать, что наиболее значимые онлайн-сообщества те, которые охватывают и онлайн, и офлайн: например, изначально какая-то группа была создана онлайн, но ее цель — собрать людей физически вместе, потому что в конечном итоге это действительно важно для отношений — мы ведь все физические существа, верно?
Как один из примеров, сообщество людей, которые любят бегать, но также заботятся о чистоте окружающей среды, поэтому такая группа организовывается онлайн, но затем они встречаются каждую неделю и идут бегать по пляжу или городу, чтобы убирать мусор — это уже действие физического мира. Онлайн дает возможность найти группу людей по интересам и стать ее частью в офлайне. Например, семья военных, которая часто перемещается по долгу службы, может найти в социальных сетях сообщество таких же военных семей, которые так же часто меняют свое место жительства, и первое, что они сделают, когда отправятся в новый город, найдут это сообщество, чтобы затем интегрироваться в уже местное физическое сообщество. Вот это очень важная вещь синергии онлайна и офлайна.
Юваль Ной Харари: Да, а также возникает практический вопрос к Facebook как поставщику такой услуги: Какова цель? Мы пытаемся объединить людей, чтобы они в конечном итоге покинули экраны и пошли играть в футбол или собирать мусор, или мы все же стараемся держать их как можно дольше у экранов? Я вижу в этом конфликт интересов. Но все же я думаю, что цель онлайн-соцсетей должна выглядеть так: Мы хотим, чтобы люди оставались в сети как можно меньше. Нам просто нужно, чтобы вы проводили онлайн тот минимум времени, необходимый для установления связи, чтобы потом пойти и сделать что-то во внешнем мире. Это главное преимущество Интернета, которое оно дает людям.
Марк Цукерберг: Я думаю, вы совершенно правы. И мы действительно постарались сделать это в наших системах, чтобы убедиться, что они оптимизированы для значимых социальных взаимодействий, взаимодействий во внешнем мире. Поэтому нужно всегда помнить об этом, когда вы создаете какой-то онлайн-сервис и пытаетесь его оптимизировать. Нам гораздо легче измерить, взаимодействуют ли люди или обмениваться сообщениями в Интернете, нежели узнать, была ли у них значимая связь в реальности, но есть способы добиться этого.
Например, людям можно задавать вопросы, что они сделали наиболее значимого — их, конечно, не задашь всем двум миллиардам людей, но можно получить приблизительную статистику. И вот эти люди скажут нам: Хорошо, какие наиболее значимые вещи я смог сделать сегодня, и сколько из них мне удалось сделать, общаясь с людьми в Интернете, или сколько из этих вещей связали меня с чем-то физическим, возможно, за обеденным столом, или что я сегодня сделал из того, что узнал в Интернете или увидел? Именно в этом и состоит богатство и разнообразие нашего мира: возможность объединятся в традиционные сообщества и устанавливать глобальную связь с этими сообществами онлайн.
Сегодня, чем когда-либо в истории, мы можем путешествовать почти в любую другую страну и выглядеть так, как нам свойственно — одеваться так, как мы обычно одеваемся, при этом вписываться в новое место, но 200, 300 лет назад это было невозможно. Быть может, этому способствовали разные Интернет-сервисы и соцсети, возможно, общие социальные нормы. Но факт остается фактом. Сегодня у нас есть невероятное разнообразие субкультур и сообществ, и люди ищут вещи, которые им действительно интересны, в том числе и в Интернете, а если не находят их онлайн, то создают эти сообщества сами.
Возвращаясь к моей истории, в Малой лиге участвовал не только мой городок. Когда я рос, мне кажется, почти в каждом городе была похожая история: везде была условно своя Малая лига, но если человек из этого города хотел сделать что-то, что интересовало не так много людей – как в моем случае программирование, – например, проявлял интерес к истории или искусству, а в его городе с населением в 10 тысяч человек просто не может быть другого человека, разделяющего такой же интерес, я думаю, это прекрасно, что теперь люди могут сами сформировать такие сообщества и найти связи с другими людьми, которые разделяют их интересы.
Это можно рассматривать как фрагментацию, потому что теперь мы не все делаем одни и те же вещи, верно? Мы не все ходим в церковь, играем в Малой лиге и делаем одни и те же вещи. Но также это можно рассматривать как богатство и глубину нашей социальной жизни. Мне любопытно, что вы думаете об этом и какие вы видите преимущества в сравнении с тем, где такая социальная сплоченность отсутствует?
Юваль Ной Харари: Да, я думаю, почти никто не станет спорить с преимуществами более богатой социальной среды, в которой у людей есть больше возможностей для общения по самым разным темам и интересам. Ключевой вопрос заключается в том, как создается достаточная социальная сплоченность на уровне страны и на уровне всего земного шара, чтобы решать наши главные проблемы. Я имею в виду, что нам нужно глобальное сотрудничество как никогда, потому что мы сталкиваемся с беспрецедентными глобальными проблемами.
У нас только что был День Земли, и было очевидно для всех: мы не можем решать проблемы окружающей среды, изменения климата, если не будет глобального сотрудничества. Глобальное сотрудничество нужно, если вы думаете о возможном сбое, вызванном новыми технологиями, такими как искусственный интеллект (ИИ), нам нужно найти механизм для глобального сотрудничества, чтобы решать такие вопросы, как, например, предотвращение гонки вооружений ИИ: как предотвратить попытки разных стран создать автономные системы оружия и убийц; роботов и оружие в Интернете; оружие в социальных сетях.
Если у нас нет глобального сотрудничества, мы не сможем остановить это, потому что каждая страна скажет: Мы не хотим производить робота-убийцу — это плохая идея, но мы не можем позволить нашим конкурентам быть в этом пионерами, поэтому мы должны сделать это первыми — вот так начинается гонка на дно.
То же касается потенциальных нарушений рынка труда и экономики, вызванных искусственным интеллектом и автоматизацией. Совершенно очевидно, что в будущем будут рабочие места, но будут ли они равномерно распределены между различными частями мира? Одним из потенциальных результатов революции ИИ может быть концентрация огромного богатства в одной части мира и полное банкротство в других частях.
В Калифорнии будет много новых рабочих мест для разработчиков программного обеспечения, но, возможно, не будет рабочих мест для работников текстильной промышленности и водителей грузовиков в Гондурасе и Мексике. Так что же они будут делать? Если мы не найдем решения на глобальном уровне, такого как создание глобальной системы безопасности для защиты людей от потрясений ИИ и предоставление им возможности использовать ИИ, то мы создадим самую неравную экономическую ситуацию, которая когда-либо существовала. Это будет намного хуже, чем то, что произошло во время промышленной революции, когда некоторые страны индустриализировались — а большинство стран этого не сделали — и те немногие промышленные державы продолжали завоевывать, доминировать и эксплуатировать все остальные.
Поэтому следует задавать вопрос, как создать достаточно глобальное сотрудничество, чтобы огромные преимущества ИИ и автоматизации не распространялись, скажем, только на Калифорнию и Восточный Китай, в то время как остальной мир остается далеко позади.
Марк Цукерберг: Да, я думаю, это важно. Я бы разбил это на две группы вопросов: первая — про ИИ и связанные с ним будущие экономические и геополитические проблемы — но давайте отложим это на секунду, потому что я действительно думаю, что мы должны потратить 15 минут на это. Здесь есть о чем поговорить.
Юваль Ной Харари: Хорошо. Да, действительно.
Марк Цукерберг: Но тогда другой вопрос касается того, как мы создаем это глобальное сотрудничество, которое необходимо, чтобы воспользоваться огромными возможностями, которые у нас впереди, и решить большие проблемы. Я не думаю, что это просто борьба с такими кризисами, как изменение климата. Думаю, есть и другие возможности.
Юваль Ной Харари: Определенно. Да.
ЧИТАЙТЕ ТАКЖЕ: Большинство людей не осознают, что происходит: речь израильского историка в Давосе
Марк Цукерберг: Распространение процветания, расширение прав и свобод человека — это вещи, которые также связаны с торговлей и усилением контактов. В этом я вижу только положительные стороны.
За последние 20 лет мы провели очень много времени с Интернетом, возможно, даже дольше, работая над глобальной торговлей, глобальным информационным потоком, благодаря которому люди теперь могут общаться. На самом деле сегодня более сложная задача заключается в том, чтобы в дополнение к той глобальной структуре, которая у нас была, сделать так, чтобы все работало на людей на местном уровне. Правильно? В этом как раз и проявляется дуализм этого вопроса. То, о чем мы говорили немного раньше, когда в эру Интернета люди могут находить сообщества, которые больше соответствуют их интересам, но вместе с этим есть люди, которые еще не нашли эти сообщества и потому остаются позади, как и сами физические сообщества.
Юваль Ной Харари: И некоторые из этих сообществ довольно мерзкие. Мы также не должны забывать об этом.
Марк Цукерберг: Да. Я думаю, что так и должно быть. Хотя я бы сказал, что люди, которые присоединяются к экстремальным сообществам, просто не смогли найти более здоровых сообществ, чему также поспособствовало отсутствие здорового экономического прогресса. Мое мнение: если большинство людей чувствуют себя комфортно в своей жизни, они не ищут экстремальных сообществ. И нам как провайдеру Интернет-платформы нужно проделать большую работу, чтобы еще больше этому препятствовать и это блокировать. Но я на самом деле считаю, что создание процветания для всего мира — вероятно, один из лучших способов на макроуровне.
Юваль Ной Харари: Я бы на этом немного заострил внимание. Люди, которые чувствуют себя хорошо в своей жизни, сделали некоторые из самых ужасных вещей в истории человечества. Я имею в виду, что мы не должны приравнивать и путать таких людей с доброжелательными и добрыми людьми. Они бы не сказали, что их идеи экстремальны: у нас есть множество примеров из всей истории человечества — от Римской империи до работорговли в современную эпоху и колониализма: у людей была очень хорошая жизнь, у них была прекрасная семейная и общественная жизнь; они были хорошими людьми — как они себя считали, я думаю, такими же хорошими себя считало и большинство нацистских избирателей.
ЧИТАЙТЕ ТАКЖЕ: Вдохновляющая речь израильского историка в Давосе: опубликовано видео
Если вы встречаете их за чашкой кофе и говорите о своих детях, они действительно милые люди, они думают о себе хорошо, и, возможно, у некоторых из них может быть счастливая жизнь, а те идеи из прошлого, о которых мы говорим: Это было ужасно. Это было экстремально, им такими не кажутся. Это если мы сейчас говорим о колониализме …
Марк Цукерберг: Хорошо, но Вторая мировая война, которая прошла через период интенсивных экономических и социальных потрясений после промышленной революции и…
Юваль Ной Харари: Давайте просто подумаем о европейском колониализме в XIX веке. Для примера возьмем людей в Великобритании конца XIX века. У них была лучшая жизнь в мире в то время: они не страдали от экономического кризиса или распада общества или чего-то в этом роде, они думали, что, идя по миру и завоевывая и изменяя общество в Индии, Африке, Австралии, они приносили много добра в мир. Я специально заострил на этом внимание, потому что мы должны быть более осторожными, чтобы не путать одних с другими.
Марк Цукерберг: Ну, я думаю, что есть разница между примером, который вы используете, когда богатое общество движется и колонизирует другое или делает другие вещи, которые имеют разные негативные последствия. В таком обществе не было границ. Раньше я больше реагировал на то, кого считать экстремистами. Я бы сказал, в тех обществах это не те люди, которые становятся экстремистами. Вы можете долго спорить о любой части нашей истории и о том, является ли направление, которое выбрало общество, положительным или отрицательным, и какие оно несет последствия. Но я думаю, что сегодня у нас есть конкретная проблема, которая заключается в том, что все больше людей ищут крайние решения.
Многое из этого происходит из-за чувства дислокации – как экономической, так и социальной. Поэтому тем, кто работает на одной из социальных Интернет-платформ, нужно быть осторожными: мы несем особую ответственность, и нужно убедиться, что наши системы не поощряют это. Я вижу макроэкономическое решение этой проблемы, которое состоит в том, чтобы люди чувствовали, что у них есть земля под ногами, развить в них чувство цели и сообщества, показать их жизнь, полную возможностей. И как мы видим статистически, и с социологической точки зрения, когда люди имеют такие возможности, они не ищут радикальных, экстремистких групп. В этом вопросе есть и социальная, и экономическая версия.
ЧИТАЙТЕ ТАКЖЕ: Стало известно, чему следует учиться, чтобы не оказаться во власти технологий
Я имею в виду, что основная история глобализации, с одной стороны, была чрезвычайно позитивной для привлечения большого количества людей в мировую экономику.
Люди в Индии и Юго-Восточной Азии и по всей Африке, которые раньше не имели бы доступа к большому количеству рабочих мест в глобальной экономике, теперь имеют их; на глобальном уровне неравенство значительно сократилось, потому что сотни миллионов людей вышли из бедности, и это позитивый аспект. Но, с другой стороны, большой проблемой является то, что в развитых странах существует большое количество людей, которые сейчас конкурируют со всеми этими людьми, которые присоединяются к глобальной экономике, и рабочие места перемещаются в другие места к этим людям, поэтому многие потенциально потеряли свои рабочие места. А те, кто не потерял, теперь конкурируют за эти рабочие места, конкурируют с людьми на международном уровне, особенно по заработной плате.
Это один из факторов, я бы сказал, который предотвратил дальнейший рост заработной платы; и согласно многим анализам, которые я нашел, от 5 до 10 % людей сейчас находятся в худшем положении из-за глобализации. Но это не обязательно означает, что глобализация для всего мира негативна. Я думаю, что в целом это было позитивно, но рассказанная нами история о глобализации, вероятно, была слишком оптимистичной, поскольку мы говорили только о ее позитивных сторонах и о том, насколько хорошо это глобальное движение выводит людей из бедности и создает больше возможностей; но если вернуться к реальности и конкретике и посчитать эти 5 или 10 % людей в мире, которые находятся в худшем положении — а сейчас в мире живет 7 миллиардов человек, — выходит, что это сотни миллионов людей, и, вероятно, большинство из них находятся в наиболее развитых странах, в США или Европе — глобализация оказывает на людей в этих странах большое политическое давление.
Таким образом, для того, чтобы иметь глобальную систему, которая будет работать, вам нужны люди в каждой из стран-членов этой системы, чтобы чувствовать, что она работает и для них, и так на всех уровнях, включая небольшие города и местные сообщества людей — все они должны чувствовать, что это работает для них как в экономическом, так и в социальном плане. Меня это больше беспокоит, и я стараюсь сосредоточиться на этом: наша задача – объединять мир. Сейчас идет речь о помощи людям в создании сообществ и сближении людей, и многое из этого происходит. Я считаю, что для того, чтобы поддерживать более глобальные связи, нам нужно убедиться, что все работает для людей на местном уровне. Во многих отношениях мы сделали так, чтобы Интернет и новый создатель мог…
Юваль Ной Харари: Но как вы работаете с местным населением на американском Среднем Западе и улучшаете работу с людьми в Мексике, Южной Америке или Африке? Я имею в виду, что часть дисбаланса заключается в том, что когда люди в Центральной Америке злятся, все обращают на это внимание, потому что они держат палец на кнопке. Но если злятся люди в Мексике или люди в Замбии, нас это волнует гораздо меньше, потому что у них гораздо меньше власти. Я имею в виду боль.
Я не говорю, что боль не реальна, боль определенно настоящая, но боль кого-то в Индиане отразилась во всем мире гораздо больше, чем боль кого-то в Гондурасе или на Филиппинах, просто из-за дисбаланса власти в мире.
Если вернуться к теме фрагментации, я знаю, что Facebook сталкивается с большой критикой по поводу того, что некоторые люди, наоборот, побуждаются переходить в эти экстремистские группы. Да, это большая проблема, но я не думаю, что это главная проблема. Я также уверен, что вы можете это решить – если вложите в это достаточно энергии, однако эта проблема сейчас привлекает к себе наименьшее внимание. Что меня больше всего беспокоит – и не только в отношении Facebook, а в отношении всего направления, в котором движется новая Интернет-экономика и новая техническая экономика, – это, во-первых, растущее неравенство между различными частями мира, которое не является результатом экстремистской идеологии, но есть результатом определенной экономической и политической модели; а во-вторых, подрыв человеческой деятельности и подрыв основных философских идей демократии, свободного рынка и индивидуализма.
Это две мои самые большие заботы, связанные с развитием технологий, таких как ИИ и машинное обучение, и это будет оставаться серьезной проблемой, даже если мы найдем решения проблемы социального экстремизма в определенных сообществах.
Марк Цукерберг: Да, я, конечно, согласен с тем, что экстремизм не является большой проблемой… Это скорее симптом социальных сетей, над которым нужно работать. Но все же еще раз подчеркну, что более важный вопрос заключается в том, чтобы у всех было чувство цели, своя роль, которая придает им значимости в решении вопросов и социальных связях. Потому что, в конце концов, мы все социальные животные, это такая фундаментальная часть того, кем мы являемся — вот почему я сосредоточен на этом. Не знаю, возможно, вы хотите перейти к разговору о проблемах ИИ, потому что я думаю, что это … или вы хотите продолжить эту тему еще немного…?
ЧИТАЙТЕ ТАКЖЕ: В Google придумали, как остановить восстание роботов
Юваль Ной Харари: Нет, я хочу сказать, эта тема тесно связана с ИИ. И опять же потому, что мне кажется, одна из медвежьих услуг научной фантастики, — а я большой поклонник научной фантастики, — заключается в том, что она сделала некоторые довольно плохие вещи, например, заостряя внимание на неправильных сценариях и неправильных опасностях, о которых думают люди: О, ИИ опасен, потому что роботы приходят, чтобы убить нас. Но это крайне маловероятно, что мы столкнемся с восстанием роботов. Я гораздо больше боюсь роботов, которые всегда подчиняются чьим-то приказам, чем роботов, которые восстали против людей.
Я думаю, что две основные проблемы ИИ, и мы можем исследовать это более подробно, это то, что я недавно упомянул: увеличение неравенства между различными частями мира, потому что всегда будут страны, которые находятся в авангарде и доминируют в новой экономике ИИ, и это это такое огромное преимущество, что оно как бы превосходит все остальное. Мы станем свидетелями этого. Я имею в виду, если бы промышленная революция создала этот огромный разрыв между несколькими промышленными державами и всеми остальными, а затем потребовалось 150 лет, чтобы закрыть этот разрыв, а за последние несколько десятилетий разрыв был закрыт или становится все больше и больше стран, которые сильно отстают, они догоняют первых. То теперь — из-за роста ИИ и потому что ИИ, вероятно, будет доминировать лишь в небольшом количестве стран — этот разрыв может вновь открыться и стать намного хуже, чем когда-либо прежде. Так что это одна проблема, неравенство ИИ. И другая проблема — это ИИ и человеческое взаимодействие или даже смысл человеческой жизни.
Уже сейчас происходит так, когда ИИ достаточно зрел и предоставляет вам достаточно данных, которые могло бы предоставить только определенное количество людей; и когда ИИ знает лучше меня, чем я сам, какое решение мне подойдет лучше всего, предсказать мой выбор, манипулировать моим выбором. Я вижу, как авторитет все больше смещается от людей к алгоритмам, и это касается не только решений в том, какой фильм смотреть, но даже решений, к какому сообществу присоединиться, с кем подружиться, с кем жениться: все больше людей будут полагаться на рекомендации ИИ.
Марк Цукерберг: Вы правы.
ЧИТАЙТЕ ТАКЖЕ: В США инженер сконструировал шлем дистанционного управления людьми
Юваль Ной Харари: А что это делает для человеческой жизни и человеческой деятельности? В общем, я бы сказал, что это две наиболее важные проблемы неравенства, ИИ и человеческой деятельности.
Марк Цукерберг: Да. И я думаю, что оба они близко подступают к схожему вопросу о ценностях: то есть кто это строит, какие значения кодируются и чем это заканчивается. Я склонен думать, что во многих разговорах об ИИ мы почти персонифицируем его, не так ли, даже если взять вашу точку зрения о роботах-убийцах. Но мне кажется, ИИ тесно связан с общим техническим сектором. То есть почти каждый технологический продукт улучшается с помощью ИИ. Так что ИИ — не монолитная вещь, как вы ее преподносите.
Она приводит в движение множество продуктов, и это большой экономический прогресс, который поможет в будущем решить некоторые вопросы распределения возможностей. Но с другой стороны, ИИ затрагивает такие социально важные вопросы, как защита данных и конфиденциальность, а также то, как мы хотим, чтобы наши данные использовались, какова политика в отношении этого и каковы глобальные рамки. Поэтому я склонен согласиться с большинством вопросов, которые вы поднимаете, например, о том, что многие страны имеют возможность инвестировать в будущие технологии, в которых ИИ, данные и будущие Интернет-технологии, безусловно, являются важной сферой, потому что это даст их местным компаниям преимущество в будущем, и именно они будут экспортировать свои услуги по всему миру.
Думаю, вы согластесь, что Соединенные Штаты имеют большое преимущество в том, что именно здесь создано множество глобальных технологических платформ, и, конечно, многие значения, которые кодируются в них, в значительной степени определяются американскими ценностями. И не только они. Я имею в виду, что мы и я, выступая от имени Facebook, обслуживаем людей по всему миру и относимся к этому очень серьезно, но, конечно, такие идеи, как предоставление каждому права голоса, это, вероятно, сформировано под влиянием американских идей в отношении свободы слова и строгой приверженности этому.
Поэтому я считаю, что в культурном и экономическом плане преимущество для стран заключается в том, чтобы развиваться самим, двигать вперед саму отрасль и поддерживать компании, которые в следующем поколении будут самыми сильными компаниями в этой сфере. Конечно, мы наблюдаем, как разные страны пытаются это сделать, и это сильно связано не только с экономическим процветанием и неравенством, но и с …
ЧИТАЙТЕ ТАКЖЕ: Миру нужен постлиберальный порядок, – Юваль Ной Харари
Юваль Ной Харари: Думаете, у них есть реальный шанс? Я имею в виду, есть ли у таких стран, как Гондурас, Украина, Йемен, реальный шанс присоединиться к гонке ИИ? Или они вообще из нее уже вышли? То есть этого никогда не случится ни в Йемене, ни в Гондурасе? И что тогда с ними произойдет через 20 или 50 лет?
Марк Цукерберг: Ну, я думаю, что кое-что из этого сводится к ценностям, связанным с тем, как они развиваются. Хорошо, я думаю, что есть определенные преимущества у стран с большим населением, потому что можно достичь критической массы с точки зрения университетов, промышленности, инвестиций и тому подобного.
Наша главная цель, и Facebook в частности, — чтобы все академические исследования в этой сфере были в открытом доступе. В будущем все компании, занимающиеся ИИ, окажутся в той или иной небольшой стране. Не думаю, что это неправдоподобный сценарий, но настанет время, когда где-то найдется предприниматель, который сможет использовать Amazon Web Services для раскрутки экземпляров для Compute, будет нанимать людей по всему миру в условиях глобализации экономики и сможет использовать исследования, которые были сделаны в США или Европе — в различных открытых академических учреждениях или компаниях, которые все чаще публикуют свои работы, раскрывая нюансы и текущее положение вещей в этой сфере.
Я думаю, нам стоит задать себе вопрос: как мы видим свое будущее, как оно выглядит? Думаю, что отчасти мы хотим, чтобы будущее было открытым. Мы хотим, чтобы исследования были открытыми. Мы хотим, чтобы Интернет стал платформой для этого, дал к этому доступ по всему миру. Я думаю, что один из больших рисков в будущем заключается в том, что политика в отношении Интернета в каждой стране выглядит по-разному и является фрагментированной. В связи с этим я полагаю, что у предпринимателей в тех странах, о которых вы говорите, например, в Гондурасе, не так много шансов, если они не смогут использовать достижения со всех уголков мира.
Но если Интернет будет единым, а исследования открытыми, я думаю, шансы на это у них велики. Поэтому, когда я смотрю в будущее, одна из вещей, о которых я очень беспокоюсь, — это ценности, которые я только что озвучил, а не те ценности, которые разделяют все страны. И когда вы попадаете в одну из авторитарных стран и вникаете в их политику защиты персональных данных, понимаете, что она сильно отличается от той нормативно-правовой базы, о которой говорят или создают в Европе. Недавно я выступил с речью, где высказал мысль о том, что все больше стран должны принять систему конфиденциальности, такую как GDPR в Европе. И многие люди, я думаю, были смущены этим. Они говорят: “Почему вы спорите о более строгом регулировании конфиденциальности? И почему именно сейчас, учитывая, что в прошлом вы не были так позитивно настроены в этом отношении?”
Одна из причин, почему я так сосредоточен на этом именно сейчас, состоит в том, что люди во всем мире уже осознают, что эти вопросы, касающиеся данных, искусственного интеллекта и технологий, важны, поэтому в каждой стране нужна будет такая система. И я веду к тому, что не будет никакого регулирования или политики. Но что это будет — это главный вопрос.
Наиболее вероятной альтернативой для каждой страны, на мой взгляд, является авторитарная модель, которая в настоящее время повсеместно используется. Согласно ей, каждая компания должна хранить все данные локально в дата-центрах, и если я правительство, я должен был бы отправлять туда свои вооруженные силы и иметь возможность получить доступ к любым данным, которые я хочу, и иметь возможность использовать их для наблюдений или в помощь военным и местным военно-промышленным компаниям. Но мне кажется, это действительно очень плохое будущее, не так ли? Это не то направление, в котором я как тот, кто управляет одними из социальных площадок, или просто как гражданин мира хочу видеть, как движется мир.
Юваль Ной Харари: Быть на мгновение защитником дьявола…
Юваль Ной Харари: Я имею в виду, что если я смотрю на это с точки зрения, например, Индии, то я слушаю американского президента, который говорит: “Америка превыше всего, я националист, я не глобалист. Я забочусь об интересах Америки”, и мне интересно, безопасно ли хранить данные об индийских гражданах в США, а не в Индии, когда они открыто заявляют, что заботятся только о себе. Так почему это должно быть в Америке, а не в Индии?
Марк Цукерберг: Ну, я думаю, что есть мотивы, которые имеют значение, но, конечно, я не думаю, что кто-либо из нас посчитал бы Индию авторитарной страной…
Юваль Ной Харари: Ну, еще можно сказать: “Мы хотим, чтобы данные и метаданные об индийских пользователях хранились на индийской земле. Мы не хотим, чтобы они хранились на американской земле или где-либо еще”.
Марк Цукерберг: Да. И я могу понять такие аргументы. Намерение имеет значение, верно. Я думаю, что страны могут прийти к этому с открытыми ценностями и прийти к выводу, что подобное может быть полезным. Но я думаю, нужно быть и очень осторожными в этом, потому что это станет очень простым и доступным для других стран, которые не имеют открытых ценностей, гораздо более авторитарны и хотят не защищать данные своих граждан, а, наоборот, наблюдать за ними, находить инакомыслящих и сажать их в тюрьму.
Юваль Ной Харари: Я согласен, но думаю, что это на самом деле сводится к вопросу доверия Америке. Если бы мы сидели здесь, скажем, 10, 20 или 40 лет назад, то Америка объявила бы себя лидером свободного мира. Мы можем много спорить, так ли это было, но, по крайней мере, на декларативном уровне именно так Америка представилась миру: мы лидеры свободного мира, поэтому доверяйте нам, мы заботимся о свободе. Но сегодня мы видим другую Америку, Америку, которая даже не хочет быть … И опять же, вопрос не в том, что правительство делает, а в том, как Америка сдает позиции лидера свободного мира и становится страной, которая заинтересована прежде всего в себе и своих интересах. И как раз сегодня утром, например, я прочитал, что США рассматривают возможность наложить вето на резолюцию США против использования сексуального насилия как оружия войны. И как человек, который не является гражданином США, я спрашиваю себя, могу ли я по-прежнему верить Америке и в то, что она станет лидером свободного мира, если сама Америка скажет, что “я больше не хочу этой роли”.
ЧИТАЙТЕ ТАКЖЕ: Как в соцсетях переделывают мемы, чтобы «обойти» закон об авторском праве
Марк Цукерберг: Это немного отдельный вопрос от направления, в котором сейчас движется Интернет, потому что я имею в виду GDPR, структуру, которую я защищаю. Было бы лучше, если бы все больше стран приняли подобные правила, потому что это гораздо лучше, чем альтернативы, которые чаще являются авторитарными моделями. Как известно, GDPR возник в Европе — это не американское изобретение. Все эти ценности открытости в исследованиях, трансграничного обмена идеями и торговли — это абсолютно не американская идея. Это глобальная философия того, как должен работать мир, а альтернативы этому в лучшем случае фрагментированы, что как раз и разрушает глобальную модель; в худшем случае, будет расти авторитаризм… И вот тут все становится запутанным, но вы хорошо справляетесь с ролью адвоката дьявола в разговоре…
Юваль Ной Харари: *немной вопрос*
Марк Цукерберг: Поскольку вы предъявляете все контраргументы, которые кто-то с добрыми намерениями мог бы использовать: “Эй, возможно, нам следует придерживаться другой политики данных”. И это то, чего я босюь: как только одна из стран вводит это в действие, это становится прецедентом, и затем многие другие страны, более авторитарные, станут утверждать, что все должны делать то же самое — и так это распространяется.
Я как человек, управляющий этой компанией, полностью привержен тому, чтобы мы сыграли свою роль в противодействии этому и сохранении Интернета как единой платформы. Одним из наиболее важных решений, которые я принимаю, является то, где мы собираемся строить свои центры обработки данных и хранить данные. И мы приняли решение, что не будем размещать центры обработки данных в тех странах, которые, по нашему мнению, являются слабыми правовыми государствами, в которых доступ к данным людей может быть неправомерно получен, и это может навредить людям…
Я забочусь о том, чтобы дать каждому голос, дать людям право голоса, поэтому я не хочу, чтобы люди подвергались цензуре. На каком-то уровне эти вопросы, касающиеся данных и того, как они используются, и получают ли авторитарные правительства доступ к ним, я думаю, очень чувствительны. Потому что, если вы не можете сказать то, что хотите, это очень проблематично. Это нарушает ваши права. Во многих случаях это останавливает прогресс. Если правительство может получить доступ к вашим данным, то оно может определить, кто вы, и посадить вас в тюрьму, причинить вам вред, причинить вред вашей семье.
ЧИТАЙТЕ ТАКЖЕ: «Вы сломали демократию»: На TED2019 журналистка бросила вызов Facebook и Twitter
Поэтому я считаю, что люди, управляющие такими компаниями, обязаны попытаться бороться с созданием прецедентов, которые будут наносить вред. И когда вы говорите об искусственном интеллекте и данных в будущем, которые являются двумя связанными друг с другом концепциями, я думаю о ценностях, которые из этого вытекают, и о том, является ли это частью более глобальной системы, более демократического процесса, более открытого процесса: это одна из наших лучших надежд, чтобы это все-таки сработало хорошо. Если это будет исходить от репрессивных или авторитарных стран, это грозит проблемами в будущем.
Юваль Ной Харари: Это поднимает вопрос о том, можем ли мы создать такой ИИ, который по своей сути не будет инструментом наблюдения, манипулирования и контроля? Это восходит к идее создания чего-то, что знает вас лучше, чем вы сами, что является своего рода конечным инструментом наблюдения и контроля. И мы строим это сейчас. А что вы думаете о создании ИИ, который будет обслуживать и защищать отдельных людей, а не о ИИ, который может легко одним щелчком переключиться и стать своего рода конечным инструментом наблюдения?
Марк Цукерберг: Ну, я думаю, что это больше о ценностях и политических рамках, чем о технологическом развитии. Я имею в виду, что многие исследования, проводимые в области ИИ, являются просто фундаментальными математическими методами, в которых, как вы знаете, исследователь дает старт прогрессу, и теперь все нейронные сети будут на 3 % эффективнее.
Юваль Ной Харари: Да.
ЧИТАЙТЕ ТАКЖЕ: Facebook обновил дизайн: что будет с новостной лентой
Марк Цукерберг: А это значит, что новостная лента будет немного лучше для пользователей. Наши системы обнаружения таких вещей, как ненавистнические высказывания, будут немного эффективнее. Способность нашей системы найти фотографии, на которых вы изображены и которые будут вам интересны, теперь значительно улучшится. И так улучшаются и все другие системы. Но если посмотреть на это с другой стороны, найдется какое-то правительство в мире, которое выбирет эту технологию и эти достижения для широкого распознавания лиц и наблюдения. А такие страны, я имею в виду Китай, который уже делает это, они создают цепную реакцию, и другие хотят так же, поэтому теперь есть множество компаний, которым разрешено делать так, и они получают доступ к большому количеству данных, потому что это поощряется. В общем, все это становится лучше и лучше. И это не математический процесс. Это своего рода политический процесс, и отдельные страны или компании хотят идти в этом направлении. Так что это их ценности. По сравнению со странами, которые могут сказать: “Такой вид наблюдения — это не то, чего мы хотим”, но этих компаний не так уж много, поэтому они не получают такой большой поддержки и…
Юваль Ной Харари: Не знаю. Моя родная страна – Израиль, по крайней мере для евреев здесь правит демократия. Израиль — один из мировых лидеров в области технологий видеонаблюдения. У нас расположена одна из крупнейших лабораторий технологий наблюдения в мире — на оккупированных территориях. И именно такие виды систем разрабатываются там и экспортируются по всему миру. Поэтому, учитывая мой личный опыт работы дома, я не сильно верю, что если общество демократично, то оно не будет развивать и распространять такие технологии.
Марк Цукерберг: Да, я согласен. Не ясно, решает ли это только демократический процесс, но я действительно думаю, что это в основном политический вопрос, верно. Правительство может довольно легко принять решение, что оно не хочет поддерживать такого рода надзор, и тогда компании, с которыми оно будет работать, чтобы поддержать такой вид надзора, останутся без бизнеса. И тогда у них будет гораздо меньше экономических стимулов для продолжения этого технического прогресса. Технический прогресс сам по себе не является хорошим или плохим. Это больше зависит от людей, которые руководят им, строят его и разрабатывают свою политику вокруг него, чтобы убедиться, что их действия направлены на усиление пользы и смягчение негативных вариантов использования.
ЧИТАЙТЕ ТАКЖЕ: Facebook решил не хранить данные пользователей в странах, где нарушаются права человека
Но то, что мы сейчас видим в некоторых странах, это отнюдь не является естественным смягчением негативного использования. В некоторых случаях экономический прогресс толкает эти вещи вперед, но я не думаю, что так должно быть. То есть это не столько технологическое решение, сколько политическое.
Юваль Ной Харари: Я полностью согласен. Но я имею в виду, что каждая технология может использоваться по-разному, хорошо или плохо. Вы можете использовать радио, чтобы транслировать музыку людям, но вы можете использовать радио, чтобы транслировать Гитлера, произносящего речь для миллионов немцев. Радио несет в себе все, что вы вложили в него. Так что да, это политическое решение. Но тогда возникает вопрос: можем ли мы быть уверены, что эта чья-то политика является правильной политикой в мире, когда становится все проще и проще манипулировать людьми и контролировать их в массовых масштабах, как никогда раньше? Новые технологии – это не только то, что мы изобретаем технологию и у нас хорошие демократические страны и плохие авторитарные, вопрос в том, что они будут делать с этой технологией. Сама технология может изменить баланс сил между демократической и тоталитарной системами.
Марк Цукерберг: Так и есть.
Юваль Ной Харари: И я боюсь, что новым технологиям дают неотъемлемое преимущество, причем не обязательно в подавляющем большинстве, но они, как правило, дают неотъемлемое преимущество тоталитарным режимам. Потому что самая большая проблема тоталитарных режимов в ХХ веке, которая в конечном итоге привела к их краху, заключается в том, что они не могли обрабатывать информацию достаточно эффективно.
Если вспомнить Советский Союз, то у нас есть эта модель, модель обработки информации, которая в основном гласит: мы берем всю информацию со всей страны и перемещаем ее в одно место — в Москву. Там это обрабатывается. Решения принимаются в одном месте и передаются обратно в виде команд. Это была советская модель обработки информации. И сравнить это с американской версией, у которой нет единого центра: здесь много организаций, много людей и компаний, и они могут принимать собственные решения. В Советском Союзе есть кто-то в Москве, и если я живу на какой-нибудь маленькой ферме или в селе в Украине, есть кто-то в Москве, кто говорит мне, сколько редьки вырастет в этом году, потому что они знают. А в Америке я решаю для себя: я просто получаю сигналы с рынка и принимаю нужное решение.
А советская модель просто не сработала из-за сложности быстрой обработки большого количества информации с использованием технологий 1950-х годов. И это одна из главных причин, почему Советский Союз проиграл Соединенным Штатам холодную войну. А новая технология, и это одно из моих опасений, внезапно делает центральную обработку информации намного более эффективной, чем когда-либо прежде, и намного более эффективной, чем распределенная обработка данных. Потому что чем больше данных у вас в одном месте, тем лучше ваши алгоритмы, и так далее и так далее. И этот вид нарушает баланс между тоталитаризмом и демократией в пользу тоталитаризма. Мне интересно, что вы думаете по этому поводу.
Марк Цукерберг: Я настроен более оптимистично.
Юваль Ной Харари: Да, наверное.
Марк Цукерберг: В отношении демократии в этом вопросе.
Юваль Ной Харари: Мммм.
ЧИТАЙТЕ ТАКЖЕ: В Facebook меняют рекламную политику из-за обвинений в дискриминации
Марк Цукерберг: Я думаю, что путь, который необходим демократическому процессу, заключается в том, что люди начинают все больше говорить об этих проблемах, даже если кажется, что процесс идет медленно с точки зрения людей, которые заботятся о проблемах данных и технологической политике. Потому что намного сложнее понять, заботится ли об этом каждый в сравнении с небольшим количеством лиц, принимающих решения.
Если проследить историю демократии и более тоталитарных режимов, всегда кажется, что тоталитарный режим будет более эффективным, а демократия просто останется позади. Но сейчас люди стали умнее. Они все больше обсуждают эти вопросы и, заботясь о них, заботятся о своей конфиденциальности, проблемах, связанных с личными данными, технологической индустрией в целом. Люди становятся более искушенными. Они понимают, что хранение большого количества ваших данных может быть как активом, так как предоставляет много преимуществ и услуг, но все чаще это еще и ответственность, потому что есть хакеры и национальные государства, которые могут взломать и использовать эти данные против вас, рассекретить их. Поэтому, возможно, люди не хотят, чтобы их данные хранились вечно. Возможно, они хотят, чтобы этому был какой-то срок. Возможно, чтобы все это было зашифровано в их личных сообщениях.
Люди действительно заботятся об этом больше, чем раньше. Особенно в последние несколько лет. Такое обсуждение является нормальным демократическим процессом, и я думаю, что в конечном итоге произойдет то, что к тому времени, когда вы будете широко информировать людей о проблемах, это будет гораздо более действенным подходом, когда у вас есть люди в децентрализованной системе, способные принимать умные решения, которые обычно всегда делают это лучше, чем в слишком централизованном подходе.
Но опять же найдутся те, кто персонифицирует ИИ и скажет: “ИИ – это вещь, понятно, что институт технологий будет развиваться, но это почти как разумное существо, и оно неправильно характеризует то, чем на самом деле является”. Окей, это всего лишь набор методов, которые все улучшают.
ЧИТАЙТЕ ТАКЖЕ: Facebook уличили в передаче рекламодателям телефонных номеров пользователей
Возвращаясь к контексту нашего разговора, наш бизнес — это рекламная платформа, которую многие используют именно по этому назначению. У нас зарегистрировано 90 миллионов малых предприятий, и наша площадка открывает им доступ к технологиям и инструментам для рекламы и маркетинга, привлечения новых клиентов и роста рабочих мест, что раньше было доступно только крупным компаниям. Это большой прогресс и масштабная децентрализация. Когда люди говорят о нашей компании и Интернет-платформах в целом, они говорят о том, что существует небольшое количество крупных компаний, и это правда. Но с другой стороны, сейчас миллиарды людей во всем мире имеют право голоса, теперь каждый может делиться информацией с более широкой аудиторией, и это на самом деле огромная децентрализация власти и своего рода возвращение власти людям. Точно так же и простые пользователи теперь имеют доступ к большему количеству информации и коммерческих предложений. Все это положительные изменения. Поэтому я называют себя оптимистом в этом.
Проблемы, которые вы поднимаете, являются правильными для размышления, потому что если мы ошибаемся, значит, где-то что-то пойдет не так. Но я думаю, что исторический прецедент свидетельствует о том, что везде, где была конкуренция, — например, между США и Японией в восьмидесятых и семидесятых или во время холодной войны — и люди выбирали демократическую модель, которая хоть и медленно мобилизуется, но в тоже время очень сильна, она оказывалась верным направлением и лучшим способом распространения процветания во всем мире и достижения прогресса, отвечая потребностям людей. Поэтому говорим мы об Интернет-политике или экономической политике, главное, что распространение нормативно-правовой базы, которая кодирует эти ценности, является одной из самых важных вещей, которые мы можем сделать. Но все, конечно, начинается с понимания проблемы и ее обсуждения, чтобы заставить других людей осознать это.
Юваль Ной Харари: Да, я согласен и думаю, что в последние несколько десятилетий открытые демократические системы были лучше и эффективнее. И это один из моих страхов, потому что это должно нас немного успокоить, будто это своего рода закон природы, согласно которому распределенные системы всегда лучше и эффективнее, чем централизованные системы.
Мы выросли в мире, в котором происходило что-то подобное: чтобы делать доброе дело морально, нужно, чтобы это было эффективно – экономически и политически. Многие страны за последние 50 лет либерализовали свою экономику, свое общество, свою политику в большей степени потому, что они были убеждены в аргументе эффективности, а не в глубоком моральном аргументе. А что произойдет, если эффективность и мораль внезапно раскололись, как это было раньше в истории? Я имею в виду, что последние 50 лет не являются репрезентативными для всей истории; у нас было много случаев в истории человечества, когда репрессивные централизованные режимы были более эффективными, и, следовательно, мы получили эти репрессивные империи. И нет закона природы, который гласит: “Это не может повториться”.
Поэтому я боюсь, что новая технология может нарушить этот баланс; а потому делая центральную обработку данных гораздо более эффективной, это может дать толчок тоталитарным режимам. Также может нарушиться баланс сил между центром и индивидом, потому что на протяжении большей части истории центральная власть не могла знать вас лично просто из-за неспособности собирать и обрабатывать информацию о вас или ком-либо еще. Хотя были люди, которые очень хорошо вас знали, но обычно их интересы совпадали с вашими. Например, моя мама меня очень хорошо знает, и я могу ей доверять. Но сейчас мы пришли к тому, что какая-то там далекая система может знать меня лучше, чем моя мама, и наши интересы не обязательно совпадают. То есть это такая сила, которой никогда не было прежде, и она могла бы дать возможность тоталитарным и авторитарным режимам делать вещи, которые раньше были просто технически невозможны.
Марк Цукерберг: Мммм.
Юваль Ной Харари: До сегодняшнего дня.
Марк Цукерберг: Ну да.
Юваль Ной Харари: И знаете, если вы живете в открытой демократии, то это хорошо, что вы можете положиться на все виды механизмов и инструментов, чтобы себя защитить. Но я думаю об этой проблеме более глобально. Ключевой вопрос заключается в том, как человек может защитить себя от злых игроков, которые знают его лучше, чем он сам? Это вопрос, с которым нам никогда прежде не приходилось сталкиваться.
Марк Цукерберг: Думаю, нужен эффект масштаба — это одна из лучших вещей, которые мы могли бы сделать, если мы заботимся об открытых ценностях и живем в глобально связанном мире, действительно важно, чтобы критическая масса инвестиций в новые технологии кодировала эти ценности. Вот почему я за то, чтобы не поддерживать распространение авторитарной политики в большем количестве стран, либо непреднамеренно делать это или создавать условия для этого. Потому что чем больше развития будет происходить в более открытой форме, где будут открытые исследования, где политика будет более демократичной, тем больше будет позитивных последствий. Важно поддержавать этот баланс, чтобы не случилось ничего плохого. Одна из причин, по которой демократические страны со временем стремятся лучше обслуживать потребности людей, заключается в том, что нет метрики для оптимизации общества, верно? Когда говорят об эффективности, часто имеют в виду экономическую эффективность, не так ли?
Юваль Ной Харари: Так.
Марк Цукерберг: Увеличиваем ли мы ВВП? Увеличиваем ли мы рабочие места? Искореняем ли мы бедность? Все это хорошо, но я думаю, что часть того, что делает демократический процесс, состоит в том, чтобы люди сами решали, какое из изменений в обществе наиболее важно для них в их жизни.
Юваль Ной Харари: Но если вы можете захватить внимание людей и манипулировать …
Марк Цукерберг: Видите …
Юваль Ной Харари: …тогда люди, если они сами решают, просто не помогают, потому что как я могу понять, что кто-то манипулировал мной, я ведь думаю, что это то, чего я на самом деле хочу. И вот сегодня мы впервые в истории достигли точки, когда это можно сделать в массовом масштабе. Вот поэтому я так много говорю о проблеме свободной воли в этом отношении…
Марк Цукерберг: Вы правы.
Юваль Ной Харари: А люди, которыми легче всего манипулировать, — это люди, которые верят в свободную волю и отождествляют себя с тем, что у них возникает в голове, потому что они даже не могут представить…
Марк Цукерберг: Хмм…
Юваль Ной Харари: Их желание не является результатом их свободной воли. Это желание является результатом некоторых внешних манипуляций. Теперь это может звучать параноидально, и для большей части истории это было, вероятно, тоже параноидально, потому что никто не имел такой способности сделать это в массовом масштабе…
Марк Цукерберг: Угу.
Юваль Ной Харари: Я не исключаю, что все эти инструменты для развития в массовом масштабе были разработаны с лучшими намерениями; некоторые из них, возможно, были разработаны просто с целью продавать какие-то вещи и продукты людям. Но теперь те же инструменты, которые можно использовать для продажи того, что мне на самом деле не нужно, можно использовать и для продажи политики, которая мне действительно не нужна, или идеологии, которая мне не нужна. Это те же инструменты. Это то же самое, что взламывать человека и манипулировать тем, что происходит у него внутри.
Марк Цукерберг: Хорошо. Может много чего произойти. Разрабатывая такие системы, нужно убедиться, что они работают правильно и с правильными намерениями, а затем уже предотвращать злоупотребления этим.
Юваль Ной Харари: Верно.
Марк Цукерберг: Я думаю, что люди задают два типа вопросов. Мы все были свидетелями того, что пыталось сделать российское правительство на выборах 2016 года. Это явное оскорбление. Нам необходимо создать действительно продвинутые системы для обнаружения такого рода помех в демократическом процессе, выявлять людей с поддельными учетными записями, которые ведут себя не так, как обычные люди, отсеивать их и блокировать, работать с правоохранительными и избирательными комиссиями по всему миру, сообществом разведки, чтобы иметь возможность координировать этот процесс и эффективно справляться со всеми злоупотреблениями. Но я бы задал более глубокий вопрос: верно ли это внутреннее проектирование системы, правильно ли разработан этот алгоритм?
Юваль Ной Харари: Да, именно.
Марк Цукерберг: Мы совершенствуем алгоритмы нашей системы, не только исходя из того, что смотрит человек, сколько времени он просматривает тот или иной контент, на какие рекламные объявления обращает внимание — что хорошо для бизнеса и помогает улучшать работу подобных других объявлений. Мы действительно пытаемся обнаружить, что люди на самом деле хотят видеть у себя в ленте и с какими людьми им интереснее всего быть на связи, что или кого они считают более ценным в своей жизни. Это не просто пассивно потребляемый контент. Это то, что человек ожидает увидеть в ленте: все его действия дают сигнал системе, и она перестраивается под его интересы.
Юваль Ной Харари: Угу.
Марк Цукерберг: Но также для улучшения внутреннего дизайна, алгоритмов системы мы приглашаем и реальных людей, чтобы они сами рассказали нам, каков их реальный опыт на словах, так ведь? Чтобы они рассказали нам, какие события были для них сегодня наиболее значимыми, какой контент был самым важным, какое взаимодействие с другом имело для них наибольшее значение и насколько хорошо мы обеспечили этот контакт? Если не очень хорошо, то мы идем и пытаемся выяснить, что мы можем сделать и улучшить.
Сейчас нам кажется, что в ближайшем будущем показ в ленте некоторых людей или еще нескольких вирусных видео могут увеличить время в ней, да? Но в долгосрочной перспективе это не так. Это на самом деле не соответствует нашим деловым интересам или долгосрочным социальным интересам. Поэтому, с точки зрения стратегии, это глупо. Многие люди думают, что бизнес сильно ориентирован на краткосрочную перспективу, и что мы заботимся, точнее, бизнес заботится только о прибыли в следующем квартале, но это не совсем верно.
Как вы знаете, на одном из наших совещаний в прошлом году я сказал инвесторам, что мы фактически сократили количество просмотров видео в квартале на 50 миллионов часов в день, потому что мы хотели сократить количество вирусных видео, которые люди видели, потому что, как мы считали, это вытесняет более значимые взаимодействия, которые были у людей с другими людьми, что в ближайшей перспективе может оказать краткосрочное влияние на бизнес, но в долгосрочной перспективе окажется более позитивным как для отельных пользователей, как и для продукта и бизнеса в целом.
Такая модель вселяла в меня оптимизм, что все эти решения окупятся в будущем, в том числе идут на благо бизнеса на нашей платформе. Без этого никак: делая правильные вещи в долгосрочной перспективе, некоторое время “может быть больно”. И я почти всегда обнаруживаю, что этот долгосрочный период наступает гораздо раньше: например, ты думаешь, что это займет пять лет, но на самом деле все происходит за год. Ну, и я думаю, что люди на каком-то глубинном уровне чувствуют, когда что-то хорошо. И, похоже, это возвращает нас к демократическим ценностям, потому что на каком-то уровне я верю, что у людей есть чувство, что у них есть то, что им действительно важно.
ЧИТАЙТЕ ТАКЖЕ: Вирусные видео с миллионами просмотров в Сети оказались фейками австралийской компании
Ну, и знаете, вирусные видео —это все же лучше, чем то, что может предложить телевизор, по крайней мере, эти видео персонализированы. Может быть, это даже лучше, чем YouTube, потому что мы стараемся показывать качественный контент. Но конечно, всегда есть что улучшать, чтобы больше соответствовать желаниям людей; и если вы сделаете это, это будет лучше для всех. В общем, я думаю, что алгоритмы наших систем вполне служат на пользу интересов наших пользователей.
Юваль Ной Харари: Да, получается, что в конечном счете клиент всегда прав: люди лучше знают, что для них хорошо и лучше. Люди делают выбор: если они решат это сделать, значит, для них это хорошо. Это, кстати, было основой западных демократий на протяжении веков и поколений. И вот теперь возникает главный вопрос: а верно ли все еще в мире, где у нас есть технология, позволяющая взламывать людей и манипулировать ими, как никогда раньше, утверждение, что “клиент всегда прав”, что “избиратель знает лучше”? Или мы уже прошли эту точку? Возможно, это уже и не так.
Марк Цукерберг: Да, я думаю, что … мне непонятно, изменилось ли что-то в этом, но я думаю, что это очень глубокий вопрос о демократии.
Юваль Ной Харари: Да, я собирался сказать, что это самый глубокий вопрос.
Марк Цукерберг: Я не думаю, что это новый вопрос. Но думаю, люди всегда задавались им.
Юваль Ной Харари: Нет, вопрос не в этом. Технология новая. Я имею в виду, что если вы жили в Америке XIX века и у вас не было этих чрезвычайно мощных инструментов для расшифровки и влияния на людей, то это было другое.Марк Цукерберг: Хорошо, позвольте мне сформулировать это по-другому.
Юваль Ной Харари: Давайте.
Марк Цукерберг: Несмотря на все разговоры на тему: “А наносит ли демократия ущерб нынешнему набору инструментов и средствам массовой информации?”, я на самом деле думаю, что мир сегодня стал более демократичным, чем был в прошлом.
Например, США были созданы как республика, а значит, многие основополагающие правила ограничивали способность многих людей голосовать и иметь право голоса и проверяли волю народа на многих разных этапах, начиная от того, как законы писались Конгрессом, а не людьми. Но сегодня произошло то, что все больше и больше людей получают право голоса, все больше людей имеют доступ к информации. Демократический процесс всегда одинаковый, отличается только технология. И именно технология сделала его таким, чтобы люди были более уполномоченными и стали частью решения вопроса “а тот ли это мир, который нам нужен?”
Прогресс всегда порождает много проблем и вопросов, главное — как к этому всему относиться и как все это будет принято. Иногда какие-то изменения кажутся болезненными, но я думаю, что вы сами найдете множество доказательств и аргументов, что мы живем в самое демократичное время, теперь у каждого появилась возможность поделиться своим опытом и своим мнением с остальными, и это сделало нас, нашу страну в частности, сильнее и помогло прогрессу. Я не говорю, что нет никаких проблем. Они есть. Но то, что происходит в общем, то, что мы сделали благодаря Facebook, я вижу в этом много позитива.
Юваль Ной Харари: Я согласен, что больше людей стали иметь больше голоса, чем когда-либо прежде – как в США, так и во всем мире. В этом вы абсолютно правы. Меня беспокоит то, насколько мы можем доверять этому голосу людей, да и насколько я могу доверять своему голосу? Правильно или неправильно он мне говорит? И чем больше я смогу выразить этот голос и повлиять на происходящее, будет ли это лучше и демократичнее? Не случится ли так, что если больше людей смогут выразить свои голоса, то это легче сманипулирует моим внутренним голосом? Как вы действительно сможете поверить, что мысль, которая только что возникла у вас в голове, является результатом некоторой свободной воли, а не результатом чрезвычайно мощного алгоритма, который понимает, что происходит внутри вас, и знает, как и на какие нажимать кнопки? Итак, это два разных вопроса — право голоса у людей и доверие.
Я сам часто спрашиваю у себя, могу ли я доверять своему внутреннему голосу? Знаете, я провожу два часа в медитации каждый день, и я продолжаю эти долгие медитативные ретриты, и мой главный вывод — это в каком-то смысле сумасшествие внутри, все очень сложно и запутанно.
Тысячу лет назад сражения внутри нас происходили разве что между нейронами и биохимическими веществами, детскими воспоминаниями и еще чем-то; но все чаще у нас появляются внешние действующие лица, проникающие под нашу кожу, в наш мозг и наш разум. И как я могу проверить, что моя миндалина сейчас не русский агент? Откуда я знаю? Чем больше мы понимаем чрезвычайно сложный мир внутри нас, тем сложнее просто доверять тому, что говорит этот внутренний голос.
Марк Цукерберг: Да, я понимаю, о чем вы. Как один из людей, управляющих компанией, которая разрабатывает системы ранжирования, чтобы попытаться показать людям контент, который будет им интересен, существует диссонанс между тем, как вы объясняете, что может произойти, и тем, что я вижу как практикующий специалист, который это строит. Можно создавать системы, способные справиться с весьма специфическими задачами. Помогая разработчикам понять, кто из ваших друзей интересует вас больше всего, вы сможете ранжировать их посты выше в новостной ленте. Но идея в том, что существует обобщенный ИИ, который является монолитной вещью и понимает все аспекты того, кто вы есть.
Безусловно, злоупотребление системами существует, но я думаю, это больше вопрос политики и ценностей… Знаете, в Facebook вы должны быть настоящей личностью, собой. Например, есть условные российские агенты из вашего примера или люди из правительства, которые изображают из себя кого-то другого и что-то говорят, и вы видите их контент, но вы думаете, что он исходит от кого-то другого, тогда это не алгоритм выдачи. Я имею в виду, что кто-то просто злоупотребляет системой и пользуется тем фактом, что вы доверяете тому, что на этой платформе кто-то, как правило, будет тем, кто он есть, поэтому вы можете верить, что информация исходит из какого-то места и как бы проскальзывает через черный ход, и это то, с чем нам нужно бороться. Но это довольно широкий вопрос, и опять мы возвращаемся к тому, с чего начали: “Это фрагментация или персонализация?”
Если контент, который вы видите – резонирует, то это потому, что он на самом деле просто больше соответствует вашим интересам, а не потому что вы заколдованы и убеждены в том, во что на самом деле не верите – а это уже диссонирует с вашими интересами и убеждениями. Все психологические исследования, которые я видел, и опыт, который у нас был, заключаются в том, что когда люди видят вещи, которые не соответствуют тому, во что они верят, они просто игнорируют это.
Юваль Ной Харари: Мммм.
ЧИТАЙТЕ ТАКЖЕ: Супрун рассказала, как соцсети влияют на психику людей
Марк Цукерберг: Разве не так? Может произойти эволюция, когда система показывает информацию, которая вас заинтересует; и если с этим не справиться хорошо, есть риск подтолкнуть вас к тому, чтобы занять более экстремальную позицию или изменить то, как вы будете думать со временем. Но я считаю, что большая часть контента резонирует с людьми, потому что это резонирует с их жизненным опытом.
И когда мы видим, что люди злоупотребляют этим, либо пытаются представить, что они являются кем-то, кем на самом деле не являются, либо пытаются воспользоваться ошибкой в человеческой психологии, мы склонны к более радикальным идеям. Мы все время работаем над политикой платформы, работаем с правительствами и различными агентствами, а также стараемся, чтобы наши системы и наши алгоритмы рекомендаций не создавали ничего, что могло бы дать основание людям в ближайшем будущем или в долгосрочной перспективе сожалеть или обижаться, что мы сделали это.
Я думаю, в наших интересах сделать это правильно. Какое-то время мы не понимали глубины некоторых, с которыми мы столкнулись, и нам, безусловно, еще многое предстоит сделать. Но все, что мы делаем, все наши стремления связаны с тем, чтобы помогать людям общаться с людьми, с теми, с кеми они хотят, иметь важные для них взаимодействия, а не просто привлекать людей, чтобы посмотреть кучу контента, который заставит сожалеть, что они это сделали. И, конечно, не вызывать у людей более экстремальные или негативные точки зрения, которые будут отличаться от того, во что они на самом деле верят. Вот так.
Юваль Ной Харари: Хммм. Может быть, я смогу попытаться обобщить свою точку зрения о том, что у нас есть две разные опасности, исходящие от одного и того же технологического инструмента. У нас есть опасность, которую можно осознать, — это экстремальные тоталитарные режимы, которых мы раньше не видели, и это может произойти если не в США, то в других странах, где этими инструментами могут злоупотреблять. В некоторых странах это вообще может стать нормой. То, что вы живете с момента рождения в этой системе, и она вас постоянно контролирует и отслеживает, постоянно манипулирует вами с самого раннего возраста, подталкивая принять конкретные идеи, взгляды, привычки и т. д. Причем делает это так, как раньше это было невозможно.
Марк Цукерберг: Хмм.
Юваль Ной Харари: И вот это уже похоже на полноценную тоталитарную дистопию, которая может быть настолько эффективной, что люди даже не будут возмущаться ее политикой, потому что они будут полностью соответствовать ценностям или идеалам системы. Это не “1984”, где вам нужно постоянно мучить людей. Нет!
Если у вас внутри уже есть агенты, вам не нужна внешняя тайная полиция. Так вот, это одна опасность. Это уже полноценный тоталитаризм. Еще одна опасность или проблема для размышления кроется в таких местах, как США, – это то, что люди все чаще называют наблюдательным капитализмом; что у вас есть эти системы, которые постоянно взаимодействуют с нами и знакомятся с нами, и якобы в наших интересах дают нам лучшие рекомендации и лучшие советы. Все начинается с рекомендации, какой фильм смотреть и куда ехать в отпуск. Но затем система становится лучше, и она дает вам рекомендации о том, в каком колледже учиться и где работать, на ком жениться, за кого голосовать, к какой религии присоединиться — вроде как присоединиться к сообществу. Мол: “Смотри, сколько у тебя религиозных общин. Вот эта религия больше соответствует твоему типу личности. Иудаизм? Нет, он не сработает для тебя. Дзен-буддизм гораздо лучше подходит для твоей личности. Ты поблагодаришь нас. Через пять лет ты оглянешься назад и скажешь: “Это была удивительная рекомендация. Спасибо. Мне так нравится дзен-буддизм”.
Люди будут чувствовать, что все это соответствует их собственным наилучшим интересам, а система со временем улучшается. Да, будут глюки. Не все будут счастливы всегда. Но что это значит, если все самые важные решения в моей жизни принимаются внешним алгоритмом? Что это означает с точки зрения человеческого действия, с точки зрения смысла жизни?
Марк Цукерберг: Мммм
Юваль Ной Харари: Знаете, тысячи лет люди были склонны рассматривать жизнь как драму принятия решений. Мол, жизнь – это путешествие, вы пересекаете перекресток — и вам нужно выбирать, куда направиться. Некоторые решения не такие уж важные, например, что съесть на завтрак, а некоторые действительно значительные, например, на ком жениться. И почти все искусство и вся религия об этом. Герой или героиня – будь то трагедия Шекспира или голливудская комедия, – должны принять важное решение: “Быть или не быть”, жениться на К или жениться на Н. Что означает жить в мире, в котором мы все больше полагаемся на рекомендации алгоритмов для принятия этих решений, пока не достигнем точки, когда мы просто будем следовать им все время или большую часть времени? И они дают хорошие рекомендации. Я не говорю, что это что-то оскорбительное, что-то зловещее – нет! Это хорошие рекомендации, но я просто … у нас нет модели для понимания, каков смысл человеческой жизни в такой ситуации.
Марк Цукерберг: Ну, я думаю, что самое большое возражение, которое у меня возникло против того, что вы только что сказали, заключается в том, что у каждого из нас есть доступ ко множеству различных источников информации, с которыми можно “поговорить” на разные темы. И дело не только в том, что есть один набор рекомендаций или одна рекомендация, которая навязывает то, что мы делаем, и которая оказывается подавляющей в тоталитарной или капиталистической модели, о чем вы говорили. Наоборот, я думаю, что людям действительно не нравится, и они очень недоверчивы, когда им говорят, что им делать, или когда у них есть только один вариант.
Один из вопросов, которые мы изучили, – как понять, когда происходит обман или явная дезинформация? И самое очевидное, что кажется интуитивно понятным для вас, – это сказать людям: “Эй, похоже, это неправильно. Вот другая правильная точка зрения”, или если она поляризована, даже когда неясно, что правильно или неправильно, “вот же другая точка зрения” по любому вопросу. Но так ведь не работает, верно? И что тогда происходит, если вы говорите людям, что это ложно, но они в это верят? Они просто перестают вам доверять.
Юваль Ной Харари: Да.
Марк Цукерберг: Так не работает, если вы представляете две вещи как противоположности. Допустим, вы говорите: “Хорошо, вы человек, который не верит в изменение климата, и вы видите контент об этом, но я собираюсь показать вам и другую перспективу. Вот кто-то, кто утверждает, что изменение климата имеет место быть”.
Юваль Ной Харари: Да, это … хм.
Марк Цукерберг: Получается, с социологической и психологической стороны, предоставлять людям широкий выбор в итоге оказывается эффективным. Если вы показываете не “Вот другое мнение”, а судите о части контента, с которой взаимодействует человек, и показываете серию связанных статей или контента, тогда люди себя как бы тренируют, говоря про себя: “Вот диапазон различных мнений или вещей, которые существуют на эту тему. Возможно, я склоняюсь в одну или другую сторону, но я собираюсь сам выбрать, на какой стороне я хочу быть”.
Большинство людей не выбирают самые экстремальные вещи, но они в конце концов чувствуют, что информированы и могут принять правильное решение. Наша обязанность состоит в том, чтобы убедиться, что работа, которую мы выполняем, дает людям больше выбора, что это не само собой разумеющееся – единственное мнение, которое доминирует над чьим-либо другим, но такое же мнение может быть и у сотни ваших самых разных друзей. И даже если большинство из них разделяют вашу религию или политическую идеологию, вероятно, у вас найдется 5 или 10 % друзей с другими взглядами и идеями, и это тоже можно считать более широким спектром мнений. В общем, это действительно важные вопросы, и вряд ли найдется ответ, который полностью решит их так или иначе.
Юваль Ной Харари: Это … определенно не решит.
Марк Цукерберг: Да.
Марк Цукерберг: Да, спасибо и вам, что приняли меня, и за вашу открытость по поводу этих очень сложных вопросов, потому что на самом деле вы как глава глобальной корпорации могли просто сидеть здесь и говорить все, что захотите. И я знаю, что у вас сейчас намного больше обязанностей. Поэтому я ценю, что вы поставили себя на линию огня и решаете эти вопросы.
Марк Цукерберг: Спасибо. Признателен вам.