Основатель и глава Facebook Марк Цукерберг провел дискуссию о будущем технологий в обществе с израильским историком, автором международного бестселлера “Sapiens: Краткая история человечества” Ювалем Ноем Харари.
Видеозапись разговора обнародовала пресс-служба Facebook.
Цукерберг и Харари обсуждали, связывает ли Интернет общество или же, наоборот, разделяет; пути развития искусственного интеллекта; как алгоритмы будут продолжать влиять на жизнь людей; а также почему так важно не хранить конфиденциальные данные в странах, где нет верховенства права и где правительства могут принудительно получить к ним доступ.
#Буквы выделили основные тезисы из этой занимательной дискуссии.
О ПРОГРЕССЕ, ОБЪЕДИНЕНИИ ЛЮДЕЙ И ГАРМОНИИ
В ходе разговора Юваль Ной Харари отметил, что в последнее время человечество стало в значительной степени больше связано. В то же время такие связи не означают гармонию.
“Если вы посмотрите на длительный период истории, то становится очевидным, что человечество становится все более и более связанным. Если тысячи лет тому назад планета Земля была миром множества изолированных областей, почти не связанных между собой, то постепенно люди собирались вместе и становились все более и более связанными, пока мы не достигли того состояния, когда весь мир впервые стал единой исторической, экономической и культурной единицей. Но связь не обязательно означает гармонию. Люди, с которыми мы чаще всего боремся, – это члены нашей семьи, соседи и друзья. Так что на самом деле вопрос в том, говорим ли мы о соединении людей или о гармонизации людей? Соединение людей может привести к множеству конфликтов, и когда вы смотрите на мир сегодня, вы видите эту двойственность… Итак, как осмыслить этот мир, который больше связан, чем когда-либо, но в то же время строит больше стен, чем когда-либо прежде”, – подчеркнул историк.
Цукерберг, в свою очередь, выразил мнение, что человечеству нужны связи для решения ключевых проблем (например, изменения климата, борьбы с болезнями) и реализации возможностей (распространения процветания, мира, научного прогресса).
“В 21-м веке, чтобы реализовать самые большие возможности и решить проблемы, с которыми сталкивается человечество, нам действительно нужно быть в состоянии собраться вместе и сделать мир более связанным. Но в то же время это работает только тогда, когда мы, как отдельные личности, удовлетворяем наши экономические, социальные и духовные потребности… Одна из важных вещей, которые, как мне кажется, дает Интернет, – это чтобы люди могли общаться с группами людей, которые разделяют их реальные ценности и интересы, и это не всегда было так. До Интернета вы были привязаны к своему физическому местоположению, и я вспоминаю, что когда я рос – я вырос в городе с населением около 10 тысяч человек, там было много разных клубов и занятий. Поэтому я вырос, как и многие другие дети, играя в бейсбол Малой лиги… И реальность была такова, что в моем городе не было никого, кто бы занимался программированием, поэтому у меня не было группы или клуба, где я мог бы это делать. Так продолжалось до тех пор, пока я не пошел в школу-интернат, а затем в колледж, где действительно смог встретиться с людьми, которые занимались тем же, что и я. И теперь я думаю, что с приходом Интернета положение дел начинает меняться, и теперь у вас есть возможность не просто привязываться к вашему физическому местоположению, но и находить в Интернете людей, которые имеют больше совместных интересов, относятся к определенным субкультурам и группам”, – заявил он.
This week I talked with Yuval Noah Harari as part of my series of discussions on the future of technology and society. He’s a historian and author of Sapiens, Homo Deus, and 21 Lessons For the 21st Century. Many historians focus on the past but Yuval has a unique perspective on how technology will shape the future, and that’s what we spent most of our time on. We discussed things like whether the internet is connecting or fragmenting society, the different ways artificial intelligence could be developed, how algorithms will continue to impact people’s lives, and why it is so important that we don’t store sensitive data in countries with weak rule of law or where governments can forcibly get access to that data. Thanks Yuval for such a memorable conversation. I’ve included a transcript of a few of my thoughts below, lightly edited for clarity: Minute 39:27: When I look towards the future, one of the things that I just get very worried about is the values that I just laid out [for the internet and data] are not values that all countries share. And when you get into some of the more authoritarian countries and their data policies, they’re very different from the kind of regulatory frameworks that across Europe and across a lot of other places, people are talking about or put into place. Recently I’ve come out and I’ve been very vocal that I think that more countries should adopt a privacy framework like GDPR in Europe. And a lot of people I think have been confused about this. They’re like, “Why are you arguing for more privacy regulation? Why now given that in the past you weren’t as positive on it?” And I think part of the reason why I am so focused on this now is at this point people around the world recognize these questions around data and AI and technology are important, so there’s going to be a [regulatory] framework in every country. I actually think the bigger question is what is it going to be? And the most likely alternative to each country adopting something that encodes the freedoms and rights of something like GDPR, in my mind, is the authoritarian model, which is currently being spread, which says every company needs to store everyone’s data locally in data centers and then, if I’m a government, I can send my military there and get access to whatever data I want and take that for surveillance or military. I just think that that’s a really bad future. And that’s not the direction, as someone who’s building one of these internet services, or just as a citizen of the world, I want to see the world going. — In response to Yuval playing devil’s advocate and asking about non-authoritarian governments adopting data localization policies… Minute 45:53: I think someone with good intent might argue, “Hey, maybe a different set of data policies is something that we should consider.” The thing that I worry about, and what we’ve seen, is that once a country puts that in place, it’s a precedent that a lot of other countries that might be more authoritarian use to basically argue that they should do the same things and then that spreads. And I think that’s bad. And that’s one of the things that as the person running this company, I’m quite committed to making sure that we play our part in pushing back on that and keeping the internet as one platform. One of the most important decisions that I think I get to make as the person running this company, is where we’re going to build our data centers and store data. And we’ve made the decision that we’re not going to put data centers in countries that we think have weak rule of law, where people’s data may be improperly accessed which could put people in harm’s way. There have been a lot of questions around the world around censorship and I think that those are really serious and important. A lot of the reason why we build what we build is because I care about giving everyone a voice, giving people as much voice as possible, so I don’t want people to be censored. At some level, these questions around data and how it’s used and whether authoritarian governments get access to it I think are even more sensitive because, if you can’t say something that you want, that is highly problematic, that violates your human rights. I think in a lot of cases it stops progress. But if a government can get access to your data, then it can identify who you are and go lock you up and hurt you and your family and cause real physical harm in ways that are just really deep. So I do think that people running these companies have an obligation to try to push back on that and fight establishing precedents which will be harmful. Even if a lot of the initial countries that are talking about some of this have good intent, I think that this can easily go off the rails. And when you talk about in the future AI and data, which are two concepts that are just really tied together, I think the values where they come from and whether they’re part of a more global system, a more democratic process, a more open process — that’s one of our best hopes for having this work out well. If it comes from repressive or authoritarian countries, then I just think that that’s going to be highly problematic in a lot of ways.
Опубліковано Mark Zuckerberg Пʼятниця, 26 квітня 2019 р.
О РЕАЛЬНОЙ ЖИЗНИ И ИНТЕРНЕТЕ
Цукерберг при этом выразил мнение, что многие люди в современном мире “еще не нашли свое новое сообщество” и “чувствуют себя потерянными”.
На это Харари парировал, что интернет-сообщества “все еще не способны заменить физические сообщества”.
ЧИТАЙТЕ ТАКЖЕ: Большинство людей не осознают, что происходит: речь израильского историка в Давосе
“Частью логики традиционных сообществ было то, что вы должны научиться ладить с людьми, которые вам, возможно, не нравятся, и вы должны разработать социальные механизмы, как это сделать. Что касается онлайн-сообществ, я считаю, что они внедрили некоторые действительно замечательные новшества для людей, но они также не дают нам опыта делать эти сложные, но важные вещи (умение находить язык с другими людьми в реальной жизни, – ред.)”, – подчеркнул он.
По словам историка, один из ключевых вопросов состоит в том, что на самом деле Интернет и соцсети (в том числе Facebook) делают с людьми: объединяют или наоборот разобщают.
“Да, и я определенно не хочу утверждать, что онлайн-сообщества могут заменить все, что делали физические сообщества… Возможно, первоначальная организация людей может происходить онлайн, но они в дальнейшем собираются вместе физически, потому что это действительно важно для отношений, потому что мы физические существа, верно?” – заявил, комментируя это, глава Facebook.
О ГЛОБАЛЬНОМ СОТРУДНИЧЕСТВЕ И ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ
Харари выразил уверенность, что сейчас человечеству как никогда необходимо глобальное сотрудничество для решения беспрецедентных проблем.
“Нам нужно глобальное сотрудничество как никогда, потому что мы сталкиваемся с беспрецедентными глобальными проблемами. У нас недавно был День Земли, и мы не можем решать проблемы окружающей среды, изменения климата никаким другим способом, кроме как посредством глобального сотрудничества. Это же касается и возможного сбоя, вызванного новыми технологиями, такими как искусственный интеллект. Нам нужно найти механизм для глобального сотрудничества по таким вопросам, как, например, предотвращение гонки вооружений с использованием ИИ, предотвращение попыток разных стран создать автономные системы оружия, роботов-убийц… Если у нас нет глобального сотрудничества, мы не сможем остановить это, потому что каждая страна скажет: “Ну, мы не хотим производить робота-убийцу – это плохая идея, но мы не можем позволить нашим конкурентам сделать это”, – рассказал Харари.
ЧИТАЙТЕ ТАКЖЕ: Вдохновляющая речь израильского историка в Давосе: опубликовано видео
По словам историка, это же касается и влияния искусственного интеллекта на экономическую сферу.
“Точно так же обстоят дела, если мы говорим о потенциальных сдвигах на рынке труда и в экономике, вызванных искусственным интеллектом и автоматизацией. Совершенно очевидно, что в будущем будут рабочие места, но будут ли они равномерно распределены между различными частями мира? Одним из потенциальных результатов революции ИИ может быть концентрация огромного богатства в одной части мира и полное банкротство в других частях. В Калифорнии будет много новых рабочих мест для разработчиков программного обеспечения, но, возможно, не будет рабочих мест для работников текстильной промышленности и водителей грузовиков в Гондурасе и Мексике. Так что они будут делать? Если мы не найдем решения на глобальном уровне, такого как создание мировой системы безопасности для защиты людей от потрясений, вызванных развитием ИИ, то мы создадим самую неравную экономическую ситуацию, которая когда-либо существовала. Это будет намного хуже, чем то, что произошло во время промышленной революции, когда некоторые страны индустриализировались – большинство стран этого не сделали – и немногие промышленные державы продолжали завоевывать, доминировать и эксплуатировать все остальные. Итак, как нам создать достаточно глобальное сотрудничество, чтобы огромные преимущества ИИ и автоматизации не распространялись, скажем, только на Калифорнию и Восточный Китай, в то время как остальной мир останется далеко позади”, – объяснил Харари.
Еще одна проблема, по его словам, – это то, что искусственный интеллект может в будущем манипулировать человеком.
ЧИТАЙТЕ ТАКЖЕ: Стало известно, чему следует учиться, чтобы не оказаться во власти технологий
“Есть искусственный интеллект, который знает меня лучше, чем я сам, и может принять решения за меня, предсказать мой выбор, манипулировать моим выбором, и авторитет все больше смещается от людей к алгоритмам. Поэтому не только решения о том, какой фильм смотреть, но даже решения о том, к какому сообществу присоединиться, с кем подружиться, с кем жениться, будут все больше зависеть от рекомендаций ИИ”, – объяснил историк.
Цукерберг с ним в этом согласился, но, в то же время, отметил, что с искусственным интеллектом во многом связан технический прогресс.
“Почти каждый технологический продукт каким-то образом улучшается с помощью ИИ. Так что искусственный интеллект не является монолитной вещью. Он приводит в движение много продуктов, и это большой экономический прогресс”, – заявил он.
В ответ на это Харари спросил, “есть ли у таких стран, как Гондурас, Украина, Йемен, реальный шанс присоединиться к гонке ИИ”, и что будет с такими странами “через 20 или 50 лет”.
Цукерберг же выразил мнение, что компании, занимающиеся разработкой технологий искусственного интеллекта, должны иметь представителей в той или иной стране, и весь этот процесс должен быть открытым.
“В будущем все компании, занимающиеся ИИ, окажутся в той или иной небольшой стране… Я думаю, мы хотим, чтобы будущее было открытым. Мы хотим, чтобы исследования были открытыми. Мы хотим, чтобы Интернет стал платформой для этого. Я думаю, что один из больших рисков в будущем заключается в том, что политика в отношении Интернета в каждой стране выглядит по-разному и является фрагментированной. В связи с этим я полагаю, что у предпринимателей в тех странах, о которых вы говорите, в Гондурасе, например, не так много шансов, если они не смогут использовать все достижения, которые происходят везде. Но если Интернет будет единым, а исследования открытыми, то я думаю, что у них гораздо лучший шанс”, – объяснил свою позицию глава Facebook.
О ХРАНЕНИИ ДАННЫХ
Цукерберг напомнил, что в Facebook приняли решение не хранить данные в странах со слабым соблюдением прав человека.
ЧИТАЙТЕ ТАКЖЕ: Миру нужен постлиберальный порядок, – Юваль Ной Харари
“Одним из наиболее важных решений, которые я принимаю как человек, управляющий этой компанией, является то, где мы собираемся строить свои центры обработки данных и хранить данные. И мы приняли решение, что не будем размещать центры обработки данных в тех странах, которые, по нашему мнению, являются слабыми правовыми государствами, в которых доступ к данным людей может быть неправомерно получен, и это может навредить людям… Я забочусь о том, чтобы дать каждому голос, дать людям как можно большее право голоса, поэтому я не хочу, чтобы люди подвергались цензуре. На каком-то уровне эти вопросы, касающиеся данных и того, как они используются и получают ли авторитарные правительства доступ к ним, я думаю, очень чувствительны. Потому что, если вы не можете сказать то, что хотите, это очень проблематично. Это нарушает ваши права. Я думаю, что во многих случаях это останавливает прогресс. Если правительство может получить доступ к вашим данным, то оно может определить, кто вы, и посадить вас в тюрьму, причинить вам вред, причинить вред вашей семье. Поэтому я считаю, что люди, управляющие такими компаниями, обязаны попытаться бороться с созданием прецедентов, которые будут наносить вред”, – подчеркнул он.
О ТЕХНОЛОГИЯХ И МАНИПУЛЯЦИИ
В ходе разговора Харари выразил мнение, что новые технологии, в частности искусственный интеллект, могут быть “инструментом наблюдения, манипулирования и контроля”.
“Каждая технология может использоваться по-разному, хорошо или плохо. Вы можете использовать радио, чтобы транслировать музыку людям, и вы можете использовать радио, чтобы транслировать Гитлера, произносящего речь для миллионов немцев. Радио несет только то, что вы вложили в него… Дело не только в том, что мы изобретаем технологию, а затем у нас есть хорошие демократические страны и плохие авторитарные страны, а вопрос в том, что они будут делать с технологией. Сама технология может изменить баланс сил между демократической и тоталитарной системами. И я боюсь, что новые технологии дают неотъемлемое преимущество тоталитарным режимам. Потому что самая большая проблема тоталитарных режимов в 20-м веке, которая в конечном итоге привела к их падению, заключалась в том, что они не могли обрабатывать информацию достаточно эффективно”, – разъяснил он.
О ДЕМОКРАТИИ
Глава Facebook выразил мнение, что сейчас мир намного более демократичен, чем ранее.
“Я на самом деле думаю, что мир сейчас значительно более демократичен, чем это было в прошлом. Сегодня все больше и больше людей получают право голоса, все больше людей имеют доступ к информации… Я уверен, что мы живем в самое демократичное время”, – заявил он.
Харари, в свою очередь, обратил внимание на проблему манипуляции мнениями.
“Я согласен с тем, что все больше людей имеют право голоса, как в США, так и во всем мире. Меня беспокоит то, насколько мы можем доверять голосу людей – насколько я могу доверять своему голосу. В какой степени вы действительно можете поверить, что мысль, только что возникшая у вас в голове, является результатом свободной воли, а не итогом чрезвычайно мощного алгоритма, который понимает, что происходит внутри вас, и знает, как нажимать кнопки и рычаги, или же служит какой-то внешней сущности, и она посеяла эту мысль или это желание, которое мы сейчас выражаем?” – задал историк риторический вопрос.
Ранее журналистка издания The Guardian Кэрол Кадволладер (Carole Cadwalladr), которая ранее пролила свет на скандал с Cambridge Analytica, потребовала от технических гигантов Facebook и Twitter ответов по поводу политической рекламы и влияния на выборы по всему миру.
В ноябре прошлого года издание The New York Times опубликовало материал о подноготной расследования вмешательства России в американские президентские выборы 2016-го года через Facebook. Для этого журналисты взяли интервью у 50 людей, которые присутствовали на переговорах или осведомлены о внутренних делах компании. #Буквы сделали сокращенный адаптированный перевод материала.