Kitobni o'qish: «Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта. Юваль Ной Харари. Саммари»

Оригинальное название:

Nexus: a Brief History of Information Networks from the Stone Age to Al

Название на русском языке:

Nexus: Краткая история информационных сетей от каменного века до искусственного интеллекта

Автор:

Yuval Noah Harari

Юваль Ной Харари

Автор краткого изложения:

Виталий Фёдоров

* * *

*****

Мы, люди, называем свой биологический вид Homo sapiens – человек разумный. Но насколько мы соответствуем этому определению? Люди обрели небывалое могущество, но сила – это еще не мудрость, и человечество по-прежнему не может объединиться перед лицом экзистенциального кризиса. Если мы, сапиенсы, такие разумные, то почему мы так склонны к саморазрушению? Этими и другими вопросами задается в своей новой книге историк Юваль Ной Харари, приглашая читателя поразмышлять вместе с ним.

На протяжении всей истории во многих традициях считалось, что некий фатальный изъян в человеческой природе побуждает людей тянуться к силам, с которыми они неспособны совладать. Этой проблеме посвящен греческий миф о Фаэтоне, который, несмотря на предостережения Гелиоса, взялся управлять небесной колесницей, но не справился и едва не уничтожил Землю. О том же повествует стихотворение-притча Гёте «Ученик чародея»: о подмастерье, который заколдовал веник, чтобы упростить себе работу, а тот устроил потоп в мастерской. Эти истории напоминают о том, что люди игнорируют предостережения. Они уже вывели из равновесия земной климат и призвали миллиарды заколдованных веников, дронов, чат-ботов и других алгоритмических духов, которые могут выйти из-под контроля и вызвать множество непредвиденных последствий.

Что же делать? Ждать спасения со стороны бога или колдуна. Мифы и притчи не дают иного ответа. Но это опасный посыл: он побуждает людей снимать с себя ответственность. Тенденция к созданию мощных инструментов с непредсказуемыми последствиями началась с изобретения религии. Пророки и богословы раз за разом вызывали могущественных духов, которые должны были принести любовь и радость, но в итоге заливали мир кровью.

Миф о Фаэтоне и стихотворение Гёте не дают полезных советов, поскольку в них неверно интерпретируется сама природа человеческого могущества. В обеих историях некий человек получает огромную силу, но затем поддается гордыне и жадности. Однако в реальности могущество всегда проистекает из сотрудничества множества людей, а значит, проблема не в индивидуальной психологии. Человечество получает огромную силу за счет создания крупных сетей сотрудничества, но сам принцип выстраивания этих сетей предрасполагает к неразумному использованию силы. Таким образом, проблема человечества – это проблема сетей.

Точнее, это проблема информации: ведь именно информация «склеивает» человеческие сети. На протяжении всей истории люди создавали обширные сети с помощью вымышленных историй – о богах, заколдованных вениках, искусственном интеллекте и тому подобном. Хотя каждый индивид обычно предпочитает знать правду о себе и о мире, крупные сети объединяют людей и поддерживают порядок, опираясь на выдумки и фантазии.

Не стоит пребывать в уверенности, что сети, выстроенные на ложных идеях вроде нацизма, обречены на провал. Если мы хотим предотвратить триумф подобных сетей, нам придется самим проделать тяжелую работу.

Наивный взгляд на информацию

Общее непонимание того, как работают крупные информационные сети, выражается в том, что автор называет «наивным взглядом на информацию». Согласно наивному взгляду, собирая и обрабатывая гораздо больше информации, чем могут получить отдельные люди, крупные сети достигают лучшего понимания многих областей. Например, собрав большой объем данных о патогенах, можно выявить причины заболеваний и разработать эффективные лекарства. Информация в достаточном объеме ведет к истине, а истина ведет к могуществу и мудрости. Невежество же не ведет ни к чему. Согласно наивному взгляду, сети, выстроенные на лжи и иллюзиях, – отклонения от нормы, они обречены на провал. Фармацевтический гигант, намеренно распространяющий дезинформацию, проиграет более честным конкурентам. А от крупных сетей в целом можно ожидать мудрого распоряжения своим могуществом и властью.

Конечно, сторонники наивного взгляда признают, что на пути к истине случаются ошибки в сборе и обработке информации. Однако они считают, что противоядием от большинства таких проблем будет сбор и обработка еще большего объема информации. Одному врачу, обследующему одного пациента, определить причину эпидемии труднее, чем тысячам врачей, обладающим данными о миллионах пациентов. И чем больше информационная сеть, тем ближе она к истине.

Но даже обретение истины не гарантирует, что люди мудро распорядятся новыми возможностями. Под мудростью обычно понимают «принятие правильных решений», но представление о «правильности» зависит от ценностей, которые бывают разными. Ученые, открывшие новый патоген, могут разработать вакцину – или биологическое оружие, если они уверуют, например, в расистскую идеологию. Согласно наивному взгляду, в этом случае дополнительная информация тоже поможет решить проблему, ведь ценностные разногласия – следствие либо нехватки информации, либо намеренной дезинформации. Расисты – это плохо информированные люди, которые не знают фактов из биологии и истории. Если ознакомить людей с этими фактами, на свободном рынке информации истина рано или поздно восторжествует.

В целом, по мнению сторонников наивного взгляда, информация полезна, и чем ее больше, тем лучше. Имея достаточно информации и времени, люди обязательно узнают правду о самых разных вещах и тем самым разовьют не только свое могущество, но и мудрость, необходимую для того, чтобы правильно его использовать.

Наивный взгляд оправдывает стремление к созданию мощных информационных технологий и стал полуофициальной идеологией компьютерного века и интернета. Политики и предприниматели часто высказывают радужные взгляды на информационные технологии. Наивный взгляд на информацию весьма точно выражен в заявлении о миссии Google: «Систематизировать информацию по всему миру и сделать ее общедоступной и полезной».

Google против Гёте

Да, обладание большим объемом информации нередко помогало людям лучше понимать мир и мудро использовать свои возможности. В качестве примера автор приводит резкое снижение детской смертности. Пяти братьям и сестрам Иоганна Вольфганга Гёте не удалось дожить даже до своего седьмого дня рождения. У самого поэта было пятеро детей, из которых все, кроме старшего сына, умерли в первые недели после рождения. Если во времена Гёте лишь около 50 % немецких детей доживали до пятнадцати лет, то к 2020 году этот показатель в Германии достиг 99,5 % (в среднем по всему миру до пятнадцатилетия доживает 95,6 % детей).

Однако, несмотря на небывалый рост объема и скорости производства информации, человечество как никогда близко к самоуничтожению. Лидеры не испытывают дефицита информации о глобальных угрозах, но вместо сотрудничества движутся к глобальной войне. Корпорации и правительства наперегонки разрабатывают самую мощную информационную технологию в истории – искусственный интеллект (ИИ). Одни верят, что ИИ решит все проблемы человечества. Другие настроены скептически. В опросе, проведенном в 2023 году среди 2778 исследователей ИИ, более трети респондентов говорили о по меньшей мере 10-процентной вероятности того, что продвинутый ИИ приведет к вымиранию человечества. Эту опасность признали правительства почти тридцати стран, подписав Блетчлийскую декларацию по ИИ. Эксперты предупреждают о двух возможных катастрофических сценариях. Первый сценарий – гонка вооружений на базе ИИ и разработка все более разрушительного оружия. Второй – появление тоталитарной сети, управляемой нечеловеческим интеллектом.

Важно помнить, что ИИ – первая технология, способная самостоятельно принимать решения и генерировать идеи. ИИ уже создает произведения искусства и совершает научные открытия, а в ближайшем будущем, вероятно, научится создавать новые формы жизни. Уже сегодня компьютеры принимают касающиеся людей решения о приеме на работу, выдаче кредитов и отправке в тюрьму, и эта тенденция будет только усиливаться. Но рассчитывать на то, что компьютерные алгоритмы будут принимать мудрые решения и создадут лучший мир, гораздо более рискованно, чем доверить заколдованному венику принести воды. И на кону не только выживание человечества: ИИ может изменить процесс эволюции всех форм жизни.

Информация как оружие

В 2016 году в своей книге Homo Deus автор рассказал о некоторых угрозах, связанных с новыми информационными технологиями. За восемь лет темпы изменений только ускорились, и многие из сценариев, казавшихся в 2016 году научной фантастикой, уже стали реальностью.

Изменилось и многое другое: усугубился экологический кризис, обострилась международная напряженность, даже самые устойчивые демократии пошатнула волна популизма. Помимо прочего, популизм бросил вызов наивному взгляду на информацию. Популистские движения, их лидеры и сторонники теорий заговора утверждают, что все авторитетные традиционные институты, претендующие на сбор информации и выяснение истины, попросту лгут. Чиновники, судьи, врачи, журналисты и ученые-эксперты – всего лишь элитарные группировки, которые не заинтересованы в правде и намеренно распространяют дезинформацию, чтобы получить власть и привилегии для себя за счет «народа». Если коротко, популисты рассматривают информацию как оружие.

В своих крайних проявлениях популизм гласит, что объективной истины вообще не существует и что у каждого есть «своя правда», к которой он прибегает для победы над соперниками. Почти любой разговор о «фактах» или «правде» неизбежно прерывается вопросом: «Чьи факты и чью правду вы имеете в виду?»

Это не новое явление. Еще в конце ХХ века радикальные левые интеллектуалы, такие как Мишель Фуко и Эдвард Саид, утверждали, что научные институты используют свою власть для определения того, что считать истиной, в угоду капиталистическим и колониальным элитам.

Это направление радикальной левой мысли восходит к идеям Карла Маркса. Но если марксисты утверждали, что СМИ выступают рупором капиталистического класса, а научные институты распространяют дезинформацию с целью укрепления власти капиталистов, то популисты обвиняют те же институты в продвижении интересов «коррумпированных элит» в ущерб «простому народу».

Современные популисты призывают не доверять крупным институтам вроде партий, судов, газет и университетов, но при этом утверждают, что отдельно взятый человек, приложив усилия, способен самостоятельно докопаться до истины. Доверие исключительно к «собственным исследованиям» только выглядит научным, но на деле оно равносильно вере в отсутствие объективной истины. Наука же – это в большей степени совместная институциональная работа, а не индивидуальный поиск.

Альтернативное популистское решение состоит в том, чтобы отказаться от научного поиска истины и вернуться к вере в божественное откровение или к мистицизму. В частности, популисты призывают людей доверять своему харизматичному лидеру, которого изображают либо как божьего посланника, либо как человека, обладающего мистической связью с «народом». Парадокс популизма в том, что он начинается с предупреждения о жажде власти, которой охвачены элиты, а заканчивается тем, что вся власть переходит в руки одного амбициозного человека.

Чтобы не уступать власть харизматичному лидеру или непостижимому ИИ, нужно лучше разобраться в том, что такое информация, как она помогает создавать человеческие сети и как соотносится с истиной и властью. По мнению автора, популисты правы в том, что скептически относятся к наивному взгляду на информацию, но ошибаются, полагая, что только власть имеет значение, а информация – это всегда оружие. Информация – не истина в сыром виде, но и не просто оружие.

Что дальше?

В первой части этой книги описана история человеческих информационных сетей: на нескольких примерах рассматриваются ключевые дилеммы, с которыми сталкивались создатели сетей, и то, как разные решения приводили к созданию антагонистичных обществ. Идеологические и политические конфликты, по сути, часто представляют собой столкновения противоположных типов информационных сетей.

Для создания масштабных человеческих информационных сетей необходимы мифология и бюрократия. Однако мифотворцы и бюрократы, как правило, движутся в разных направлениях, и облик институтов и обществ зачастую зависит от баланса между их противоречивыми потребностями.

Анализируя проблему ложной информации, а также преимущества и недостатки использования механизмов самокоррекции, автор противопоставляет институты со слабыми механизмами самокоррекции, такие как католическая церковь, институтам с сильными механизмами самокоррекции, таким как научные дисциплины.

Исторический экскурс завершается сравнением распределенных и централизованных информационных сетей. Если в демократической системе информация свободно передается по множеству независимых каналов, то тоталитарная система стремится сконцентрировать информацию в одном узле.

Историческая часть книги важна для понимания современных событий и будущих сценариев. Автор подчеркивает, что история не детерминирована и будущее зависит от решений, которые человечество примет в ближайшие годы. Основной посыл книги в том, что, делая осознанный выбор, можно предотвратить худшие последствия.

Во второй части рассматривается информационная сеть, которую люди создают сегодня, и особое внимание уделяется политическим последствиям развития ИИ. Новая информационная сеть не полагается на углеродный мозг. Как это изменит общество, экономику и политику?

В третьей части автор рассуждает о том, как разные типы обществ могут справиться с перспективами и угрозами неорганической информационной сети. Сумеет ли человек понять новую информационную сеть и контролировать ее? Как справятся с неорганической сетью демократические и тоталитарные системы? Как она повлияет на баланс сил между демократическими и тоталитарными обществами на глобальном уровне?

Часть I
Человеческие сети

Глава 1
Что такое информация?

Ученые из разных областей все чаще рассматривают информацию как базовый строительный материал реальности, более элементарный, чем материя и энергия. Ведутся споры о том, что такое информация и как она связана с биологической эволюцией и с основными физическими концепциями. Автор не пытается разрешить эти споры, а фокусируется на роли информации в истории и определяет ее через эту роль.

В обиходе информация ассоциируется с созданными человеком символами, такими как звучащие или написанные слова. Автор приводит историю о голубе Шер Ами, который спас в октябре 1918 года американский батальон, оказавшийся в ловушке в тылу врага и попавший под дружественный огонь: командир написал на клочке бумаги координаты батальона, и голубь доставил сообщение в штаб дивизии.

Однако информация не всегда состоит из символов, созданных человеком. В библейском мифе о Всемирном потопе Ной узнал, что вода отступила, когда выпущенный им голубь вернулся с оливковой ветвью. Затем Бог продемонстрировал радугу – в знак обещания больше не затоплять землю. Информацию могут нести даже космические объекты: астрономы извлекают из формы и движения галактик важнейшие сведения об истории вселенной, а для астрологов звезды – это письмена, рассказывающие о будущем.

Любой объект может быть информацией или не быть ею, поэтому очень трудно дать четкое определение информации. Двойственная суть информации сыграла важную роль в истории военного шпионажа. Автор рассказывает о еврейской шпионской сети НИЛИ и ее командире Саре Ааронсон, которые действовали на Ближнем Востоке в 1915–1917 годах и тоже использовали почтовых голубей. Одного такого голубя обнаружил офицер османской армии, и, хотя ему не удалось расшифровать сообщение, голубь с шифровкой уже сам по себе стал информацией, позволившей в итоге разоблачить шпионскую сеть.

Тот или иной объект становится информацией в определенном контексте. Согласно наивному взгляду на информацию, объекты определяются как информация в контексте поиска истины, а основная роль информации заключается в репрезентации реальности. Иными словами, информация – это попытка репрезентации реальности, и когда эта попытка успешна, ее называют истиной. Однако, по мнению автора, бóльшая часть информации в человеческом обществе и в других биологических и физических системах ничего не репрезентирует. Этот тезис составляет теоретическую основу книги, поэтому далее автор рассматривает его подробнее.

Что есть истина?

Автор понимает под «истиной» нечто в точности отражающее те или иные аспекты единой универсальной реальности. Но истина и реальность – это разные вещи, потому что, каким бы правдивым ни было сообщение, оно никогда не отразит реальность во всех ее аспектах. Например, если агент НИЛИ сообщил, что в Газе находится десять тысяч османских солдат, это сообщение может быть правдивым, но оно ничего не говорит о том, есть ли среди солдат опытные ветераны или только новобранцы.

Реальность сложна: она включает в себя объективный уровень с объективными фактами, которые не зависят от человеческих убеждений; и субъективный уровень с субъективными фактами, такими как взгляды и чувства людей. Например, Сара Ааронсон умерла 9 октября 1917 года – это объективный факт. Израильтяне склонны считать ее героиней и патриоткой – это тоже факт. Но еще один факт заключается в том, что палестинцы оценивают ее деятельность иначе, поэтому утверждение «все восхищаются Сарой Ааронсон» будет ошибкой, оно не соответствует действительности. Даже на субъективном уровне факты можно отличить от ошибок, поскольку взгляды и чувства – как и звезды и голуби – относятся к универсальной реальности.

Сказанное не означает, что для правдивого описания реальности необходимо перечислять абсолютно все факты и точки зрения. Автор предупреждает, что такое стремление к точности может привести к попытке представить мир в масштабе один к одному, как в рассказе Хорхе Луиса Борхеса «О точности в науке», где некая империя создала географическую карту размером с саму империю. Никакие, даже самые правдивые, описания реальности никогда не отразят ее в полной мере. Какие-то аспекты всегда будут упущены или искажены. Ни одно из описаний реальности не будет точным на сто процентов, но некоторые все же более правдивы, чем другие.

На что способна информация

Согласно наивному взгляду, информация – это попытка репрезентации реальности. Если какая-то информация плохо отражает реальность, то это либо мизинформация (честное заблуждение), либо дезинформация (намеренная ложь). А проблемы, вызванные мизинформацией или дезинформацией, решаются путем получения большего количества информации. С увеличением объема информации в мире эпизодическая ложь будет разоблачена, случайные ошибки исправлены, и люди получат более правдивое представление о мире.

В этом автор категорически не согласен с наивным взглядом. Конечно, информация нередко репрезентирует реальность, но это не является определяющим признаком информации. Говоря о космических объектах как об информации, автор не случайно упомянул наряду с астрономами еще и астрологов: что бы кто ни думал по поводу точности астрологии, нельзя отрицать ее важную роль в истории. Во все времена многие политики консультировались с астрологами перед принятием решений, а сегодня мировой астрологический рынок оценивается примерно в 13 млрд долларов. Если теория информации неспособна объяснить важное историческое значение астрологии, то такая теория несостоятельна.

Ошибки, ложь, фантазии и фикции – тоже информация. Вопреки наивному взгляду, информация не имеет сущностной связи с истиной и ее роль в истории заключается не в том, чтобы отражать реальность. Напротив, информация создает новые сущности, связывая воедино разрозненные объекты – будь то люди или империи. Ее определяющим признаком является связь, а не репрезентация; информация – это то, что объединяет разрозненные единицы в общую сеть. Информация не всегда информирует людей о чем-то – чаще она упорядочивает вещи. В качестве примера автор приводит музыку, которая ничего не репрезентирует и не может быть «правдивой» или «ложной», но способна объединять тысячи людей и заставлять их действовать синхронно.

Информация выполняет связующую роль не только в человеческих обществах, но и в биологии. Например, ДНК – это молекулярная информация, которая делает возможной органическую жизнь. Она не репрезентирует реальность, а запускает процессы, которые создают действующую сеть из триллионов клеток всего организма. Так называемые «ошибки» в ДНК относятся к мутациям в процессе ее копирования, а не к неспособности отразить реальность. Без таких мутаций не было бы эволюции: она возможна как раз потому, что ДНК не репрезентирует реальность, а создает новые сущности.

Определение информации как того, что создает новые сущности, соединяя элементы в единую сеть, включает и представление об информации как о репрезентации. Иногда правдивое представление реальности объединяет людей, как это было, например, когда миллионы телезрителей с восторгом смотрели в прямом эфире высадку на Луну. Но ошибочные представления о мире тоже могут объединять – так, сторонники теории заговора испытывают общие чувства, когда смотрят видео о том, что высадки на Луну никогда не было. А иногда сети образуются вообще без каких-либо попыток представить реальность – как, например, когда генетическая информация связывает триллионы клеток или когда волнующая музыка объединяет тысячи людей.

Информация в истории человечества

Взгляд на информацию как на социальные узы помогает понять многие аспекты человеческой истории, которые противоречат наивному представлению об информации. Если бы главной функцией информации была точная репрезентация реальности, было бы трудно объяснить, например, почему Библия стала одним из самых влиятельных текстов в истории.

Библия содержит массу ошибок: в частности, в ней утверждается, что все люди происходят от одной семьи, жившей на Ближнем Востоке около 4000 лет назад, а эпидемии рассматриваются как наказание за человеческие грехи. И все же Библия оказалась эффективным средством для объединения миллиардов людей и создания иудаизма и христианства.

Иногда информация отражает реальность, а иногда нет, но она всегда объединяет: таково ее базовое свойство. Автор подчеркивает, что отказ от наивного взгляда на информацию как на репрезентацию реальности не заставляет людей отказываться от понятия истины и склоняться к популистскому взгляду на информацию как на оружие.

Было бы ошибкой следовать наивному взгляду и верить, что создание более мощных информационных технологий непременно приведет к более правдивому пониманию мира. Если не принимать никаких мер, чтобы склонить чашу весов в пользу истины, увеличение объема и скорости распространения информации, скорее всего, приведет к тому, что относительно редкие и дорогие правдивые сообщения будут вытеснены гораздо более популярными и дешевыми типами информации.

На протяжении истории человечества возможности для связи, объединения и взаимодействия постоянно расширялись, но правдивости и мудрости не становилось больше. Вопреки распространенному мнению, Homo sapiens завоевали мир не потому, что умеют превращать информацию в точную карту реальности, а потому, что умеют использовать информацию для объединения большого числа людей. Но эта способность сопряжена с верой в ложь, заблуждения и фантазии. Вот почему даже массовые иллюзии помогали заставить шагать в ногу десятки миллионов людей.

Далее автор более подробно рассматривает историю информационных сетей и информационных технологий. И начинает он с первой информационной технологии, созданной людьми: с историй.

Глава 2
Истории: безграничные связи

Homo sapiens – единственные животные, способные гибко взаимодействовать в больших количествах. Ни шимпанзе, ни муравьи не создают империи, религиозные организации и торговые сети, объединяющие миллиарды особей. Однако масштабные сети не могут строиться только на личных отношениях, поскольку отдельно взятый человек способен поддерживать долгие тесные связи не более чем с парой сотен других людей. Для создания и поддержания крупных сетей нужно кое-что другое.

Еще около 70 тысяч лет назад сапиенсы начали проявлять небывалую способность к сотрудничеству. Дело в том, что они научились рассказывать вымышленные истории, верить в них и эмоционально на них реагировать. Истории позволили им выстраивать сети не только из цепочек «человек – человек», но и из цепочек совершенно нового типа: «человек – история». Можно объединить неограниченное число людей, познакомив их с одной и той же историей. Например, 1,4 млрд католиков объединены Библией и другими христианскими историями, а 8 млрд участников глобальной торговой сети объединены историями о валютах, корпорациях и брендах.

Даже харизматичные лидеры, имеющие миллионы сторонников, – не исключение из правила, а его подтверждение: ведь людей объединяет не сам лидер, а тщательно придуманная история о нем. Целые команды профессионалов создают и поддерживают в аккаунтах знаменитостей и влиятельных персон то, что сегодня называют брендом.

«Бренд» – это особый тип истории. Брендировать продукт – значит рассказывать о нем историю, которая может иметь мало общего с его реальными качествами, но которую потребители привыкнут ассоциировать с продуктом. Благодаря таким историям кока-кола ассоциируется у многих с весельем и молодостью, а не с ожирением и кариесом.

Брендировать можно не только товары, но и людей. Самый яркий пример – Иисус. За два тысячелетия вокруг него сформировался такой плотный кокон историй, что восстановить его историческую личность попросту невозможно. Подобные истории можно рассматривать как средство укрепления существующих биологических связей. Самые прочные человеческие узы – это семейные узы. Чтобы укрепить доверие между незнакомцами, можно заставить их воспринимать друг друга как членов одной семьи. История об Иисусе представляет его в образе небесного отца всех людей, а потому сотни миллионов христиан видят друг в друге братьев и сестер. Большинство христиан не присутствовало на Тайной вечере, но «помнят» ее более ярко, чем свои семейные обеды.

В иудейской традиции главная цель пасхальной трапезы – создать и закрепить искусственные воспоминания. Еврейские семьи собираются накануне Песаха, чтобы вспомнить о «своем» исходе из Египта: предполагается, что они не только рассказывают давнюю историю, но и вспоминают, как сами лично спаслись от рабства. Исследования показывают, что многократный пересказ ложных воспоминаний заставляет людей принимать их за подлинные. Два еврея при первой же встрече могут ощутить свою принадлежность к одной семье. Это мощная связь, которая веками поддерживает еврейскую сеть на разных континентах.

Интерсубъективные сущности

Есть и более революционный способ создания сетей на основе историй. Подобно ДНК, истории способны порождать совершенно новые сущности. Более того, они создают совершенно новый уровень реальности. До появления историй вселенная состояла всего из двух уровней реальности, объективной и субъективной, а истории добавили к ним третий уровень – интерсубъективную реальность. Если субъективные вещи, такие как боль, существуют в сознании отдельного человека, то интерсубъективные вещи, такие как законы, государства и корпорации, существуют на переплетении множества сознаний, а именно – в историях, которые люди рассказывают друг другу. Информация об интерсубъективных сущностях, которой люди обмениваются, ничего не репрезентирует; сам обмен информацией порождает эти сущности.

Рассказ о боли не создает боль, а рассказ об астероидах не создает астероиды. Но когда множество людей рассказывают друг другу истории о богах, законах и валютах, тем самым они создают богов, законы и валюты. Если люди перестанут о них говорить, все это исчезнет. Энергетическая ценность пиццы не зависит от убеждений покупателя, а вот ее финансовая ценность, как и ценность денег, зависит от них полностью. В 2010 году за 10 биткоинов можно было купить две пиццы, а в 2021 году один биткоин стоил уже 69 тысяч долларов.

Вопрос о существовании лох-несского чудовища относится к объективному уровню реальности, а вопрос о существовании того или иного государства относится к интерсубъективному уровню. Если существование какого-либо животного можно подтвердить или опровергнуть объективными методами, то разногласия по поводу существования какого-либо государства так разрешить невозможно. Если достаточное число людей согласно с тем, что некое государство существует, значит, оно существует и вправе подписывать договоры с другими государствами.

Из всех жанров историй самыми важными для развития масштабных человеческих сетей стали именно те, которые создают интерсубъективные сущности. Ни одна религия или империя не протянула бы долго без твердой веры в существование бога, государства, законов или денег. Подобные интерсубъективные сущности чрезвычайно функциональны в рамках конкретной информационной сети, но совершенно бесполезны вне ее. Например, если миллиардер окажется на необитаемом острове, его деньги не будут стоить там ничего.

Сила историй

Насаждая ложные воспоминания, формируя вымышленные отношения или создавая интерсубъективные сущности, истории породили масштабные человеческие сети. Эти сети, в свою очередь, сделали Homo sapiens самым могущественным животным, дав ему решающее преимущество и перед другими древними человеческими видами.

Все отношения между крупными группами людей строятся на основе историй, поскольку именно истории определяют идентичность этих групп. Не существует объективных критериев для определения того, кто является британцем, американцем, норвежцем или иракцем; все эти идентичности формируются национальными и религиозными мифами, которые постоянно оспариваются и пересматриваются. Вопреки марксистской логике, по которой люди всегда руководствуются объективными материальными интересами, а истории служат лишь прикрытием, масштабные идентичности и интересы всегда интерсубъективны.

Это хорошо, считает автор. Если бы ход истории определялся исключительно материальными интересами и борьбой за власть, не было бы смысла дискутировать с несогласными. Но поскольку он определяется интерсубъективными историями, порой можно предотвратить конфликт и заключить мир, поговорив с оппонентами, скорректировав истории, в которые верят те или другие, или придумав новую историю, в которую поверят все.

Автор приводит пример со становлением нацизма, утверждая, что поддержка Гитлера была трагической ошибкой немцев и что они могли бы выбрать историю получше. Историей человечества часто движут трагические ошибки вследствие веры в заманчивые, но губительные истории.

Благородная ложь

Грандиозная роль историй указывает на некие фундаментальные основы могущества Homo sapiens и объясняет, почему оно не всегда идет рука об руку с мудростью. К сожалению, в реальном мире могущество лишь частично зависит от знания истины. Оно также зависит от способности поддерживать социальный порядок. Например, чтобы создать атомную бомбу, нужно заставить сотрудничать миллионы людей. В Манхэттенском проекте непосредственно участвовало около 130 тысяч человек, и еще миллионы работали, чтобы обеспечить их всем необходимым.

Сказанное относится ко всем амбициозным проектам, предпринимаемым людьми. Хотя могущество основывается и на истине, и на порядке, в большинстве случаев именно люди, умеющие поддерживать порядок, отдают приказы тем, кто обладает знанием некой истины. Роберт Оппенгеймер подчинялся Франклину Рузвельту, а не наоборот.

Лидеры знают, что рассказывать истину о мире – не самый эффективный способ поддерживать социальный порядок. Человеческие сети обычно выстраиваются вокруг вымышленных историй об интерсубъективных сущностях. В деле объединения людей вымысел обладает двумя преимуществами перед истиной. Во-первых, вымысел можно сделать максимально простым, в то время как истина обычно сложнее, потому что сложна сама реальность. Трудно уяснить, что национальная принадлежность, – интерсубъективная сущность. Гораздо легче поверить в то, что некий народ является богоизбранным и что сам Создатель поручил ему особую миссию. Во-вторых, истина бывает болезненной и страшной, а вымысел очень гибок. В истории любой страны есть мрачные эпизоды, о которых граждане не любят вспоминать, и если политик будет акцентировать на них внимание, он вряд ли наберет много голосов. Приверженность истине важна для научного прогресса, но это не выигрышная политическая стратегия.

Еще Платон в диалоге «Государство» писал о «благородной лжи» – вымышленной истории о происхождении социального порядка, которая обеспечит лояльность граждан утопическому государству и не позволит им подвергать сомнению основной закон. Хотя утопия Платона не воплотилась в жизнь, многочисленные государства веками рассказывали своим жителям разные вариации этой «благородной лжи».

Однако не стоит заключать, что все политики лжецы, а все истории государств – обман. Излагая вымышленную историю, рассказчик лжет лишь тогда, когда заявляет, что она правдиво отражает реальность. Но он не лжет, если признает, что всего лишь пытается создать новую интерсубъективную сущность. Так, подписанная в 1787 году Конституция США не раскрывала никакой истины о мире, но при этом она не была и ложью. В первых же строках ее авторы признали, что это юридическая фикция, созданная людьми. При этом Конституция США более двух столетий поддерживает порядок среди миллионов жителей страны.

«Порядок», отмечает автор, не следует путать со справедливостью или правосудием. Порядок, созданный Конституцией США, оправдывал рабство и другие формы неравенства. Но именно за счет признания самой себя юридической фикцией Конституция предусматривала механизмы исправления в ней ошибок. Так, менее чем через сто лет после создания Конституции тринадцатая поправка отменила рабство. Этим Конституция США принципиально отличается от историй, которые отрицают свою вымышленную природу и претендуют на божественное происхождение, таких как десять заповедей. В десятой заповеди говорится: «Не желай жены ближнего твоего, ни раба его, ни рабыни его», – то есть рабовладение в целом не осуждается. Но механизма внесения поправок в десять заповедей не предусмотрено.

Все политические системы основаны на фикциях, но одни признают это, а другие нет. Честность в отношении истоков социального порядка упрощает внесение в него изменений. Но признание его человеческого происхождения не помогает убедить всех с ним примириться. Поэтому для поддержания порядка разные правители веками заявляли, что основы социального уклада ниспосланы с небес. В начале XXI века многие политические системы все еще заявляют о своих надчеловеческих истоках и пресекают дискуссии, которые могут привести к нежелательным переменам.

Извечная дилемма

Осознавая ключевую роль вымысла в истории человечества, можно представить более полную модель информационных сетей, выходящую за рамки как наивного взгляда на информацию, так и его популистской критики. Информация не истина в сыром виде, но и не только оружие. Для выживания и процветания каждая человеческая информационная сеть должна одновременно делать две вещи: открывать истину и создавать порядок.

Накопление большого количества информации еще не гарантирует ни истины, ни порядка. Использовать информацию одновременно для выяснения истины и поддержания порядка очень сложно. К тому же порядок зачастую легче поддерживать с помощью вымысла. А вымышленные истории (как, например, религии) чаще отрицают свою фиктивную природу. В подобных случаях поиск истины угрожает основам социального порядка и государство может предпочесть порядок, ограничив поиск истины. Пример – теория эволюции Дарвина, которая расширяет знания о происхождении человека, но подрывает базовые мифы, на которых держится социальный порядок в целом ряде стран. Вот почему отдельные правительства запрещают или ограничивают ее преподавание.

Связанная с этим проблема заключается в том, что информационная сеть может поощрять людей к поиску истины лишь в отдельных областях, где это не угрожает социальному порядку. В результате получается очень мощная сеть, которой крайне не хватает мудрости. В нацистской Германии, например, поощрялось изучение химии, оптики, машиностроения и ракетостроения, но не разрешалось подвергать сомнению расистские теории. В итоге научные достижения были поставлены на службу безумной и кровожадной мифологии.

Вот почему история человеческих информационных сетей – не движение вперед, а хождение по канату в поиске баланса между истиной и порядком. И повышение скорости и эффективности информационных технологий не обязательно сделает мир лучше. Этот урок был преподан человечеству еще десятки тысяч лет назад, с появлением первых историй. И тот же урок был преподан снова, когда люди изобрели вторую информационную технологию – письменный документ.

Глава 3
Документы: хватка бумажных тигров

Истории заложили основу для масштабного сотрудничества и сделали людей самыми могущественными животными на земле. Но как информационная технология истории имеют свои недостатки. Чтобы их увидеть, автор предлагает задуматься о роли историй в формировании наций. Многие нации впервые возникли в воображении поэтов; например, первых сионистов вдохновляли Теодор Герцль и Хаим Нахман Бялик. Но украинский еврей Бялик и венгерский еврей Герцль хорошо знали о преследованиях евреев-ашкеназов в Восточной Европе и плохо представляли себе ситуацию в Палестине. Игнорируя демографические реалии, Бялик и Герцль придавали большое значение мифологии, прежде всего библейским историям, без которых немыслим современный сионизм. Кроме того, на них повлияли национальные мифы, созданные в XIX веке почти всеми этническими группами Европы. Герцль писал, что нации возникают «из мечты, песен, фантазий».

Но одних лишь песен и фантазий недостаточно для создания полноценного национального государства. Для обеспечения безопасности, образования, здравоохранения и сбора налогов нужно собирать, хранить и обрабатывать огромные объемы информации: данные о недвижимости, платежах, льготах, долгах, запасах, поставках, бюджетах, счетах и зарплатах. Эту информацию нельзя превратить в захватывающую поэму или миф; она существует в виде больших и скучных списков. Любой церкви, университету или библиотеке, помимо священников, ученых и писателей, нужны еще и бухгалтеры.

Списки и истории дополняют друг друга. Национальные мифы легитимизируют налоговую отчетность, а налоговая отчетность помогает превратить вдохновляющие истории в реальные школы и больницы. Главная проблема списков и их принципиальное отличие от историй заключается в том, что списки, как правило, гораздо скучнее, а потому их трудно запоминать. В процессе эволюции мозг человека хорошо приспособился усваивать, запоминать и обрабатывать даже очень большие объемы информации, когда они изложены в виде историй. «Рамаяна», одно из главных сказаний индуистской мифологии, состоит из 24 тысяч стихов и занимает в современных изданиях около 1700 страниц, но многие поколения индусов запоминали и рассказывали ее наизусть.

Для функционирования сложных государственных систем было недостаточно человеческой памяти и потребовалась особая неорганическая информационная технология. Этой технологией стал письменный документ.

Как убить долги

Письменные документы изобретались неоднократно во многих местах. Подобно историям и другим информационным технологиям, придуманным людьми, они не всегда точно отражали реальность, но независимо от своей правдивости порождали новые сущности. С появлением письменных документов значительно упростилось создание административных систем, царств, религиозных организаций и торговых сетей. По сути, документы изменили сам способ создания интерсубъективных сущностей. В устных культурах интерсубъективные сущности создавались путем рассказывания историй, и их разнообразие ограничивалось возможностями человеческого мозга: люди не могли создать сущность, которую были бы не в силах запомнить. Письменные документы позволили преодолеть это ограничение. Документы не отражали объективную эмпирическую реальность; они сами по себе были реальностью. Они создали прецеденты и модели, которые в будущем стали использоваться компьютерами. Способность компьютеров создавать интерсубъективные сущности – это, в сущности, расширение возможностей глиняных табличек и листов бумаги.

В качестве примера автор рассматривает право собственности. В дописьменных обществах право собственности было интерсубъективной сущностью, создаваемой словами и поведением членов сообщества. Если человек владел полем, это означало, что никто не мог строить жилье и пасти скот на этом поле без его разрешения. В письменных обществах владение полем стало означать, что чье-то право собственности на него зафиксировано в каком-то документе. Право собственности остается интерсубъективной сущностью, создаваемой путем обмена информацией, но теперь информация имеет форму документа. Это означает, что теперь право собственности устанавливает некий центральный орган власти, который составляет и хранит документы. Это также означает, что владелец может продать свое поле, просто передав документ кому-то другому.

Способность документов создавать интерсубъективные сущности отразилась в древнеассирийском диалекте, где документы уподоблялись живым существам, которых можно убить. Договоры ссуды «убивались» (duākum) путем уничтожения таблички после выплаты долга. Иначе долг не считался погашенным. И наоборот, если документ был уничтожен, то долга больше не существовало, даже если он не был выплачен. При составлении конституций, мирных договоров и коммерческих контрактов юристы, политики и бизнесмены спорят о каждом слове, поскольку знают, что эти бумаги наделяются огромной властью.

Бюрократия

У каждой новой информационной технологии есть свои слабые места. Она решает ряд старых проблем, но при этом создает новые. Письменные документы намного лучше человеческого мозга хранят определенные типы информации, но они породили сложную проблему поиска информации.

Мозг удивительно эффективно извлекает любую информацию из своей сети, состоящей из десятков миллиардов нейронов и триллионов синапсов. Человек способен за секунду выудить из памяти нужные сведения, хотя ученые до сих пор толком не понимают, какой нейробиологический механизм за этим стоит. За миллионы лет эволюции процессы поиска информации в мозге оптимизировались, но когда люди доверили хранение информации документам, стало невозможно полагаться в поиске на оптимизированную биологическую систему человека. Способность человека к поиску пищи здесь тоже малополезна: люди знают, как искать в лесу грибы и ягоды, потому что те подчиняются определенному органическому порядку; но документы этому порядку не подчиняются. Архивариям пришлось разработать новый порядок, который называется бюрократией.

Именно посредством бюрократии люди в крупных организациях решают проблему поиска информации, тем самым создавая более крупные и мощные информационные сети. Но бюрократия, как и мифология, часто жертвует истиной ради порядка. Изобретя новый порядок и навязав его человечеству, бюрократия исказила представление людей о мире. Многие проблемы информационных сетей XXI века – квинтэссенция бюрократических проблем, возникших задолго до того, как люди вообще стали задумываться о компьютерах.

Бюрократия и поиск истины

В буквальном переводе бюрократия означает «власть письменного стола». Этот термин появился во Франции в XVIII веке, когда типичный чиновник сидел за письменным столом с выдвижными ящиками – bureau. Таким образом, в основе бюрократического порядка лежат выдвижные ящики. Бюрократия решает проблему поиска информации, разделяя мир на ящики и определяя, какой документ в каком ящике хранить.

Однако за этот принцип приходится платить. Вместо попыток понять мир таким, какой он есть, бюрократия навязывает миру искусственный порядок. Сначала бюрократы изобретают различные ящики, которые представляют собой интерсубъективные сущности, а затем пытаются втиснуть в эти ящики весь мир. Если не получается, они просто давят сильнее. Каждый, кому доводилось заполнять официальные бланки, знает это по себе: если ни один из предложенных в графе вариантов вам не подходит, вы должны сами приспособиться к бланку, а не он к вам. Сведение хаотичной реальности к ограниченному набору ящиков помогает бюрократам поддерживать порядок, но это происходит в ущерб истине. Из-за своей зацикленности на ящиках бюрократы часто формируют искаженное представление о мире.

Стремление втиснуть реальность в жесткие рамки также заставляет бюрократов преследовать узкие цели, даже когда их действия имеют самые широкие последствия. Чиновник, стремящийся нарастить производство, может проигнорировать экологические соображения, которые выходят за рамки его компетенции, и разрешить сброс отходов в ближайшую реку.

Искажения, порождаемые бюрократией, влияют и на научные дисциплины. Так, университеты делятся на факультеты и кафедры, и история в них всегда отделена от биологии и математики, хотя это деление не отражает объективной реальности. Это интерсубъективное изобретение бюрократов от науки.

Чтобы показать, как хаотичный и изменчивый мир загоняется в жесткие бюрократические рамки, автор обращается к примеру конкретной научной дисциплины – биологии. Прежде чем Дарвин объяснил происхождение видов, его предшественники должны были дать определение понятию «биологический вид» и классифицировать по видам все живые организмы. Это оказалось сложной и нескончаемой работой, поскольку животные, растения и другие организмы часто не вписываются в отведенные им «ящики». Вся суть эволюции в том, что виды постоянно меняются, разделяются и смешиваются, а значит, их распределение по жестким ящикам искажает биологическую реальность. В случае с вирусами ученые вообще не могут прийти к единому мнению о том, считать ли их формой жизни. Но даже сама грань между живой и неживой природой не является объективной реальностью; это интерсубъективная конвенция.

Конечно, интерсубъективные конвенции сами по себе тоже часть реальности. По мере того как люди становятся более могущественными, их интерсубъективные убеждения все больше влияют на мир за пределами их информационных сетей. Например, отнесение каких-либо животных к «вымирающим видам» – интерсубъективная конвенция, но она имеет далеко идущие последствия: в частности, на ее основании может быть введен запрет на охоту. То есть бюрократическое решение о том, в какой «ящик» поместить животное, может сохранить этому животному жизнь или обречь его на смерть.

Глубинное государство

В защиту бюрократии автор отмечает, что она жертвует истиной и искажает понимание мира ради порядка, без которого сложно поддерживать масштабную человеческую сеть. Автор признает, что бюрократия не бывает идеальной, но задается вопросом: есть ли лучший способ управлять большими сетями? Например, если отменить все научные классификации, все кафедры, факультеты и профильные журналы, придется ли каждому будущему врачу посвящать годы изучению истории, и будут ли люди, изучавшие влияние чумы на христианскую теологию, считаться специалистами по вирусологии? Приведет ли это к улучшению систем здравоохранения?

Тем, кто мечтает об упразднении всей бюрократии ради более целостного познания мира, автор напоминает, что больницы – тоже бюрократические институты. В них есть разные отделения, и в каждом своя иерархия, протоколы и бланки. Они страдают множеством бюрократических недугов, но все же лечат людей от недугов физических. То же касается практически всех ведомств, делающих жизнь лучше, от школ до канализационных служб.

Когда человек спускает воду в туалете, нечистоты уходят под землю – в «глубинное государство». Существует сложная подземная сеть, которая собирает отходы, отделяя их от источников питьевой воды. Кто-то должен проектировать, строить и обслуживать эту глубинную сеть. Это тоже работа бюрократии, и люди могут погибнуть, если упразднят коммунальные службы. Под землей сточные воды легко могли бы смешаться с питьевой водой, но, к счастью для людей, есть бюрократы, которые их разделяют.

До появления современных систем канализации передающиеся через воду инфекционные болезни уносили миллионы жизней. В 1854 году в Лондоне произошла вспышка холеры. Врач Джон Сноу предположил, что причина кроется в источнике воды. Он изучил данные о заболевших и вычислил эпицентр вспышки: водоразборную колонку на Брод-стрит в Сохо, после чего убедил власти отключить колонку. Эта скучная бюрократическая работа спасла жизни людей. Оказалось, что вода в колонку поступала из колодца, вырытого менее чем в метре от зараженной холерой выгребной ямы.

Открытие Сноу и дальнейшая работа ученых, инженеров, юристов и чиновников привели к появлению обширной бюрократии, регулирующей работу водоразборных колонок и канализационных труб. Канализацию не воспевают в эпосах, но она является важным признаком хорошо работающего государства.

Биологические драмы

Мифология и бюрократия – два столпа любого масштабного общества. Но если мифологией, как правило, восхищаются, к бюрократии обычно относятся с недоверием. Для многих само слово «бюрократия» несет негативный оттенок. Людям трудно оценить пользу и вред конкретной бюрократической системы, поскольку сложно получить всю необходимую информацию и еще сложнее ее интерпретировать.

Документы, архивы, бланки, лицензии, нормативные акты и бюрократические процедуры изменили способ распространения информации, а вместе с тем и методы работы власти. Это серьезно усложнило понимание власти.

В бесписьменных племенных обществах человеческая сеть состоит только из цепочек «человек – человек» и «человек – история». Власть принадлежит тем, кто контролирует узлы, связывающие цепочки. Эти узлы – космогонические мифы племени: лидеры используют их для формирования идентичности, создания альянсов и манипулирования эмоциями. В человеческих сетях, связанных письменными документами и бюрократическими процедурами, появляется и третий тип цепочек: «человек – документ». В бюрократическом обществе люди не только рассказывают истории, но и обмениваются документами. Более того, документы заставляют людей взаимодействовать с другими документами.

Это привело к перераспределению власти. Когда документы стали важнейшим звеном, связывающим множество социальных цепочек, власть обрели администраторы, бухгалтеры и юристы, которые разбираются в документах, умеют пользоваться неочевидными лазейками и ориентируются в лабиринтах ведомств и комитетов.

Такое перераспределение власти изменило баланс сил в мире. Бюрократия, как правило, укрепляет центральную власть в ущерб простым гражданам. Система позволяет центру собирать гораздо больше информации о людях, тогда как последним становится гораздо труднее разобраться в работе самой системы.

Разобраться во многих аспектах жизни людям традиционно помогало искусство, но в случае с бюрократией оно малополезно. Дело в том, что в искусстве обычно используется ограниченный набор сюжетов, восходящих к биологии человека, но биологические драмы не проливают свет на работу бюрократии. В качестве примера автор рассматривает сюжет древнеиндийского эпоса «Рамаяна». В его основе лежит сразу несколько биологических драм, в числе которых конкуренция между сиблингами, конкуренция за брачного партнера и противопоставление чистого и грязного. Однако, хотя действие «Рамаяны» разворачивается в условиях крупных аграрных царств, в ней почти не уделяется внимания вопросам права собственности, сбора налогов, систематизации архивов или финансирования войн. Соперничество сиблингов, любовные треугольники и прочие сюжетные линии не помогают разобраться в сложной системе документов, у которых нет братьев и сестер и вообще никакой личной жизни.

Франц Кафка и некоторые другие авторы смогли показать сюрреалистичное влияние бюрократии на жизнь людей, придумав новые, небиологические сюжеты. Ужас кафкианских историй проистекает от непостижимости угрозы: эволюция подготовила человеческий разум к пониманию смерти от зубов тигра, но людям гораздо труднее осознать смертельную опасность документов.

«Перебить всех законников»

Из-за непонимания бюрократических реалий люди чувствуют себя беспомощными перед лицом непостижимых зловещих сил, им кажется, что бюрократия – это злонамеренный заговор.

В XVI веке итальянский поэт Лудовико Ариосто описал аллегорическую фигуру Распри как женщину, у которой в руках множество документов с подписями и печатями. В исторической хронике Шекспира «Генрих VI, часть 2» бунтарь-простолюдин предлагает план по установлению лучшего социального порядка: «Первым делом, – говорит он, – мы перебьем всех законников». Мятежники приводят клерка, которого обвиняют в том, что он умеет читать и писать, и лидер повстанцев Джек Кэд приказывает повесить его с пером и чернильницей на шее.

Во время восстания Уота Тайлера в 1381 году повстанцы обрушили свой гнев не только на чиновников, но и на документы, уничтожив многочисленные архивы. С гибелью документов исчезали все обязательства. Подобные атаки на архивы происходили и в ходе многих других мятежей, от Великого еврейского восстания в 66 году н. э. до Французской революции 1789 года. Даже неграмотные повстанцы понимали, что без документов бюрократическая машина не сможет функционировать.

Автор понимает недоверие людей к властной бюрократии и всемогущим документам, поскольку они сыграли значимую роль в истории его семьи. Жизнь его деда Бруно пошла кувырком из-за невозможности документально подтвердить факт своего рождения на территории, аннексированной Румынией после Первой мировой. Автор признается, что в его семье принято хранить все документы, на которых стоит официальная печать. Никто не знает, какой документ может однажды спасти жизнь.

Волшебный документ

Все мощные информационные сети, в том числе бюрократические, могут нести как пользу, так и вред, в зависимости от того, как они выстроены и как используются. Простое увеличение объема информации в сети не гарантирует ее полезности и не облегчает поиск баланса между истиной и порядком. Это главный исторический урок для создателей и пользователей новых информационных сетей XXI века.

Грядущие информационные сети, особенно основанные на ИИ, во многом будут отличаться от предыдущих. ИИ постепенно берет на себя роль и бюрократов, и мифотворцев. Инструменты ИИ уже умеют находить и обрабатывать данные лучше, чем бюрократы из плоти и крови, а теперь ИИ учится слагать истории лучше большинства людей.

Информационные сети не максимизируют истину, а стремятся найти баланс между истиной и порядком, напоминает автор. Бюрократия и мифология равно необходимы для поддержания порядка, и обе легко жертвуют ради порядка истиной. Какие же механизмы гарантируют, что бюрократия и мифология не откажутся от истины полностью, и какие механизмы позволяют информационным сетям выявлять и исправлять собственные ошибки, даже ценой некоторого беспорядка?

Рассказывая, как человеческие информационные сети решают проблему ошибок, автор начинает с истории изобретения еще одной информационной технологии – священной книги, призванной обслуживать все жизненно важные информационные потребности общества и исключать любую возможность собственных ошибок. История «непогрешимых» священных книг указывает на ряд недостатков всех информационных сетей и дает важные уроки тем, кто задумывается о создании безошибочных ИИ в XXI веке.

Глава 4
Ошибки: фантазия о непогрешимости

Святой Августин говорил: «Человеку свойственно ошибаться; упорствовать в заблуждении свойственно дьяволу». Склонность людей к ошибкам и необходимость их исправлять занимают важное место в любой мифологии. В христианской мифологии вся история представляет собой попытки искупить первородный грех Адама и Евы. Бюрократия тоже постоянно пытается выявлять и исправлять ошибки. Сложные бюрократические системы обычно имеют внутренние дисциплинарные органы, а в случае катастрофы – например, военного поражения или финансового краха – создают комиссии по расследованию, чтобы разобраться, что пошло не так, и предотвратить подобные ошибки в будущем.

Чтобы механизмы самокоррекции работали, им нужна легитимность. Если людям свойственно ошибаться, как знать, не дадут ли сбой и механизмы самокоррекции? Чтобы выйти из этого замкнутого круга, люди пытались придумать некий безошибочный надчеловеческий механизм, на который можно было бы положиться в выявлении и исправлении человеческих ошибок. Сегодня некоторые верят, что такой механизм сможет обеспечить ИИ. Например, Илон Маск заявил, что собирается запустить TruthGPT – ИИ, нацеленный на поиск истины. Но это опасная фантазия, считает автор. В прошлом подобные фантазии принимали религиозную форму, а самой важной функцией религии традиционно было обеспечение надчеловеческой легитимности социального порядка.