Kitobni o'qish: «Четвертая мировая война. Будущее уже рядом»

С надеждой автор посвящает эту книгу всем студентам «Академии смысла».

Не нужно быть сверхразумным искусственным интеллектом, чтобы понять: двигаться навстречу величайшему событию в истории человечества и не готовиться к этому – просто глупо.

МАКС ТЕГМАРК, Массачусетский технологический институт

Книга для интеллектуального меньшинства

абсолютно не рекомендована тем, кто готов по любому поводу оскорбиться

Наша главная слабость – в глупости, лености и самодовольстве.

В 2016 году я начал публиковать на портале «Сноб» цикл статей под общим названием «Четвёртая мировая». Они были посвящены нашему скорому и отнюдь не безоблачному будущему.

На рубеже веков человечество оказалось перед лицом новой реальности: «третья информационная волна» (Элвин Тоффлер), «четвёртая технологическая революция» (Клаус Шваб), «технологическая сингулярность» (Рэй Курцвейл).

То есть наша цивилизация трансформируется, причём фундаментальным образом. Но что мы знаем о рисках, о возможных последствиях этих перемен? Задумываемся ли мы о них всерьёз?

Мои статьи приняли тогда, в целом, положительно – сотни тысяч просмотров, много доброжелательных отзывов. Однако был и весьма характерный фон, я бы даже сказал – «душок». Мол, всех тут «доктор из телевизора» запугивает, а никакой угрозы нет: технологии, информационный бум и искусственный интеллект – это всё прекрасно, и нечего паниковать.

Кто-то говорил, что мои «пророчества» – дело столь отдалённого будущего, что даже нелепо об этом думать. Кто-то утверждал, что в реальном мире программеров и специалистов по искусственному интеллекту «всё вообще по-другому» и нечего тут «психологам» лезть с футуристическими прогнозами. Кто-то утверждал, что я и вовсе ретроград, луддит, противник прогресса и цивилизации.

Но считать меня луддитом столь же нелепо, как и называть тем самым «психологом» (я всё-таки врач-психиатр, что далеко не одно и то же). Новые технологии – это замечательно, я и правда так считаю. Однако предельно глупо, на мой взгляд, развивать технологии, которые в корне меняют среду нашего обитания, не учитывая возможные последствия для продукта этой самой среды – то есть для нас с вами.

Мы – плоть от плоти – та среда, которая нас окружает: и не только физико-химическая, но и языковая, культурная, психологическая, идеологическая – то есть собственно информационная.

В нас нет ничего «своего», мы полностью сделаны из окружающей нас среды. Допускаю, что это тяжело принять тем, кто верит в «духовный рост», «божественный замысел» и проповедует «любовь к себе», но такова правда.

• На физическом уровне мы то, что мы физически потребляем: химические вещества, находящиеся в пище, воде, вдыхаемом воздухе (грубо говоря, мы то, что мы едим, что пьём, чем дышим).

• На информационном уровне мы являемся производными той информационной среды, в которой живём, – воспитание и образование, поведенческие стереотипы в обществе, массмедиа.

Но в чём тут, вы скажете, новость?.. Если взглянуть на историю человечества, то информационная среда менялась регулярно, зачастую радикально – и никаких проблем! С чего бы им теперь вдруг возникнуть?

Да, менялась, но раньше эти изменения касались только содержания – трансформировались представления людей о мире, эволюционировали культурные паттерны и т. д. Сейчас же изменяется сама структура информационной среды.

Причём подобные структурные «фазовые переходы» человечество уже переживало – изобретение письменности, печатного станка, телеграфа, радио, синематографа. И за подобными «переходами» всегда следовала, по сути, новая эра в истории человечества.

Но посмотрите, как эти эпохи ужимаются: от момента появления письменности до печатного станка – тысячи лет, от станка до телеграфа – сотни, дальше – десятки.

Сейчас новые способы распространения информации появляются чуть ли не каждый год: интернет, электронная почта, интернет-поисковики, мобильный интернет, социальные сети и т. д., и т. п.

Можно с полной уверенностью утверждать, что ещё никогда за всю историю человечества структурные изменения в информационном поле не были столь грандиозными и значительными, как сейчас.

Информационные технологии, роботизация и уберизация, а также собственно искусственный интеллект превращаются в своеобразный экзоскелет нашего мозга, а это естественным образом приводит к неизбежной атрофии интеллектуальной функции.

С мозгами как с мышцами: если их функцию выполняет какой-то сторонний агрегат, то они медленно, но верно усыхают.

Из-за социальных сетей, эффекта постоянной подключённости («всегда на связи»), агрессивной конкуренции между производителями контента, цифровой зависимости и других новых «зол» изменилось не только количество, но и качество потребляемой нами информации.

Эта фундаментальная трансформация среды с неизбежностью приводит к нашим собственным изменениям. Но из-за когнитивных искажений мы субъективно занижаем значение происходящего: к переменам мы стали привыкать быстро, а собственных изменений не видим, потому что не с чем сравнить – всё человечество меняется разом.

Многие, впрочем, чувствуют: «что-то пошло не так». Изменения вроде бы и положительные, но вот фон – нет, какой-то странный: всё сложнее определиться с целями, жизненные перспективы выглядят какими-то туманными (если вообще просматриваются), нарастает чувство безысходности, отношения между людьми становятся всё более и более поверхностными и формальными.

«Технологии будут систематически менять наше понимание того, что значит быть человеком, что значит быть в социуме и что значит заниматься политикой. […] Мы действительно проходим через сдвиг парадигмы. Она замечательная всем тем, что нам даёт, но одновременно ведёт и к ненадёжности существующих структур, которые теряют свою ценность и значение. Следовательно, этот новый режим бытия требует нового мирового порядка».

НИШАН ШАХ, Центр цифровой культуры Люнебургского университета

Отражают ли эти смутные ощущения действительный масштаб перемен? Сомневаюсь. Да и вопросов больше, чем ответов… Мы до сих пор не понимаем, в чём, собственно, эти изменения заключаются, что будет с нами дальше, как изменится наше общество.

В любом случае просчёт возможных рисков, связанных с технологическим и цифровым «улучшением жизни», – это важная задача.

МЕДИЦИНСКИЙ ПРИМЕР

В своё время мы вмешались в естественный отбор, спасая жизни людей при помощи антибиотиков и обезболивающих при хирургических операциях. Мы хорошо лечим рак, активно развиваются протезирование и трансплантология.

Невероятные успехи достигнуты в экстракорпоральном оплодотворении, сохранении беременности и неонатальной медицине, детская смертность стала минимальной.

Современные нейролептики и антидепрессанты позволяют лицам, страдающим психическими расстройствами, вести полноценную жизнь.

Успех просто невероятный: на планете сейчас живёт больше людей, чем за всю её историю, а средняя продолжительность жизни человека лишь за один прошлый век увеличилась более чем в два раза.

Но само это благоденствие вызывает проблемы, которые пока непонятно как решать: супербактерии, рост патогенности вирусов и появление новых¹, рост психических расстройств и врождённых патологий. И это, конечно, далеко не полный список…

Тех из нас, кого эволюция раньше бы выбраковала, современная медицина спасает. В геноме человечества происходит накопление предрасположенностей к самому широкому кругу болезней. И потому уже сейчас рождение ребёнка без патологий и более-менее устойчивого к болезням – что-то за гранью фантастики.

Да, достижения медицины – это замечательно (меня они особенно радуют, ведь я бы уж точно давно оказался в числе выбракованных эволюцией особей). Но есть у этой медали и обратная сторона.

Врачи думают о последствиях своего вмешательства в естественный отбор. Они осознают риски и с удвоенной силой занимаются вопросами вирусологии, иммунологии и генной терапии. Но я не видел никого, кто был бы настолько же всерьёз озабочен последствиями фундаментальной трансформации информационной среды.

Есть единичные исследователи, которые открыто говорят о возможных рисках, но их голоса, к сожалению, или игнорируются, или не выглядят достаточно убедительными. А общая реакция общества и различных его институтов вполне укладывается в формулу, с которой я начал: глупость, леность и самодовольство.

Прошло не так много времени с публикации того моего «снобовского» цикла статей, а количество «критиков» уже существенно поубавилось.

То, что казалось каким-то совершенно отдалённым будущим: машины-беспилотники,

3D-принтеры, позволяющие работать практически с любыми материалами, чипы в человеческих головах, детальная персонализация человека по его поведению в сети и т. д., – всё это уже, так сказать, в дверях.

Речь идёт не о каких-то «нюансах», а о системной проблеме: перед нами не только собственно технологические риски, но и экономические, общественно-политические, экзистенциальные.

• Технологические риски связаны прежде всего с возможностью неконтролируемого развития искусственного интеллекта.

• Экономические риски связаны с массовой безработицей, обусловленной полной автоматизацией производства, что приведёт к системному кризису современной модели экономики.

• Общественно-политические риски – это и возможная кибервойна, и возникновение тоталитарных государств (квазигосударств), управляемых собственниками BigData.

• Экзистенциальные риски в грядущем цифровом мире связаны с утратой человечности в традиционном её понимании, а также с интеллектуальной деградацией общества.

Каждое из этих направлений разрабатывается независимыми экспертами, в университетской среде и исследовательскими компаниями. Идёт активная дискуссия, но общей картины пока, к сожалению, нет.

В этой книге я постараюсь рассказать о проблемах, связанных с наступлением «четвёртой промышленной революции», торжественно провозглашённой на Давосском экономическом форуме его бессменным президентом Клаусом Швабом.

Да, когда представители гигантского транснационального бизнеса самозабвенно рассказывают нам о грядущем счастье, я предпочитаю говорить о реальности. Мы должны оценить, насколько указанные риски взаимосвязаны и какова вероятность, что они вызовут эффект домино.

Ну и, конечно, я добавлю к этому скорбному списку свою «ложку дёгтя». Даже примеряя на себя роль футуролога, я не могу перестать быть врачом-психиатром, а на мой профессиональный взгляд, самой серьёзной проблемой нового времени будет деформация психики человека.

Этому аспекту, этому «слабому звену» обычно уделяется совсем мало внимания, но именно это «звено», как мне кажется, и запустит ту самую цепочку падающих друг на друга костяшек домино.

Но обо всех костяшках по порядку…

Глава первая
Цифровой рай

Лучший способ предсказать будущее – это изобрести его.

АЛАН КЭЙ

В этой главе мы рассмотрим скорое будущее, которое нам обещает главный пророк современных технологий – Рэй Курцвейл.

Рэй Курцвейл – личность, без преувеличения, легендарная. С победами на поприще информатики его поздравляли президенты США – Линдон Джонсон (Рею было тогда 20 лет от роду) и Билл Клинтон, вручивший Курцвейлу в 1999 году информационного Нобеля – National Medal of Technology.

Курцвейл создал первый музыкальный синтезатор, первый планшетный сканер, первую читающую машину для слепых, первым научил компьютеры распознавать человеческую речь. И это только некоторые из его личных достижений, не считая работы на Google, IBM ит. д.

Сейчас Курцвейл работает техническим директором Google, где возглавляет все работы по искусственному интеллекту. А в качестве хобби создаёт помощника, «способного отвечать на наши вопросы ещё до того, как вы их сформулируете». Нет, я не шучу. Это цитата.

Впрочем, Рэй Курцвейл, конечно, более известен широкой общественности как футуролог. В книге «Эпоха духовных машин» он сформулировал «закон ускоряющейся отдачи», который позволяет ему с удивительной точностью предсказывать – буквально по годам – достижения в области развития компьютерных технологий и искусственного интеллекта.

Да будет так!

Я придумал закон ускоренной отдачи, чтобы правильно рассчитывать время в моих собственных технологических проектах: чтобы я мог начинать их за несколько лет до того, как они станут осуществимыми.

РЭЙ КУРЦВЕЙЛ

Согласно закону ускоряющейся отдачи, развитие технологий происходит экспоненциально: то есть чем мощнее становится та или иная технология, тем большее ускорение в своём развитии она приобретает.

«За семь лет проект “Геном человека”² собрал один процент генома, – рассказывает Курцвейл. – Мейнстримовые критики заявляли: “Я же говорил, что ничего не получится. За семь лет – один процент, значит, на весь геном уйдёт 700 лет”. Моя реакция была другой: “Ого, мы уже сделали один процент? Мы почти закончили!” Дело в том, что один процент – это всего семь удвоений до ста процентов. Удвоение происходит каждый год. И действительно, проект закончили уже через семь лет. То же самое произошло со стоимостью: первый геном стоил миллиард долларов, а сейчас эта процедура стоит всего 1000 долларов».

Чтобы представить себе, о чём говорит Курцвейл, вспомните знаменитую притчу о создателе шахматной игры – бедном мудреце и математике Сета.

Шахматы так впечатлили индусского царя Шерама, что он решил беспримерно наградить Сета.

– Я настолько богат, что могу исполнить любое твоё самое смелое желание, – сказал царь мудрецу Сету. – Назови награду, и ты получишь её.

– Велика доброта твоя, повелитель, – ответил мудрец. – Выдай мне за первую клетку шахматной доски одно пшеничное зерно.

– Одно пшеничное зерно? – изумился царь.

– Да, повелитель. За вторую клетку прикажи выдать два зерна, за третью – четыре, за четвертую – восемь, за пятую – шестнадцать, за шестую – тридцать два…

– Довольно, – с раздражением прервал его царь. – Ты получишь свои зёрна за все 64 клетки доски, согласно твоему желанию: за каждую вдвое больше против предыдущей. Но знай, что просьба твоя недостойна моей щедрости. Ступай! Слуги вынесут тебе твой мешок с пшеницей.

Сета улыбнулся, покинул залу и стал дожидаться последствий своей просьбы у ворот царского дворца. А развязку этой истории вы все, конечно, знаете.

Да, наше мышление, по самой сути своей, линейное – мы привыкли наблюдать постепенное приращение чего бы то ни было: вода в реке или в море поднимается или убывает медленно, растения, животные и даже наши дети растут год за годом и по чуть-чуть, так же незаметно меняются климат, отношения между людьми и т. д., и т. п. Всё постепенно.

Вот почему экспоненциальный рост, о котором говорит Курцвейл в своём законе ускоряющейся отдачи, для нас контринтуитивен: мы не привыкли так думать, а потому и не можем представить себе его последствий.

Царь Шерам решил, что мудрец Сета попросил у него мешок пшеницы, не больше. Но такова действительная реальность экспоненциального роста: если соблюсти последовательность, о которой просил мудрец, то к 64-й клетке количество зерна на доске будет в 1800 раз превышать ежегодный современный мировой урожай пшеницы.

То есть Сета попросил у наивного царя весь урожай пшеницы, собранный за всю историю человечества до настоящего момента, а общая масса этого зерна равнялась бы 1200 миллиардам тонн.

В своих прогнозах мы основываемся на опыте тех технологических трансформаций, которые произошли за последние десятилетия. Пережитый опыт диктует нам и наши представления о будущем – таковы особенности мышления человека, его, так скажем, интуиции.

Да, произошёл существенный скачок в развитии технологий – мы все это признаём. «Но что ещё может случиться, чтобы удивить нас? – рассуждаем мы по-стариковски. – Нет, мы уже всё видели…»

Но взгляните на эти два графика: на первом – мы с вами, вместе с тем самым индусским царём Шерамом, а на втором – экспоненциальная кривая технологического прогресса и те самые миллиарды тонн зерна, которые причитаются мудрецу Сете и о которых нас предупреждает Рэй Курцвейл.

Во многом именно благодаря изобретению закона ускоряющейся отдачи Билл Гейтс назвал Рэя Курцвейла «лучшим из тех, кого я знаю, в предсказании будущего искусственного интеллекта».

По оценкам независимых экспертов (уж не знаю, как именно они это измеряли), 86 % прогнозов Рэя Курцвейла «сбывались с высокой точностью».

И действительно, даже если закрыть глаза на эти проценты, прогнозы Курцвейла сбываются как по волшебству – телефоны с bluetooth, синхронный компьютерный перевод, Siri, 3D-видео и очки с дополненной реальностью, суперкомпьютер IBM Watson, машины без водителей и т. д., и т. п.

НИЧЕГО ЛИЧНОГО, ПРОСТО ФАКТЫ

В 1990 году Рэй Курцвейл предсказал, что компьютер победит лучшего игрока по шахматам в 1998 году. Он ошибся: суперкомпьютер Deep Blue компании IBM обыграл Гарри Каспарова на год раньше – в 1997-м.

Тогда же – в 90-м – Курцвейл высказал предположение, что в 2010 году компьютеры смогут отвечать на вопросы, имея беспроводной доступ к информации. Это, как вы понимаете, тоже случилось чуть раньше.

А вот с экзоскелетами, например, великий прогнозист слегка поторопился. Он был уверен, что они позволят инвалидам ходить уже в начале 2000-х, что произошло чуть позже и не повсеместно. Впрочем, соответствующие технологии действительно созданы и активно используются (в частности, компанией Ekso Bionics).

Спустя десять лет – на пороге нынешнего тысячелетия – Курцвейл тоже сделал несколько чрезвычайно смелых прогнозов. Так, например, он обещал, что к 2009 году компьютер будет воспринимать голосовые команды. Случилось это не в 2009-м, но кто из нас не общался с Siri, OK Google или Алисой?

В том же 2009 году Курцвейл ожидал появления очков, стёкла которых будут оснащены дисплеями, воспроизводящими эффект дополненной реальности. Вроде бы и тут ошибся – прототипы Google Glass появились только в 2011-м. Но и эти экраны, и технология дополненной реальности появились даже до 2009 года. Так что всё ОК.

Ещё через пять лет – в 2005 году – Курцвейл предсказал, что к 2010 году появится возможность осуществлять языковые переводы с одного языка на другой в режиме реального времени. Skype Translate Microsoft, Google Translate и другие технологии справились с этой задачей. Некоторые же приложения, как, например, Word Lens, и вовсе могут переводить слова на изображении с вашей камеры.

Помню, когда ко мне в гости в интеллектуальный кластер «Игры разума» приехал главный художник Google, автор культового романа «Поколение X» Дуглас Коупленд, с которым у нас перед этим состоялась заочная дискуссия о будущем искусственного интеллекта, это приложение только вышло. И они с куратором его выставки Марселлом Дантесем как малые дети бегали по нашим зданиям, прикладывая свои iPhone к указателям, и радовались эффектам – на экране то же видеоизображение, а текст меняется на английский.

В 2010 году Курцвейл обещал, что к 2019-ому «провода и кабели для персональных и периферийных устройств любой сферы уйдут в прошлое». Что ж, взгляните на наушники к iPhoneX, беспроводные зарядные устройства для Samsung Galaxy S6 (Wireless Charging Pad) или Cota Wireless Power – универсальную колонку для зарядки электроприборов с диаметром действия больше 10 метров.

Вам не кажется, что Курцвейл даже как-то запаздывает со своими прогнозами?..

Кривая закона ускоряющейся отдачи Рэя Курцвейла предполагает наличие трёх последовательных фаз:

• первая – медленный рост (ранняя фаза экспоненциального роста);

• вторая – быстрый рост (взрывная фаза, когда кривая стремительно взметается вверх);

• третья – фаза стабилизации, когда формируется принципиально новая технологическая парадигма.

И если кому-то кажется, что стабилизация уже наступила, – не обольщайтесь. Вот что обещает нам Рэй Курцвейл на ближайшие десятилетия…

Считается, что вычислительная мощность нашего мозга равняется примерно десяти терабайтам – это очень-очень много, и стоимость такого компьютера сейчас, как вы понимаете, почти космическая.

Но посмотрите на свой телефон: аналогичную вычислительную мощность в 60-х вы могли бы купить лишь за триллион долларов, а в начале 80-х прошлого века – за миллиарды долларов. Но вряд ли сейчас ваш телефон стоит дороже тысячи, правда? Впрочем, его начинка, поверьте, куда дешевле – вы переплачиваете за программное обеспечение и бренд.

Теперь внимание: по расчётам Курцвейла, десять терабайтов – мощность, равная мощности нашего мозга, – обойдутся нам в 2020 году всего в одну тысячу долларов. Проще говоря, к этому моменту персональные компьютеры не только достигнут вычислительной мощности, сравнимой с человеческим мозгом, но будут общедоступны.

В 2011 году журнал Science опубликовал статью Мартина Хильберта из Университета Южной Калифорнии, где он писал следующее: «Люди всего мира могут осуществить 6,4x10¹⁸ операций в секунду на обычных компьютерах образца 2007 года, что сравнимо с максимальным количеством нервных импульсов, возникающих в одном человеческом мозге за секунду».

Самый быстрый суперкомпьютер в этом же 2011 году обладал мощностью 10,51 петафлопс (10,5 квадриллионов операций в секунду – то есть как минимум на две степени меньше, чем требуется для воспроизводства мощности, соответствующей человеческому мозгу).

В 2013 году группе немецких и японских исследователей удалось симулировать одну секунду активности одного процента мозга человека, правда за 40 минут и на кластере из 82 944 процессоров.

В 2018 году был представлен американский суперкомпьютер Summit, производительность которого, по заверениям создателей, приближается к 3,3 экзаопсам, а это три с лишним квинтиллиона операций в секунду – то есть те самые «миллиарды миллиардов», о которых говорил Мартин Хилберт, рассчитывая мощность человеческого мозга.

Теперь представим, что мы перешагнули 2020 год и вошли в будущее, стоящее у нас на пороге. Итак, чем же ознаменуются для нас ближайшие десятилетия?

СПРАВОЧНО

Увеличение мощности компьютеров, уменьшение их размеров и снижение цены производства – следствия так называемого «закона Мура», который был сформулирован больше пятидесяти лет назад Гордоном Муром – тогда ещё только будущим основателем компании Intel.

На самом деле это просто эмпирическое, то есть основанное на опыте наблюдение: мощность компьютеров, обусловленная увеличением количества транзисторов, умещающихся на кристалле интегральной платы, а также ростом их таковой частоты, удваивается каждые 18 месяцев. Тогда как с ценой происходит обратная ситуация – примерно каждые два года она в два раза уменьшается.

Журнал «Scientific American» привёл такую аналогию: если бы авиапромышленность последние 25 лет следовала «закону Мура», то сейчас Boeing 767 стоил бы 500 долларов, совершал облёт земного шара за 20 минут и затрачивал на это менее 20 литров топлива.

Да, цифровой мир живёт по своим законам – Мура и Курцвейла.