Kitobni o'qish: «Форма жизни № 4: Как остаться человеком в эпоху расцвета искусственного интеллекта»

Евгений Черешнев

Shrift:

Редактор Сырлыбай Айбусинов

Главный редактор С. Турко

Руководитель проекта М. Красавина

Арт-директор Ю. Буга

Дизайн обложки В. Голыженков

Корректоры О. Улантикова, А. Кондратова

Компьютерная верстка М. Поташкин

Все права защищены. Данная электронная книга предназначена исключительно для частного использования в личных (некоммерческих) целях. Электронная книга, ее части, фрагменты и элементы, включая текст, изображения и иное, не подлежат копированию и любому другому использованию без разрешения правообладателя. В частности, запрещено такое использование, в результате которого электронная книга, ее часть, фрагмент или элемент станут доступными ограниченному или неопределенному кругу лиц, в том числе посредством сети интернет, независимо от того, будет предоставляться доступ за плату или безвозмездно.

Копирование, воспроизведение и иное использование электронной книги, ее частей, фрагментов и элементов, выходящее за пределы частного использования в личных (некоммерческих) целях, без согласия правообладателя является незаконным и влечет уголовную, административную и гражданскую ответственность.

* * *

– Вы свиньи, вы. Вы гниете, как свиньи, и все. В вас есть многое, вы же довольствуетесь крохами. Слышите меня, вы? У вас есть миллионы, а вы расходуете гроши. В вас есть гений, а мыслей что у чокнутого. В вас есть сердце, а вы чувствуете лишь пустоту…
АЛЬФРЕД БЕСТЕР. ТИГР! ТИГР!
ВАЛЕРИЙ ГОЛЫЖЕНКОВ

о применении генеративного дизайна в работе над обложкой книги:
«Образ на обложке сложился, с одной стороны, благодаря действию компьютерного алгоритма, который выстраивал одному ему понятные связи, создавая по ключевым точкам новое изображение классического портрета, с другой стороны – не без участия человека, который выбрал из множества возможностей финальный результат».

Благодарности

Моим родителям

Спасибо вам, что так бережно держали маленького меня за ручки, когда я разбегался по аэродрому детства, и показывали правильные ориентиры. И за то, что нашли силы полностью меня отпустить, когда пришло время. Чтобы я смог выбрать свой собственный курс и полететь в полную неизвестность. И хоть что-то понять.

Мудрому деду Ивану Павловичу, который не дожил до выхода книги всего несколько месяцев

Спасибо, что вдохновлял родителей дарить мне много книг и конструкторов и мало солдатиков. Эта книга – и твоих рук дело.

Моей невероятной супруге Ольге, вдохновившей меня на эту книгу

Только когда ты целовала мои закрытые и усталые глаза, я начинал по-настоящему видеть.

Издателю Марине Красавиной, редактору Сырлыбаю Айбусинову и всему коллективу «Альпины»

Терпение – это последний ключ, открывающий двери. Это не я сказал, а Антуан де Сент-Экзюпери. Он тоже был когда-то автором, срывающим сроки. Но его стоило подождать ☺ Эта книга была бы невозможна без вашего терпения, мудрости, честности и бесконечно бережного отношения к мыслям. Низкий вам поклон.

Алексею Маланову

Очень мало людей умеет говорить просто о сложном. И еще меньше способны помогать это делать другим. Ты умеешь делать и первое, и второе. Твои комментарии и замечания, всегда честные, меткие и критичные, сделали эту книгу лучше. Потому, что глупец критикует. А мудрец предлагает, как сделать лучше. Спасибо тебе, брат по оружию, за твою мудрость, поддержку и огромное терпение.

Сергею Ложкину

Персонаж Джона Спартана в фильме «Разрушитель» сказал: «Чтобы поймать маньяка, нужен другой маньяк». Это про тебя. Спасибо, что воюешь с киберпреступностью на стороне добра. И нашел на этой бесконечной войне время проверять факты о кибербезопасности, хакинге и антихакинге для книги друга. Hasta la victoria siempre!

Предисловие

Чтобы достичь совершенства в чем-то, человеку, по утверждению Малкольма Гладуэлла, автора книги «Гении и аутсайдеры»¹, нужно около 10 000 часов занятий. Неважно, о чем речь – об игре на фортепиано, китайском языке или программировании на языке С++, – путь к званию эксперта лежит через время и упорную практику. Мозг человека содержит нейронную сеть – сложную электромагнитную сущность, которая отвечает за нашу способность чему бы то ни было обучаться; чем чаще человек повторяет какое-то конкретное действие или упражнение – от удара по футбольному мячу до доказательства сложной теоремы, – тем лучше он справляется с каждой последующей задачей подобного типа.

Самые сложные системы искусственного интеллекта (ИИ), созданные человеком, представляют собой сочетания разнообразных методов и алгоритмов, но по большей части мы учим машину решать узкие прикладные задачи примерно так же, как учимся сами, – стараемся заложить в искусственно создаваемые нейронные сети описание той или иной задачи и дать машине как можно больше примеров успешного и неуспешного ее решения. ИИ, как и человек, тратит время на то, чтобы «научиться» быть эффективнее через многочисленные повторные «подходы к снаряду». Просто, в отличие от человека, время, имеющееся в распоряжении компьютера, ничем, по сути, не ограничено: компьютер не ждет смерть от инфаркта или упавшего на голову кирпича; до тех пор, пока во Вселенной будет энергия для питания вычислительных мощностей, искусственный интеллект, который мы, люди, создаем, будет жить и развиваться. Да и ограничения в 10 000 часов у него нет – машина способна обучаться на миллионах компьютеров и серверов параллельно и тратить на оттачивание того или иного навыка миллионы человеческих лет. Поэтому неудивительно, что с каждым годом качество работы ИИ будет расти, спектр возможностей применения – расширяться, а себестоимость его использования – падать. Следовательно, будет расти и популярность ИИ у бизнеса и государственных структур – ведь что может быть лучше, чем комбинация «эффективнее + дешевле»?

В этой связи невозможно не задавать себе очевидные вопросы – если машины развиваются так эффективно, какова же наша, людей, судьба, с точки зрения безжалостной эволюции? Ведь нас, жителей Земли, летом 2020-го стало 7,8 млрд и мы уверенно идем к отметке в 10 млрд – пока что население растет. Но будем ли мы нужны Природе через несколько тысяч или даже сотен лет, если подавляющая часть технологических трендов XXI века связана именно с ИИ, то есть перекладыванием задач с человека на изучаемую им искусственную форму жизни (пусть на данной стадии с поправкой на тезис «не все живое разумно»)?

Из этого вопроса вытекает масса других. Например, почему, если big data, то есть большие данные (информация о людях, процессах, явлениях и разнообразные типы данных, о которых детально поговорим чуть позже), так важны и бесценны для развития технологий искусственного интеллекта, их с такой простотой отбирают у граждан и компаний всего несколько монополий? Нет ли тут долгосрочных рисков для современного человечества со сложившимся хрупким балансом сил? Наконец, а что такое эти самые «большие данные» и из чего они на самом деле состоят? И почему понятия «приватность» и «право на неприкосновенность частной жизни и тайну переписки» в современном мире, где правят бал big data, практически отсутствуют? Как так вышло?

До зимы 2015-го я, как и многие из вас, задумывался об этих вопросах весьма условно: ну есть тренды и есть, одни более перспективны, другие менее, а ИИ всего лишь один из них, что тут особенного? Вопросы и сложные моменты есть всегда и в любых инновациях – ничто по-настоящему большое не начинается гладко. Но в феврале 2015-го я предпринял эксперимент, который заставил меня посмотреть на мир big data и ИИ совершенно под новым углом – имплантировав в руку самый настоящий биочип, я увидел то, как может выглядеть наш мир в недалеком будущем, – Вселенную, в которой ни один человек, даже ребенок, не в силах отключиться от сети по своей воле.

И вопросов стало еще больше. Я начал разбираться в них, копать, исследовать, разумеется попутно совершая ошибки, – это была своеобразная тренировка своей нейронной сети на понимание потенциала развития рынка big data и ИИ: автоматизации, цифровизации, персонализации, кибербезопасности и многих других сфер. Когда я потратил на эту задачу больше 10 000 часов, возникла идея написать книгу. По сути, она содержит результаты моих наблюдений, умозаключений, экспертной оценки в данных областях. Я постарался провести некоторые параллели между ИИ и физикой, психологией, социологией, антропологией, программированием и объективной логикой. Посмотреть на big data и ИИ с точки зрения эволюции и подумать о том, к чему может привести текущий вектор развития технологий и как это скажется на каждом из нас – лично на вас, окружающих, детях и внуках. В том числе я постарался описать все основные направления применения ИИ сегодня и все основные будущие применения, то есть обозначить те сферы, где нужда в человеке, по всей видимости, очень скоро отпадет.

Сразу скажу – я не сторонник теорий заговора или гипотез полой Луны и не критик дарвинизма. Я приверженец научного подхода, основанного на фактах и проверяемой информации. Поэтому, если вы ждете уличения иллюминатов во всемирном заговоре или доказательств того, что Земля плоская и управляется масонским ИИ под руководством чипированного Билла Гейтса, сидящего на вышке 5G, – лучше вам книгу закрыть прямо сейчас. Эта книга – дань научному поиску, неутолимой жажде задавать вопросы и искать доказательные, проверяемые в лабораториях ответы. В отличие от служителей культа, я не призываю вас обратиться в мою веру. Вы можете не разделять моего мнения. В этом, в конце концов, и заключается смысл эволюции – спор рассудит не исход словесных баталий, а неумолимая жизнь с ее конкуренцией, в которой выигрывают не только самые приспособленные из видов, но и наиболее точно описывающие действительность идеи.

Многие из нас бьются в поисках смысла жизни. Но, нравится кому-то или нет, объяснить его очень просто, достаточно посмотреть на историю мироздания и вывести простые логические закономерности из нее. Нам кажется, что наш жизненный путь наполнен самостоятельно принимаемыми решениями, но на деле мы всего лишь участвуем в процессе, выполняя в нем заранее определенные функции, главная суть которых – постоянное усложнение состояния Вселенной, создание новых связей и элементов, которых вчера еще не существовало. Примерно так, как зарождающийся мозг ребенка создает все новые и новые связи между нейронами, так и мы сперва создаем повозки, а затем паровые машины, самолеты и ракеты. Усложнение – это присущее всем системам свойство. В этом нет никакого телеологического детерминизма, когда все сводится к мистической идее всеобъемлющей цели Природы – просто на каждом витке эволюции выигрывает более сложная система (или имеющая потенциал для дальнейшего усложнения).

Разум, постигая мир, создает новое знание, которого вчера еще не было. Но оно неизбежно усложняет картину мира. Въедливый читатель тут может спросить: «А как же насчет того, что все гениальное – просто? Разве, к примеру, гелиоцентрическая система, сменившая геоцентрическую с ее сложной системой деферентов, эпициклов и эквантов, не упростила понимание мира?» Тут не следует обманываться видимой простотой многих новых идей – на деле они дают старт новой сложности. Как раз геоцентрическая система мира была простой для понимания: Земля являлась в ней единственной физической реальностью, а весь окружающий ее мир – всего лишь бестелесной абстракцией, подчиняющейся определенным законам движения. Сложность была лишь в подгонке результатов наблюдения движения Солнца, Луны и планет к комбинации круговых движений. Идея гелиоцентрической системы мира, выдвинутая Николаем Коперником, заставила человечество осознать пугающую сложность Вселенной – ведь Земля превратилась в рядовую планету Солнечной системы, а небесные тела стали материальной реальностью, порождающей множество вопросов. А окончательную логическую завершенность система Коперника обрела с открытием Иоганном Кеплером законов движения, а ведь содержавшееся в них утверждение, что планеты двигаются по эллиптическим орбитам с постоянно меняющейся скоростью, было далеко не тривиально.

Наши понятия о «хорошо» и «плохо», основанные на священных текстах или социальном опыте, иррелевантны главным движущим силам Вселенной – усложнению и созданию новых знаний. Любое событие или поступок можно пропустить через фильтр этих ценностей и получить ответ, хорошо это или плохо. Например, хорошо ли, что ребенок читает книги? Да, так как он постигает известное знание и тем самым вступает на путь создания нового знания: он сможет (хотя бы потенциально) усложнить Вселенную. Хорошо ли лениться и прокрастинировать? Плохо – ибо это не ведет к развитию и усложнению. Жадность? Зависть? Это все смертные грехи не только потому, что они осуждаются обществом, но еще и потому, что, растрачивая жизнь на них, мы не развиваемся сами и не помогаем окружающим становиться сложнее, умнее и привносить в мир новые знания.

Причем это правило распространяется не только на научное познание мира; художественное творчество – тоже часть эволюции: писатели, скульпторы, художники, музыканты – все они, порождая новые мысли и возбуждая сложные эмоции, делают Вселенную богаче, сложнее, многограннее. Эмоции напрямую влияют на биохимию организма – испытываемые нами счастье, грусть, эйфория, тревога, радость усложняют и без того непростую систему когнитивных функций, впрыскивая в нее гормоны, порождающие новые причинно-следственные связи. Эмоции действуют на мозг как закись азота на двигатель спортивной машины – мысли начинают работать в изменившемся ритме и с другим КПД, так что, глядя на «Звездную ночь» Ван Гога, даже самый ученый сухарь может набрести на что-то неожиданное. Этот момент прекрасно проиллюстрирован в фильме «Вселенная Стивена Хокинга», где катализатором идеи Хокинга о том, что черные дыры могут испускать субатомные частицы, стали лучи света, пробивающиеся через неплотный узор вязаного свитера, который надевала на Стивена жена.

Не будем обманываться – нас окружает общество потребления, где весь спектр человеческих эмоций пытаются направить на возбуждение жажды владеть чем-то. Модная одежда, крутая машина, престижная недвижимость, новейший смартфон, появившийся на прилавках час назад… Это настолько повсеместно возведено в культ, что многие даже не задумываются, где проходит грань между нашими собственными мыслями и желаниями, навязанными окружающей средой, медиакультурой и программируемой рекламой.

Многие мои друзья – мультимиллионеры и даже миллиардеры из списка Forbes – не раз признавались за бокалом Old fashioned в том, что, по сути дела, многие из них испытывают чувство неудовлетворенности жизнью – у них есть все материальные блага, что можно купить за деньги, но, работая ради обогащения, а не созидания и сотворения чего-то нового, они часто оказывались на обочине того, что ощущается как настоящая жизнь, а приобретение дорогих вещей не способно заменить чувства причастности к чему-то волнующему. Не стоит путать это чувство со счастьем. Счастье – это всего лишь мимолетная и сугубо индивидуальная эмоция, которую кто-то способен испытать, допустим «выменяв пенни на шиллинг», – у бакалавра черной магии Магнуса Федоровича Редькина из повести Стругацких «Понедельник начинается в субботу» была громадная коллекция разнообразнейших определений счастья. Как известно, Магнус Федорович занимался поисками Белого Тезиса, призванного осчастливить все человечество, и к подобной идее другие сотрудники Научно-исследовательского института чародейства и волшебства относились иронически – ведь те, чей понедельник начинается в субботу, движимы другими побуждениями – исходящими из глубины человеческой натуры импульсами творческого поиска и созидания.

Посмотрите на Илона Маска, Ричарда Брэнсона, Линуса Торвальдса – это люди, живущие в гармонии с собой (и Вселенной), и в первую очередь потому, что они работают на созидание чего-то нового, революционного, важного, усложняющего мир.

Пару лет назад я шел по улице с супругой и приемным сыном от ее первого брака (ему на тот момент было 15). Сын увидел дорогую машину (мимо проехала Audi TT) и сказал, что мечтает о такой. Когда я поинтересовался почему, он выдал мне ровно то, что продвигает маркетинговый департамент Volkswagen Group относительно этой модели. Отличная работа, что уж тут скажешь. Но я все же решил попытаться подтолкнуть молодежь к поиску собственных желаний (что поделать, жизнь постоянно подсовывает избитые сюжеты; в данном случае были невольно разыграны сцены разговора поколений из фильма «Курьер»):

– Представь, что у тебя есть деньги на нее, прям с неба свалились внезапно и ты ее купил. Что ты хочешь дальше? – спросил я.

– Скорее всего, она мне надоест и я начну копить на Porsche.

– О’кей, представь, что у тебя перед домом стоит новый 911-й и ты ездишь на нем в школу. Дальше, что ты хочешь?

– Куплю себе шикарную квартиру в центре.

– Купил офигенную трехэтажную с чудесным видом, дальше что?

– Дачу в дорогом районе, с собственным причалом и яхтой.

– Отличный выбор, умеешь размахнуться, молодец! Ну вот, ты сидишь у себя на причале, макаешь ножки в море, рядом стоит яхта, в гараже Porsche, шкаф в трехэтажной квартире набит шмотками, а холодильник – стейками и мороженым. Что ты еще хочешь?

На этом месте он задумался и молчал минуты две. Потом посмотрел на меня и сказал: «Не знаю». И я услышал в его голосе нотки дискомфорта от ощущения скудости своих желаний (не в денежном, разумеется, выражении), возможно впервые в жизни посетившего его. Хотелось бы мне, чтобы этот разговор стал чем-то вроде песчинки в хорошо смазанном механизме потребления информации из телевизора и интернета. Не в том смысле, чтобы сын отказался от них, но чтобы задумался о собственных жизненных ценностях – нравоучения тут бесполезны, потому что все глубинные убеждения должны произрасти изнутри.

Почувствовать внутреннюю пустоту в сегодняшнем информационном пространстве и научиться взращивать собственные идеи и мысли крайне тяжело. Интернет-сервисы работают в реальном времени, мы потребляем новости, контент, продукты, общаемся, путешествуем, платим, флиртуем и даже умираем онлайн. Смартфоны и приложения высасывают из жизни гигабайты информации о нашем поведении – кто мы, что делаем, с кем общаемся, что покупаем и как часто. Получив доступ к нашим цифровым «личным делам», они становятся все более успешными в своей главной функции – зарабатывании денег через продажу новых товаров и сервисов. Общество потребления делает все, чтобы мы потребляли, не задавая вопросов о том, что мы на самом деле хотим или что делает нас счастливыми. В этом-то и проблема – современный интернет с его возведенным в абсолют рекламным бизнесом и рекомендациями инфлюенсеров начал постепенно подавлять индивидуальность, наши собственные мысли и поиски себя. Ребенку XXI века сложно прорваться через нагромождения пустопорожних новостей и рекламы, стать новым Илоном Маском или Стивом Джобсом – его мышление формируется под влиянием иной системы ценностей и под диким давлением информационного поля, выстроенного не по принципу «эти 100 книг обязательны к прочтению, чтобы стать Человеком», а по принципу «100 вашим друзьям понравилась эта книга, значит, и вам тоже надо ее прочитать». Между этими двумя путями – пропасть. Хотя бы потому, что путь к созданию нового обязан пролегать через сложности (тратить время на такой тяжелый роман, как «1984»? Зачем?! Ведь можно пойти в клуб!), огромное количество мучительных размышлений, попыток создать что-то уникальное, через череду неизбежных ошибок и неудач.

Это очень важно – иметь собственные мысли, ибо природа не терпит пустоты – если у человека нет своих мыслей, его мышление будет органически и полностью подчинено чужим. В повести Стругацких «Пикник на обочине» Рэдрик Шухарт, добравшийся до Золотого Шара, якобы способного исполнить любое желание, осознает, что за всю жизнь у него не было ни одной собственной мысли – все, что он может пожелать, – не его, а подслушанное, почерпнутое у других, украденное. И произносит в итоге чужое желание: «Счастье для всех, даром, и пусть никто не уйдет обиженный!»

Да и это чужое желание всего лишь квинтэссенция человеческого безмыслия, обнажающая ограниченность антропоцентризма. Неужели целью прогресса является производство тотального массового счастья? Если кто-то так думает, то ему предстоит пережить разочарование. Белый Тезис / Золотой Шар, создаваемый человечеством, предназначен для производства не счастья, а новых смыслов. И человечество вступает в эпоху революции наподобие коперникианской, когда на смену антропоцентричной системе мира придет разумоцентричная.

1.Гладуэлл М. Гении и аутсайдеры. – М.: Манн, Иванов и Фербер, 2016.