Kitobni o'qish: «Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир»

Shrift:

Памяти Уолта Метца, который верил в правду, добро и красоту

И сейчас настало изумительное время: все, что мы почитали знанием, лопнуло, точно мыльный пузырь.
Том Стоппард, «Аркадия», действие I, сцена 4

Когда будут раскрыты все тайны и утрачен последний смысл, мы останемся одни. На пустынном берегу.
Действие II, сцена 7

Перевод с английского выполнил Павел Самсонов

по изданию: Cade Metz. Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World. – Dutton.

Публикуется с разрешения автора и его литературных агентов Ross Yoon Agency (США) через агентство Александра Корженевского (Россия).

Пролог
Человек, который никогда не садится

Декабрь 2012 г.

Забравшись в автобус, чтобы начать путешествие из Торонто к озеру Тахо, Джефф Хинтон садиться не стал. Он не садился уже семь лет. «Последний раз я присел в 2005 году, – часто рассказывал он, – и это было ошибкой». Еще будучи подростком, он надорвал спину, когда по просьбе матери хотел переставить тяжеленный тепловой аккумулятор. Когда годы стали приближаться к шестидесяти, каждый раз, когда он присаживался, возникала опасность, что спину прострелит – а если спину прострелит, боль гарантированно прикует его к постели на несколько недель. Поэтому он перестал садиться. В своем кабинете в университете Торонто он работал, стоя за высоким столом. Чтобы поесть, он клал на пол пенопластовый коврик и становился на колени перед низким столиком, словно буддистский монах, готовящийся к медитации. В машине он ложился на заднее сиденье. А на большие расстояния предпочитал перемещаться поездом. Летать он не мог, по крайней мере коммерческими рейсами, потому что там его принуждали садиться на место во время взлета и посадки. «Дошло до того, что я начал опасаться, что в какой-то момент превращусь в неспособного передвигаться инвалида, так все было серьезно, – говорит он. – Если эту проблему запустить, других проблем у тебя уже не будет».

Той осенью, прежде чем, лежа на заднем сиденье автобуса, добраться до Нью-Йорка, потом поездом доехать до станции Траки, находящейся за перевалом хребта Сьерра-Невада в штате Калифорния, а оттуда уже, лежа на заднем сиденье такси, еще полчаса подниматься выше в горы к спрятавшемуся там озеру Тахо, Джефф Хинтон основал новую фирму. В ее штате было еще два человека, оба – аспиранты из его лаборатории. Никакой продукции они не выпускали. У них и планов таких не было. И на странице их веб-сайта отображалось лишь одно их название¹ – DNNresearch, – еще менее привлекательное, чем сама страница. Шестидесятичетырехлетний Хинтон, который в стенах университета чувствовал себя как дома – всегда в шерстяном свитере, со взъерошенной сединой и вечными шутками-прибаутками, – не очень-то и хотел создавать эту фирму, но эти двое аспирантов насели и таки уговорили его. Но еще до того, как он добрался до озера Тахо, одна из крупнейших китайских компаний уже успела предложить за его новорожденный стартап 12 миллионов долларов, а чуть позже к торгу подключились еще три компании, в том числе две крупнейшие американские.

Он направлялся к Harrah’s и Harvey’s, двум отелям-казино, расположенным у подножия горнолыжного склона на южной стороне озера. В этих двух гигантских зданиях из стекла, стали и бетона, которые, словно близнецы, возвышаются над невадскими соснами, размещались не только залы казино, но и гостиничные номера, просторные конференц-залы и огромное количество (второразрядных) ресторанов. В том декабре там проходила ежегодная научная конференция, сокращенно именуемая NIPS, что расшифровывается как «нейронные системы обработки информации». Основной сферой интересов ученых, съезжающихся на эту конференцию, является искусственный интеллект (ИИ). Уроженец Лондона, один из первопроходцев, занимавшийся тематикой ИИ с начала 1970-х годов в крупнейших университетах Великобритании, США и Канады, Хинтон посещал эти конференции едва ли не каждый год. Но в этот раз все было по-другому. Хотя китайцы уже четко обозначили свою заинтересованность, он знал, что другие претенденты тоже не заставят себя ждать, и конференция NIPS представлялась ему идеальным местом для проведения такого аукциона.

За два месяца до этого Хинтону и его студентам удалось фундаментальным образом усовершенствовать систему «компьютерного зрения». Они построили так называемую искусственную нейронную сеть, математическую систему, моделирующую биологическую сеть нейронов в мозгу, которая оказалась способна распознавать образы самых обычных объектов² – будь то цветы, собаки или автомобили – с немыслимой точностью. Как показали Хинтон и его студенты, такая нейронная сеть может научиться вполне по-человечески распознавать образы, анализируя огромные объемы входящих данных. Методика «глубокого обучения», как назвал этот процесс сам Хинтон, обладала колоссальным потенциалом, и это касалось не только технологий компьютерного зрения, но имело широкие перспективы во множестве других направлений, начиная с «голосовых помощников» и заканчивая разработкой новых лекарств.

Само понятие нейронных сетей восходит к 1950-м годам, но первым ученым, занимавшимся ими, долгое время не удавалось заставить их работать так, как хотелось бы. К началу нового тысячелетия большинство ученых опустили руки и отказались от дальнейших исследований, убежденные в том, что это тупиковая ветвь научно-технического прогресса, и разуверившиеся в распространившемся за полвека представлении, что эти математические системы способны тем или иным образом имитировать работу человеческого мозга. Те же ученые, которые продолжали работать над этой темой, предпочитали маскироваться и, когда подавали свои статьи в научные журналы, заменяли словосочетание «искусственные нейронные сети» терминологией, не так резавшей слух разочаровавшейся ученой братии. Хинтон оставался одним из тех, кто твердо верил, что однажды все образуется, и продолжал работать над созданием машин, способных не только распознавать образы объектов, но также различать произносимые слова, понимать естественный язык, поддерживать беседу и, может быть даже, решать задачи, которые не под силу человеческому мозгу, что позволяло бы открывать новые пути постижения тайн биологии, медицины, геологии и других наук. Его позицию считали эксцентричной даже в стенах его родного университета; руководство на протяжении многих лет отказывало ему в просьбе нанять еще одного специалиста, который бы мог сопровождать его на этом трудном и извилистом пути к созданию машин, способных учиться самостоятельно. «Одного сумасшедшего, работающего над этим, более чем достаточно», – так он любил объяснять их позицию.

Но вот весной и летом 2012 года Хинтон и его двое аспирантов совершили настоящий прорыв: они показали, что искусственная нейронная сеть способна распознавать обычные объекты с точностью, выходящей далеко за рамки возможностей любых других технологий. В девятистраничной статье, опубликованной осенью того же года, они провозгласили на весь мир, что идея нейронных сетей все же восторжествовала, как это Хинтон давным-давно предсказывал.

Несколько дней спустя Хинтон получил письмо от Кая Юя, еще одного специалиста по ИИ, работавшего на китайскую технологическую компанию Baidu. Казалось бы, у Хинтона и Юя было очень мало общего. Хинтон родился в семье выдающихся британских ученых, авторитет которых соперничал лишь с их эксцентричностью, учился в Кембридже, потом закончил аспирантуру Эдинбургского университета, где получил ученую степень по специальности «Искусственный интеллект», и последующие тридцать лет занимался преподавательской работой и исследованиями в области информатики. Юй родился на тридцать лет позже Хинтона в коммунистическом Китае. Он был сыном инженера, работавшего на автозаводе, учился в Нанкине, затем в Мюнхене, а потом нашел работу в одной из научных лабораторий Кремниевой долины. Эти два человека были совершенно разными по происхождению, возрасту, культурной, языковой, географической принадлежности, но их объединял общий интерес к необычному предмету: искусственным нейронным сетям. Первый раз они встретились в Канаде во время научного семинара, который был созван в надежде оживить эту почти уснувшую область исследований. В этих же целях был проведен ребрендинг идеи нейронных сетей, и в научный обиход вошло понятие «глубокое обучение». Юй был в числе тех, кто помогал распространять это новое «евангелие». Когда он вернулся в Китай, на его научную деятельность положил глаз генеральный директор Baidu. И когда исследователи из Университета Торонто выпустили в свет свою девятистраничную статью, Юй доложил членам мозгового штаба Baidu, что им стоит как можно скорее нанять Хинтона. В своем письме он представил Хинтона вице-президенту Baidu, и тот предложил Хинтону 12 миллионов долларов в обмен на несколько лет совместной работы.

Если в Пекине считали, что дело на мази, то сам Хинтон не был в этом уверен. За последние месяцы у него наладились отношения с представителями нескольких других компаний, как крупных, так и не очень, включая двух крупнейших американских конкурентов Baidu. Те тоже звонили ему в Торонто и спрашивали, не захочет ли он перейти к ним на работу вместе со своими аспирантами. Видя перед собой такой широкий спектр возможностей, он спросил у руководства Baidu, согласны ли они на то, чтобы он, прежде чем принять предложенные 12 миллионов, рассмотрел другие варианты. Когда они согласились, он смог перевернуть ситуацию с ног на голову. Подстрекаемый своими аспирантами, да и сам понимающий, что Baidu и их конкуренты с большей охотой заплатят огромные деньги за готовую компанию, вместо того чтобы за ту же сумму нанимать в свой штат нескольких ученых, он учредил свой крошечный стартап. Название компании, DNNresearch, содержало в себе отсылку к «глубоким нейронным сетям» (deep neural networks), на которых они специализировались, и Хинтон поинтересовался у своего юриста в Торонто, как бы ему добиться максимальной продажной цены для компании из трех сотрудников, ничего не производящей и не имеющей за плечами практически никакой истории. Юристу виделись два варианта: Хинтон мог бы нанять профессионального переговорщика, рискуя обозлить потенциальных покупателей его крошечного предприятия, или устроить аукцион. Хинтон выбрал аукцион. В конечном счете свои заявки на участие в аукционе подали четыре претендента: Baidu, Google, Microsoft и еще одна небольшая фирма, которая существовала лишь два года и о которой мало кто слышал. Это была лондонская фирма DeepMind, основанная нейробиологом Демисом Хассабисом, которая в последующее десятилетие значительно выросла и вошла в число наиболее известных и влиятельных лабораторий, занимающихся искусственным интеллектом.

За неделю до аукциона Алан Юстас, главный инженер Google, прилетел на южный берег озера Тахо на собственном двухмоторном самолете. Там он пригласил Хинтона и его аспирантов на ужин в один из ресторанов на верхнем этаже комплекса Harrah’s, стейк-хаус, украшенный тысячей пустых бутылок из-под вина. Это был шестьдесят пятый день рождения Хинтона. Там присутствовал также один из ведущих инженеров Google Джефф Дин. Сам Хинтон стоял возле барной стойки, а остальные сидели на табуретах и обсуждали амбиции Google, предстоящий аукцион и последние результаты исследований, проводящихся в торонтской лаборатории. Посланцы Google видели главную цель этого ужина в том, чтобы ближе присмотреться к юным аспирантам Хинтона, которых они до того дня в глаза не видели. Компании Baidu, Microsoft и DeepMind также прислали своих представителей на конференцию, и некоторые из них приняли участие в аукционе. Кай Юй из Baidu, по наущению которого и началась эта гонка за Хинтоном и его студентами, тоже встретился с ними троими до начала торгов. Но все вместе – в одно время и в одном месте – претенденты так и не собрались. Аукцион проводился дистанционно: предложения поступали по электронной почте от руководителей заинтересованных компаний – из Калифорнии, Лондона и Пекина. И Хинтон позаботился о том, чтобы участники аукциона не знали друг о друге.

Сам он руководил аукционом, оставаясь в своем номере (731) в отеле Harrah’s, выходившем окнами на снежные горные пики и поросшие соснами склоны. Каждый день он назначал время для очередного раунда торгов, и к условленному часу он и его аспиранты собирались в его двухместном номере и следили за поступающими предложениями через ноутбук. Чтобы Хинтон мог стоя пользоваться ноутбуком, они поместили его на перевернутую мусорную корзину, которую водрузили на стол. Предложения доставлялись через Gmail, онлайновый почтовый сервис Google, – просто потому, что Хинтон пользовался именно этой почтой. Надо сказать, что у Microsoft это первоначально вызвало возражения. Незадолго до аукциона компания высказала опасение, что Google, ее главный конкурент, будет иметь возможность заглядывать в письма своих соперников и пользоваться этим в своих интересах. Хинтон ранее уже обсуждал такую возможность со своими аспирантами, хотя его это беспокоило в меньшей степени и лишь подвигло на лукавый комментарий о растущем могуществе Google. Строго говоря, руководители Google действительно имели доступ к любым письмам, отправляемым через Gmail. Хотя по условиям использования почтового сервиса они обязывались не делать этого, технически они могли нарушить свои обязательства, причем так, что об этом никто бы и не узнал. В конце концов Хинтон и Microsoft решили отбросить свои сомнения («Мы были вполне уверены, что Google не станет читать наши письма», – вспоминал он впоследствии), и это был судьбоносный момент, хотя на тот момент никто из участников этого не сознавал.

Правила аукциона были простые: сделав заявки, четыре компании имели в своем распоряжении час времени, чтобы поднять предлагаемую цену как минимум на миллион долларов. Этот часовой обратный отсчет начинался в тот момент, когда приходила последняя из заявок, и, если по истечении часа никто новых предложений не вносил, торги закрывались. Компания DeepMind в своих заявках предлагала не деньги, а собственные акции, но ей было не под силу тягаться с тремя гигантами, и она быстро сошла с дистанции. Оставались Baidu, Google и Microsoft. Ставки продолжали расти, и когда они достигли 15, а потом и 20 миллионов, компания Microsoft тоже было отказалась от дальнейшего участия, но потом вернулась. Каждая минута на протяжении торгов держала Хинтона и его аспирантов в напряжении, и они не переставали обсуждать, какой из компаний им все-таки стоит отдать предпочтение. Ближе к вечеру, любуясь в окно на горнолыжные склоны и вершины гор, они увидели в небе два самолета, которые, разлетаясь в разные стороны, оставили после себя дымный след в форме огромного Х. Возбужденные всей этой атмосферой, они начали спорить, что могло бы означать это знамение, и вдруг вспомнили, что штаб-квартира Google располагается в городе под названием Маунтин-Вью, то есть «горный вид». «Означает ли это, что мы должны присоединиться к Google? – спросил Хинтон. – Или это означает, что не должны?»

Когда цена достигла 22 миллионов, Хинтон приостановил торги для консультации с одним из претендентов, и полчаса спустя компания Microsoft вновь выпала из числа соискателей. Остались Baidu и Google, которые продолжали поднимать ставки. Со стороны Baidu торгами первоначально занимался Кай Юй, но, когда цена достигла 24 миллионов, один из директоров компании взял управление на себя. Юй же время от времени захаживал в номер 731 в надежде хоть как-то почувствовать, что там происходит с торгами.

Хотя Юй даже не подозревал об этом, его визиты составляли для Хинтона немалую проблему. Ему было уже шестьдесят пять, и его организм плохо переносил климат озера Тахо, где воздух сухой, холодный и разреженный. Он боялся заболеть, а еще больше боялся, как бы Юй или кто-нибудь еще не увидели его в болезненном, немощном состоянии. «Я не хотел, чтобы они видели во мне больного старика», – говорит он. Поэтому он снял матрас с раздвижного дивана, стоявшего у стены, и положил его на пол между двумя кроватями. Над матрасом он соорудил навес, перекинув с кровати на кровать гладильную доску и несколько других подобных предметов. Вечером он развешивал на этом каркасе мокрые полотенца и спал каждую ночь под этим импровизированным балдахином, дыша влажным воздухом. Хинтон полагал, что это поможет ему не заболеть. Проблема была, однако, в том, что в дни аукциона Юй, круглолицый коротышка в очках, то и дело заглядывал к нему в номер поболтать. И Хинтону не хотелось, чтобы Юй увидел, как он старается не заболеть. Поэтому каждый раз, когда Юй просил разрешения зайти, он поручал двум своим помощникам-студентам спрятать с глаз матрас, гладильную доску и мокрые полотенца. «Самая подходящая работа для вице-президентов», – говорил он им.

После одного такого визита Юй забыл у них свой рюкзачок, и, когда они увидели его на стуле, возникло искушение заглянуть туда и, может быть, обнаружить там что-то, что подскажет, как высоко компания Baidu намерена продолжать поднимать ставки. Но они не стали этого делать, решив, что это было бы непорядочно. В любом случае они скоро узнали, что компания Baidu была готова заплатить гораздо больше: и 25, и 30, и 35 миллионов. И каждая такая новая заявка приходила за минуту или две до истечения часа, после чего торги, которые, казалось, вот-вот закончатся, снова продлевались.

Когда ставки поднялись так высоко, Хинтон решил сократить время на размышление с часа до тридцати минут. Цифры пошли вверх быстрее: 40 миллионов, 41 миллион, 42 миллиона, 43 миллиона… «Мы чувствовали себя почти как в кино», – говорит он. В один из вечеров он приостановил торги уже почти в полночь, когда цена достигла 44 миллионов. Ему нужно было хоть немного поспать.

На следующий день, примерно за полчаса до запланированного возобновления аукциона, он отправил участникам письмо о том, что начало торгов откладывается. Еще через час они получили новое письмо: аукцион завершен. Ночью Хинтон принял окончательное решение продать свою компанию Google – больше не делая попыток дальнейшего повышения цены. В письме, адресованном руководству Baidu, он дал понять, что в дальнейшем любые сообщения от них будут переадресовываться его новому работодателю, хоть и не упомянул, кто именно этот работодатель.

Как он позже признался, на Google он был настроен изначально. Даже Кай Юй был уверен в том, что Хинтон в конечном счете отдаст предпочтение Google или какой-то другой американской компании, потому что с его спиной перебираться в Китай было проблематично. В этой связи Юй почитал за счастье уже то, что компания Baidu оказалась в числе претендентов. Этот аукцион, заставивший американских конкурентов пойти во все тяжкие, полагал он, показал руководителям Baidu, какой огромный потенциал на многие годы вперед таится в технологии глубокого обучения.

Хинтон остановил аукцион потому, что найти оптимальное место для проведения дальнейших исследований было для него гораздо важнее, чем получить максимально возможную цену. Когда он дал знать представителям Google, что останавливает торги на отметке 44 миллиона долларов, они поначалу решили, что он шутит, ведь цену можно было еще поднимать и поднимать. Но он не шутил, и его аспиранты так же хорошо понимали ситуацию, как и он сам. Они были ученые, а не предприниматели, и они преданы в первую очередь идее.

Но Хинтон до конца сам не сознавал, насколько ценной окажется эта идея. Никто этого не сознавал. Вместе с небольшой группой других ученых – распределенных по все тем же четырем компаниям, которые участвовали в аукционе, плюс еще один американский интернет-гигант, а впоследствии плюс еще один новый стартап – Хинтон и его аспиранты сумели внедрить эту идею в самое сердце IT-индустрии. Это позволило резко ускорить прогресс разработок искусственного интеллекта, включая разработки в области голосовых помощников, беспилотных автомобилей, робототехники, кибермедицины, а также – хоть это и не входило в первоначальные намерения – кибероружия и кибербезопасности. «Это изменило мой (и не только мой) взгляд на высокие технологии», – говорит глава инженерного подразделения Google Алан Юстас.

Некоторые ученые, в частности Демис Хассабис, молодой нейробиолог и один из основателей DeepMind, даже поверили в то, что им со временем удастся создать такую машину, которая будет способна делать все, что может делать человеческий мозг, только лучше, и это позволит осуществить ту самую мечту, которая вдохновляла первопроходцев компьютерной эры. Никто не может сказать, когда такая машина появится. Но даже в обозримой перспективе распространение «умных» – хоть еще и далеких от настоящего интеллекта – машин будет иметь колоссальные социальные последствия. Эти могущественные технологии всегда пленяли и пугали людей, и человечество время от времени пыталось играть с ними. На этот раз ставки настолько высоки, что даже самые выдающиеся умы не представляют, куда это может нас завести. Развитие методики глубокого обучения знаменовало фундаментальные изменения в самом построении цифровых технологий. Вместо того чтобы тщательно предопределять, как должна вести себя машина – правило за правилом, команда за командой, – инженеры приступили к созданию машин, которые учатся решать задачи на своем собственном опыте, и этот опыт охватывает совершенно колоссальные массивы цифровой информации, которые неспособна уместить в себе никакая человеческая голова. В результате возникнет новая порода машин, которые будут не только более могущественными, чем все предыдущие, но также более таинственными и непредсказуемыми.

Когда эта технология обучения только начинала распространяться в интернете, никто еще толком не сознавал, что обучающиеся машины впитывают в себя также и все предрассудки своих создателей. Ученые, первоначально занимавшиеся их созданием, – это по преимуществу белые мужчины, и все нюансы проблематики они оказались способны уловить только тогда, когда им на них указали представители нового поколения исследователей, включающего в себя женщин и небелых. По мере того, как эта технология продвигается все дальше и глубже – в системы здравоохранения, государственной безопасности и в вооруженные силы, – этот перекос может иметь серьезные последствия. Технология глубокого обучения обладает внутренней силой, которую до конца не способны контролировать даже сами разработчики этой технологии, особенно когда эта сила попадает в руки компаний-гигантов, движимых ненасытным стремлением к прибыли.

После того как аукцион, организованный Хинтоном, завершился и подошла к концу конференция NIPS, Кай Юй самолетом отправился в Пекин. На борту он наткнулся на научного сотрудника Microsoft, урожденного китайца по имени Ли Дэн, который тоже сыграл свою роль в аукционе. Юй и Дэн знали друг друга много лет по конференциям и семинарам, посвященным проблематике ИИ, и вот в самолете их места оказались рядом. Хинтон позаботился о том, чтобы ни одна компания, участвовавшая в аукционе, не знала, кто еще участвует, а знать очень хотелось. Дэн любил пообщаться, и они на протяжении всего многочасового перелета бурно обсуждали тему подъема технологии глубокого обучения. Но что касается их участия в аукционе, то здесь они были привязаны клятвой верности своим работодателям и потому, напрямую не говоря об этом, ходили вокруг да около, пытаясь выведать секреты друг у друга и при этом не выдать себя. Да они и без лишних слов понимали, что новая конкурентная война уже началась. Их компаниям так или иначе предстояло дать достойный ответ на этот прорыв Google. Так уж устроен мир интернет-технологий. Это было начало глобальной гонки вооружений, и эта гонка очень скоро приведет к таким последствиям, которые еще несколько лет назад казались немыслимыми.

А Джефф Хинтон тем временем возвращался поездом в Торонто. Через некоторое время он переберется в калифорнийский Маунтин-Вью, где располагается головной офис Google, но, даже став штатным сотрудником этой компании, он сохранит за собой должность профессора Университета Торонто и будет продолжать держаться за свою систему принципов и убеждений, служа примером для многих других ученых, которые вслед за ним пополнили ряды крупнейших технологических компаний. Когда его годы спустя спросили, какие все-таки компании участвовали в том аукционе, он ответил как всегда своеобразно. «Я подписал контракты, которые запрещают мне разглашать, с кем мы вели переговоры, – сказал он. – Один такой контракт я подписал с Microsoft, другой с Baidu, третий с Google. Так что лучше не будем об этом». DeepMind он не упомянул. Но это другая история. После аукциона на озере Тахо Демис Хассабис, основавший лондонскую лабораторию DeepMind, во многом пошел по стопам Хинтона. В чем-то его открытия вторили открытиям последнего, в чем-то он проникал в будущее даже еще дальше. Очень скоро Хассабис тоже вовлекся в глобальную гонку вооружений.

В этой книге рассказывается о Хинтоне, Хассабисе и других ученых, которые стояли у истоков этой гонки, о небольшой, но весьма разношерстной группе исследователей со всего земного шара, которые десятки лет вынашивали свою идею, порой преодолевая неприкрытый скептицизм, пока эта идея не вызрела и не вызвала невероятную, неожиданную суматоху, которая затронула жизненные интересы крупнейших мировых корпораций.