Kitobni o'qish: «Искусственный интеллект в медицине. Как умные технологии меняют подход к лечению»

Name: Искусственный интеллект в медицине. Как умные технологии меняют подход к лечению
Author: Эрик Тополь
ISBN: 9785961474763

Эрик Тополь

Shrift:

Посвящается моей семье – Сьюзен, Саре, Ивену, Антонио, Джулиану и Изабелле. Спасибо за беззаветную поддержку и вдохновение, которые позволили мне завершить эту работу

Редакция благодарит за помощь в подготовке книги Игоря Корсакова, эксперта и консультанта проекта по машинному обучению Webiomed https://webiomed.ai / team / igor-korsakov / ikorsakov@webiomed.ai

Eric Topol

DEEP MEDICINE

How Artificial Intelligence

Can Make Healthcare Human Again

Предисловие

Жизнь можно понять лишь задним числом; но жить надо, глядя в будущее.
Сёрен Кьеркегор

Среди многих качеств, которые делают нас людьми и выделяют среди животных, немалое место занимает потребность оглядываться назад. Трудно вообразить, как представитель другого биологического вида поздней ночью печально размышляет о погибшем товарище или об упущенном шансе устроиться на приличную работу. Мы, однако, возвели способность размышлять о прошлом в ранг науки, оглядываясь на свой собственный вид так, словно мы – Творец, просматривающий писаную историю человечества и отмечающий вехи его прогресса от укрощения огня до изобретения микрочипа. А потом мы стараемся придать всему этому какой-то внятный смысл.

Тезис Кьеркегора о том, что мы живем, устремляя взор в будущее, но осмысливаем жизнь, глядя в прошлое, означает лишь одно: мы вспоминаем прошлое, имея в лучшем случае (неточные) сведения о нем. Но, не в упрек Кьеркегору и Джорджу Сантаяне¹ будет сказано, понимание истории не обязательно дает нам противоядие от ее повторения. Для того, чтобы в этом убедиться, достаточно бегло проглядеть текущие новости. Коротко говоря, прошлое ненадежно даже в качестве руководства по избеганию прежних ошибок. Определенно только будущее, ибо его сотворение целиком и полностью в наших руках.

Эти рассуждения приводят нас к футурологам, один из которых – автор этой чудесной книги. Такие люди, как он, услышав о том, что братья Райт поднялись в воздух, способны предвидеть бюджетные авиарейсы, крупные аэропорты и людей, высадившихся на Луне. Эти историки настоящего начинают свое исследование с того, что происходит сегодня; эти люди спрашивают не о том, как избежать ошибок прошлого, а о том, как приумножить достижения настоящего. Вооружившись карандашом и блокнотом или планшетом, они начинают разведывать научно-технологический фронтир, они дотошно расспрашивают тех, кто неустанно сражается на передовых рубежах, а также тех, кто сумел прорваться и дальше. Они ищут новаторов, ученых, чудаков и мечтателей. Они прислушиваются, отслеживают события, просеивают полученную информацию и синтезируют новые знания на стыке многих научных дисциплин, чтобы все это обрело смысл для нас. Как вы увидите на примере книги «Искусственный интеллект в медицине», это весьма трудная в интеллектуальном плане задача, не говоря уже о том, что она требует и незаурядных творческих способностей. Для ее решения должно быть хорошо развито не только левое, но и правое полушарие, но при этом понадобится призвать на помощь муз, ибо такие книги, как эта, не просто доносят материал, но требуют от читателя вдохновения.

«Искусственный интеллект в медицине» – это третья книга Эрика Тополя; очередное исследование того, что ждет нас в будущем. В предыдущих работах, если взглянуть на них в свете нашего нынешнего положения, были изложены поистине провидческие идеи. В «Искусственном интеллекте в медицине» Эрик замечает, что мы живем в эру четвертой промышленной революции, революции настолько глубинной, что ее невозможно сравнивать даже с изобретением парового двигателя, железных дорог и электричества, даже с переходом к массовому производству и даже с компьютерной эпохой, если принять во внимание масштабы перемен, которые повлечет за собой эта новая революция. Четвертая промышленная революция, когда все будет вращаться вокруг искусственного интеллекта (ИИ), робототехники и больших данных, уже началась и проявляется в том, как мы теперь живем и работаем, а возможно, и в нашем осмыслении себя как людей. Эта революция может ощутимо нам помочь, но может и серьезно навредить, углубив пропасть между богатыми и теми, у кого с каждым годом становится все меньше денег.

Эта революция коснется всех сфер человеческой деятельности, и медицину она затронет не в последнюю очередь. Сама медицина в настоящее время переживает кризис. Несмотря на невероятный и исключительный прогресс в медицинской науке и врачебном деле за последние четыре десятка лет, мы все равно слишком часто не в силах помочь больным. Мы оказываемся не в состоянии следовать протоколу лечения, мы не преуспеваем в искусстве врачевания, потому что не видим перед собой уникальную личность. Мы знаем геном больных, но не умеем выслушать их истории, мы не врачуем их разбитые сердца. Мы не видим нейрофибром – припухлостей на теле, свидетельствующих о пароксизмальной гипертонии, – потому что не раздеваем больных во время осмотров, хотя это необходимо, ибо мы должны обращать внимание на состояние тела, а не смотреть на экраны. Поэтому мы не видим и ущемленную грыжу у пожилого больного, которая является причиной рвоты, и нам приходится дожидаться дорогой компьютерной томографии и объяснений рентгенолога, который скажет нам то, что мы могли бы увидеть собственными глазами буквально у себя под носом. Страны, расходующие баснословные деньги на здравоохранение, отстают по таким основным показателям, как, например, детская смертность, от многих стран, которые тратят значительно меньше. Думаю, очень показателен тот факт, что автор начинает свою книгу с описания случая из собственной жизни, когда ему не смогли верно диагностировать редкое заболевание, потому что врач не удосужился его выслушать, не увидел в нем человека, личность. Это очень печальная и болезненная история.

Нет ничего удивительного в том, что высокие технологии хотя и радикально изменили к лучшему нашу способность заглядывать в тайны человеческого организма, определять молекулярную структуру здоровых и больных тканей, но все же способны ошибаться – как и люди. Показательнейший пример – системы ведения электронных медицинских карт (ЭМК), которые внедрили в наши дни в большинстве госпиталей. Эти системы создали, чтобы упростить выставление счетов за лечение, а не для облегчения труда врачей и медицинских сестер. Такие системы угрожают благополучию врача, они являются одной из причин его выгорания и ухода из профессии; более того, они провоцируют невнимательность врача, так как присутствуют в кабинете постоянно, как непрошеный, назойливый и неприятный гость: экран притягивает внимание врача, отвлекая его от пациента. В книге «Отравленный собственной болезнью» (Intoxicated by My Illness), потрясающем описании последних стадий рака предстательной железы, ее автор Анатоль Бруайяр с грустью замечает, что его урологу следовало бы «буквально на пять минут задуматься о ситуации пациента, задуматься по-настоящему, целиком, не отвлекаясь, ему следовало бы вникнуть в положение пациента, проникнуться им хотя бы ненадолго, заглянуть в его душу, а не только внутрь тела, чтобы понять, в чем заключается его болезнь, ибо каждый человек болеет по-своему»². Это горькое суждение, высказанное незадолго до эры электронных медицинских карт, отражает фундаментальную потребность больного человека; эта потребность всегда была, есть и будет, она, я уверен, не изменится никогда, несмотря на то, что меняется окружающий нас мир. Это правило на все времена: каждый человек переносит болезни по-своему.

Я с воодушевлением и трепетом смотрю в будущее и жду, когда мы сможем обуздать большие данные. В силу способности быстро просматривать и обрабатывать огромные массивы данных искусственный интеллект и машинное обучение позволят достичь невероятной точности в диагностике заболеваний и в прогнозировании их течения. Я не хочу сказать, что искусственный интеллект сможет заменить человека: да, эти технологии, вероятно, обеспечат нас рекомендациями намного более точными, нежели сейчас, но все равно будет нужен искусный, заботливый и внимательный врач, чтобы вместе с пациентом и другими коллегами составить по-настоящему индивидуальную схему лечения. Более 2000 лет назад Гиппократ сказал: «Более важно знать, какой человек страдает некоей болезнью, нежели знать, какой болезнью страдает человек». В 1981 г. в редакционной статье, посвященной использованию компьютеров для оценки риска проведения нагрузочных проб в кардиологии, Роберт Калифф и Роберт Розати писали: «Правильная интерпретация и потенциальная польза компьютеризированных данных будет зависеть от мудрости лечащего врача, опирающегося, кроме того, и на другие, более ранние источники информации»³. Это вечный принцип, который будет верен всегда, пока мы говорим о людях, а не о деталях на конвейерной ленте.

В конце концов мы возвращаемся к констатации удивительного факта: мы люди, мы состоим из плоти и крови, мы обладаем разумом и сознанием, заключенными в не менее сложном теле. Взаимодействие тела и сознания человека сложно и до сих пор окутано тайной. Но нет никакой тайны в следующем: когда мы заболеваем, мы в первую очередь нуждаемся в уходе; болезнь, и особенно болезнь тяжелая, превращает нас в маленьких детей. И пусть нам не обойтись без технических навыков и знаний, пусть нам нужны научная точность и лучшее высокотехнологичное лечение, пусть мы хотим, чтобы наш врач «знал» нас (и, в отличие от времен Гиппократа, это подразумевает и знание генома, протеома, метаболома, транскриптома, а также расчетных данных, предоставляемых ИИ, и т. д.), – нам, безусловно, необходимо, чтобы все эти сведения нам излагал заботливый, сопереживающий врач; сопереживания мы хотим и от других медицинских работников. Мы хотим, чтобы врач – заботливый живой человек, а не машина – тратил на нас свое время, осматривал нас, хотя бы для того, чтобы подтвердить, где именно гнездится болезнь, и показывал это на нашем теле, а не в результатах биопсии или на рентгеновском снимке. Этот личный осмотр сам по себе выражает уважение к нашей личности, показывает важность нашей жалобы на боль, когда врач дотрагивается до больного места. Как сказал много лет назад Пибоди⁴, секрет лечения пациента заключается в заботе о пациенте.

Мы хотим, чтобы те, кто нас лечит, заглянули нам в душу, узнали бы о наших сокровенных страхах, о цели нашей жизни, о том, ради чего мы готовы жить и умереть.

Это есть – и всегда будет – нашим самым заветным желанием.

Абрахам Вергезе,
врач, профессор теории и практики медицины Медицинской школы Стэнфордского университета, автор книги «Рассечение Стоуна»

Глава 1
Знакомство с применением искусственного интеллекта в медицине

Можно надеяться, что таким путем мы построим не дивный новый мир, не некую идеальную утопию, а достигнем куда более скромной, но желанной цели – истинно человеческого общества.
Олдос Хаксли

– Желательно, чтобы ваш семейный врач выписал вам антидепрессанты, – сказал мне ортопед.

Мы с женой недоуменно переглянулись. В конце концов, я пришел на прием к ортопеду (через месяц после операции замены коленного сустава), а отнюдь не за советами по поводу моего душевного здоровья.

Колени болели у меня с подросткового возраста из-за редкого заболевания, называемого рассекающим остеохондритом. Причина этой болезни до сих пор неизвестна, но последствия видны невооруженным глазом. К 20 годам, когда я поступил на медицинский факультет, мне уже были сделаны реконструктивные операции на обоих коленных суставах. В течение следующих 40 лет мне приходилось постепенно снижать физическую активность, последовательно исключив из нее бег, теннис, пеший туризм и эллиптические упражнения. Вскоре мне стало больно даже просто ходить, несмотря на внутрисуставные инъекции стероидов и синовиальной жидкости. Наконец в 62 года мне сделали операцию протезирования левого коленного сустава. Ежегодно в США делают 800 тыс. таких операций, это одно из самых распространенных ортопедических вмешательств. Мой ортопед счел меня идеальным кандидатом: я был сравнительно молод, худощав и спортивен. По его словам, единственное серьезное осложнение – это инфекция, которая встречается в 1–2 % случаев. Но я невольно помог обнаружить еще одно.

После операции мне назначили стандартную – и, как мне было сказано, единственную – физиотерапевтическую процедуру, которая началась на второй день после вмешательства. Лечение заключалось в интенсивном сгибании и разгибании ноги в суставе для профилактики образования рубцов внутри сустава. Я не мог полноценно согнуть ногу в колене, так что седло велосипеда пришлось поднять как можно выше, и я крутил педали, крича от боли после первых нескольких оборотов. Эту боль не мог снять даже оксикодон. Через месяц колено стало багрово-красным, опухло и практически перестало сгибаться. Оно болело так, что я мог спать лишь урывками, каждый раз не более часа. Иногда я просто плакал от невыносимых страданий. Именно поэтому ортопед и порекомендовал мне антидепрессанты. Это уже выглядело довольно безумно. А потом еще и хирург настоял на более интенсивной физиотерапии, хотя после каждого занятия мне становилось все хуже… Я с трудом вышел из клиники и забрался в машину, чтобы ехать домой. Ужасная боль, отек и скованность не проходили несмотря ни на что. Я был в отчаянии и перепробовал все, чтобы успокоить боль: акупунктуру, электроакупунктуру, холодный лазер, чрескожную электрическую нейростимуляцию, кожные мази и пищевые добавки, включая куркумин, кислую вишню и многое другое – вполне сознавая при этом, что ни один из этих методов не обладает доказанной эффективностью.

Через два месяца после операции к поискам лечения присоединилась моя жена, которая раскопала где-то книгу под названием «Артрофиброз». Я никогда не слышал о такой болезни, но оказалось, именно ею я и страдал. Артрофиброз – это осложнение, которое встречается у 2–3 % больных, перенесших протезирование коленных суставов. Осложнение это встречается достаточно редко, но все же чаще, чем инфекция, о которой ортопед меня предупреждал до операции. На первой же странице книги было четко описано мое состояние: «Артрофиброз – это катастрофа». Точнее, артрофиброз – это неадекватная воспалительная реакция на протезирование колена, чем-то похожая на отторжение искусственного сустава. Исходом заболевания является обширное рубцевание тканей сустава. Когда я явился на прием к ортопеду через два месяца после операции, то сразу спросил, нет ли у меня артрофиброза. Он ответил, что я абсолютно прав, но он ничего не может сделать в первый год после операции – воспаление должно «выгореть», после чего можно будет снова вскрыть сустав и удалить образовавшиеся рубцы. Одна мысль о том, что мне придется прожить еще год в страшных мучениях, а потом снова решиться на операцию, повергла меня в шок.

По рекомендации одного моего друга я отправился на прием к физиотерапевту. Эта женщина за 40 лет повидала много пациентов с рассекающим остеохондритом, и она хорошо знала, что рутинные физиотерапевтические процедуры именно для таких больных, как я, – наихудший выход. Вместо стандартных нагрузок, включающих интенсивное сгибание и разгибание сустава (что в моем случае лишь усиливало формирование рубцов), эта женщина выбрала более щадящий подход: она посоветовала мне прекратить все физические нагрузки и назначила противовоспалительные препараты. Она от руки написала длинную инструкцию на целую страницу и каждый день присылала мне сообщения, интересуясь состоянием «нашего колена». Это было спасение. Я начал быстро поправляться. Теперь, много лет спустя, мне все еще приходится каждый день бинтовать колено, чтобы сгладить результаты «лечения». А главное – скольких мучений можно было бы избежать!

Как станет ясно из этой книги, искусственный интеллект (ИИ) мог бы предсказать, что меня могут ожидать разнообразные послеоперационные осложнения. Полный обзор источников – при условии, что нашлись бы такие опытные физиотерапевты, как та женщина, к которой я в итоге попал, – помог бы определить, что мне показана особая, нестандартная тактика послеоперационного лечения. Но не только врачи получили бы больше информации о риске, который может подстерегать их подопечных. Виртуальный медицинский справочник в моем смартфоне или ноутбуке мог бы вовремя предупредить и меня, пациента, о высоком риске артрофиброза и о том, что риск этот становится еще выше на фоне стандартного послеоперационного лечения. Мало того, этот виртуальный консультант мог бы порекомендовать мне, куда можно обратиться за более щадящим лечением, чтобы избежать жутких страданий. А меня проблема застала врасплох, и ортопед даже не принял во внимание, что у меня в анамнезе рассекающий остеохондрит, когда обсуждал со мной возможный риск, – хотя, как выяснилось впоследствии, остеохондрит является одним из факторов, провоцирующих развитие моей серьезной патологии, артрофиброза.

Многие проблемы здравоохранения невозможно решить с помощью передовой технологии, алгоритмов или машин. Бездушная, как у робота, реакция врача на мой стресс превосходно иллюстрирует недостающий компонент медицинской помощи. Конечно, операция была выполнена грамотно и умело, но это лишь технический компонент. Предложение принимать антидепрессанты говорит об отсутствии человеческого отношения и сопереживания в современной медицине. Конечно, эмоционально я был подавлен, но проблема была вовсе не в самой депрессии, а в сильной боли и скованности, которая превращала меня в заржавевшего Железного Дровосека. Отсутствие сострадания у ортопеда было почти физически ощутимым: за все месяцы, прошедшие после операции, он ни разу по собственной инициативе не поинтересовался, как я себя чувствую. А специалист по лечебной физкультуре и физиотерапии не только обладала специальными медицинскими знаниями и опытом лечения моего осложнения – она действительно обо мне заботилась. Неудивительно, что нашу медицину поразила эпидемия назначений опиатов. Понятно, что врачу намного быстрее и проще назначить наркотики, чем слушать пациента, пытаясь его понять.

Практически каждый, у кого есть хроническое заболевание, переживал то же, что и я. Такое вообще случается слишком часто. Мне повезло, что я сам врач и нахожусь внутри системы здравоохранения, – но, как вы сами видите, проблема настолько запущена, что даже знание системы изнутри не гарантирует хорошего лечения. Но и искусственный интеллект сам по себе тоже не решит эту проблему. Необходимо вмешательство человека, ибо по мере того, как машины берут на себя все более сложные задачи, человеку становится легче проявлять гуманность.

Искусственный интеллект в медицине – это отнюдь не футуристическая фантазия. Мощь искусственного интеллекта уже используется для спасения человеческих жизней. Мой близкий друг, доктор Стивен Кингсмор, специалист по медицинской генетике, возглавляет исследования по генетической программе, которую проводят в детской больнице имени Рэйди в Сан-Диего. Недавно его группа попала в Книгу рекордов Гиннесса за расшифровку генома человека на материале одной пробы крови всего за 19,5 ч⁵.

Некоторое время тому назад один здоровый новорожденный младенец, прекрасно взявший грудь, был выписан вместе с мамой из родильного отделения домой на третий день жизни. Однако на восьмой день мать привезла малыша в отделение скорой помощи больницы имени Рэйди. У ребенка непрерывно следовали друг за другом судорожные припадки, то есть развилось состояние, называемое эпилептическим статусом. Никаких признаков инфекционного поражения не было. Результаты компьютерной томографии головного мозга были нормальными. Электроэнцефалограмма лишь зафиксировала судорожную активность головного мозга. Самые мощные противосудорожные препараты не действовали; наоборот, на фоне их введения приступы становились еще более выраженными. Прогноз для ребенка – поражение мозга или даже смерть – был крайне неблагоприятен.

Пробу крови отправили в Геномный центр больницы Рэйди для быстрой расшифровки всего генома ребенка. Вся последовательность нуклеотидов содержит 125 гигабайт информации, включая почти 5 млн мест, в которых геном ребенка отличался от наиболее распространенного варианта. ИИ-программе, специально предназначенной для анализа словарного состава естественных языков, потребовалось 20 секунд, чтобы проанализировать электронную историю болезни и определить 88 фенотипических признаков (почти в 20 раз больше, чем обозначили врачи в своем списке). Машинные алгоритмы быстро просеяли приблизительно 5 млн генетических вариантов и обнаружили 700 тыс. редких. Из них 962 варианта могли послужить причиной заболевания. Объединив эти данные с данными о фенотипе ребенка, система идентифицировала один дефект в гене под названием ALDH7A1 как наиболее вероятную причину эпилептического статуса. Это очень редкий вариант гена, встречающийся в популяции с частотой около 0,01 %. Эта мутация вызывает нарушение метаболизма, приводящее к припадкам. К счастью, это нарушение можно корректировать ежедневным назначением витамина B₆ и аргинина при одновременном ограничении в рационе лизина (тоже аминокислоты, как и аргинин). Когда эти изменения в диете были выполнены, приступы резко прекратились, и через 36 часов после поступления малыша выписали домой! Дальнейшее наблюдение показало, что мальчик здоров и растет без каких-либо признаков поражения мозга или отставания в развитии.

Ключом к спасению жизни этого ребенка стало определение подлинной причины его заболевания. Сегодня лишь немногие госпитали в мире секвенируют ДНК больных новорожденных и используют искусственный интеллект, чтобы получить все знания о пациенте и его геноме. И хотя опытные врачи в конечном счете, вероятно, нащупали бы правильное решение и назначили адекватное лечение, машины могут это делать быстрее и точнее, чем люди.

Итак, даже сейчас, в наше время, соединение усилий и талантов людей с возможностями искусственного интеллекта может привести к триумфальному успеху, если человек и машина действуют синергически. Но прежде чем петь хвалу возможностям искусственного интеллекта, давайте сначала посмотрим, что недавно пришлось пережить одному моему пациенту.

Однажды, вскоре после приема, мне позвонил один пациент и сказал:

– Я хочу, чтобы мне сделали стентирование.

Это был седовласый голубоглазый мужчина за семьдесят, владелец нескольких компаний, страдавший редким и тяжелым легочным заболеванием, называемым идиопатическим (этим странным медицинским словом мы пользуемся, когда не знаем причины заболевания) легочным фиброзом. Заболевание это зашло настолько далеко, что пульмонолог заговорил о желательности трансплантации легких. Мало того, у пациента появился новый симптом – повышенная утомляемость. Он начал уставать, пройдя квартал или проплыв 25 метров в бассейне. Больной обратился к своему пульмонологу, который назначил исследование функции дыхания. Изменений в показателях не было, и это недвусмысленно подсказывало, что причина не в легких.

Пациент, сильно обеспокоенный и подавленный таким развитием событий, пришел ко мне вместе с женой. В кабинет он вошел, еле волоча ноги, короткими шажками. Я был поражен его бледностью и выражением безнадежности в глазах. Жена подтвердила описанные пациентом симптомы: у него резко снизилась способность к физической активности, он с трудом обслуживал себя, не говоря уже о каких-то дополнительных нагрузках.

Изучив историю болезни, опросив и осмотрев больного, я высказал предположение, что, вероятно, все дело в сердце. За несколько лет до этого, после того как у него появились при ходьбе боли в левой икре, ему поставили стент в левую подвздошную артерию, устранив окклюзию. Это раннее заболевание усилило мое беспокойство по поводу холестерина, который может с такой же вероятностью, что и в артериях ног, откладываться в стенках коронарных артерий. И, несмотря на то что у пациента не было никаких других факторов риска ишемической болезни сердца, кроме возраста и пола, я направил его на КТ с контрастом – посмотреть состояние его коронарных артерий. Правая коронарная артерия была сужена на 80 %, но левая была полностью проходима и не поражена склеротическими бляшками. Это противоречило моему предположению. Правая коронарная артерия снабжает кровью лишь малую часть сердечной мышцы, и за все 30 лет карьеры кардиолога (из которых я 20 лет восстанавливал проходимость коронарных артерий) я не припомню ни одного больного, у которого такая сильная утомляемость была бы обусловлена сужением правой коронарной артерии.

Я объяснил пациенту и его жене, что не могу связать результат КТ с клинической картиной и что, возможно, это один из тех случаев, когда одно с другим не связано: имеющее место морфологическое нарушение не имеет никакого отношения к жалобам и объективным симптомам. Утомляемость, скорее всего, не связана с поражением коронарной артерии. Но основное заболевание – идиопатический легочный фиброз – вполне могло вызвать подобную симптоматику именно на фоне сужения правой коронарной артерии. К сожалению, сопутствующее легочное заболевание повышало риск инвазивного вмешательства.

Я дал ему возможность принять решение самостоятельно. Он раздумывал несколько дней, но в конце концов согласился на баллонную ангио пластику и стентирование правой коронарной артерии. Я был очень удивлен этим решением: на протяжении многих лет пациент не только очень неохотно соглашался на инвазивные вмешательства, но и отказывался даже от лекарств. Примечательно, что прилив энергии пациент ощутил срезу после операции. Стент был установлен через лучевую артерию, и поэтому больного отпустили домой уже через несколько часов после вмешательства. Вечером он уже прогулялся по улице, обойдя несколько кварталов, а к концу недели проплывал несколько кругов в бассейне. Пациент сказал мне, что у него прибавилось сил: он уже несколько лет не чувствовал себя настолько хорошо. Это поразительное улучшение способности переносить нагрузку сохранялось и спустя много месяцев.

Примечательно в этой истории то, что компьютерный алгоритм упустил бы эту возможность. При всей пиар-шумихе по поводу искусственного интеллекта, улучшающего качество медицинской помощи, следует отметить: если бы ИИ использовали для оценки перспектив операции у этого больного с учетом всех данных медицинской литературы, то машина пришла бы к заключению, что восстановление проходимости правой коронарной артерии не приведет к устранению утомляемости. Ведь искусственный интеллект может оперировать только представленными данными, но лишен интуиции. Страховые компании, приняв во внимание вывод компьютерного алгоритма, наверняка отказались бы оплачивать инвазивное вмешательство на правой коронарной артерии.

Однако операция принесла больному несомненную и ощутимую пользу. Был ли это плацебо-эффект? Мне это представляется маловероятным: я знал этого пациента много лет, он всегда старался свести к минимуму любые изменения в состоянии своего здоровья – неважно, положительные или отрицательные. Своим характером он немного напоминает Ларри Дэвида⁶, старого ворчуна с весьма… умеренным энтузиазмом. Ясно, что он последний человек в мире, на кого подействовало бы плацебо.

Задним числом понятно, что эффект от операции был связан с сопутствующим (точнее, даже основным) легочным заболеванием. Легочный фиброз приводит к повышению давления в легочных артериях, которые доставляют кровь в легкие, где она насыщается кислородом. За перекачивание крови в легкие отвечает правый желудочек сердца; повышение артериального давления в малом круге кровообращения приводит к тому, что правому желудочку приходится работать с большей нагрузкой для того, чтобы преодолеть сопротивление легочных артерий. Эта нагрузка была слишком большой для правого желудочка моего пациента. Стент, установленный в правую коронарную артерию, снабжающую кровью правый желудочек, облегчил его работу и устранил неприятный симптом. Столь сложная взаимосвязь коронарного кровообращения и редкого легочного заболевания не описана в медицинской литературе.

Этот случай напоминает нам, что каждый из нас являет собой уникальный, единственный в своем роде организм, все хитросплетения которого никогда не распутает никакая машина. Кроме того, этот случай подчеркивает важную роль человеческого фактора в медицине: нам, врачам, давно известно, что пациенты знают свой организм, а значит, мы должны прислушиваться к ним. Алгоритмы – это холодные и бесчувственные прогностические инструменты, которые никогда не смогут познать человеческую натуру. Вот что главное: этот пожилой джентльмен чувствовал, что причиной ухудшения его состояния стало сужение правой коронарной артерии, и оказался прав. Я скептически отнесся к перспективам вмешательства, не предполагая, насколько успешным оно окажется, но был счастлив, увидев разительное улучшение.

* * *

Искусственный интеллект исподволь, но все глубже проникает в нашу жизнь. Он уже работает на нас и в быту. ИИ заканчивает за нас слова, когда мы печатаем, дает непрошеные рекомендации в поисковиках, предлагает нам музыку, опираясь на нашу историю прослушиваний, отвечает на наши вопросы и даже выключает свет в квартире. Самой идее искусственного интеллекта более 80 лет, а имя он получил в 1950-е, но лишь недавно начали брать в расчет его потенциальное воздействие на здравоохранение. Многообещающей казалась способность искусственного интеллекта обеспечить многосторонний панорамный взгляд на медицинские данные пациента, улучшить качество принимаемых диагностических и лечебных решений, сократить количество ошибок в диагностике и ненужных исследований, помочь в назначении и интерпретации необходимых анализов и инструментальных исследований, рекомендовать лечение. В основе всего этого лежат данные. Мы уже давно вступили в эпоху больших данных; в настоящее время мир ежегодно производит зеттабайты данных (в каждом зеттабайте секстиллион (10²¹) байт – достаточно, чтобы заполнить память приблизительно 1 трлн смартфонов). В медицине к массивам больших данных можно отнести нуклеотидную последовательность полного генома, медицинские изображения высокого разрешения и показатели, постоянно считываемые и передаваемые датчиками, которые закреплены на теле пациента. Данные поступают и поступают в колоссальном объеме, однако мы способны обработать лишь ничтожную их долю. Считается, что в лучшем случае 5 %, не больше. Грубо говоря, у нас было что надеть, но некуда в этом пойти – до недавнего времени. Теперь искусственный интеллект обуздал необозримый конгломерат больших данных и заставил его работать.

Существует множество разновидностей ИИ. Традиционно машинное обучение включает логистическую регрессию, байесовские сети, «метод случайного леса», метод опорных векторов, экспертные системы и множество других инструментов, разработанных для анализа данных. Например, байесовская сеть – это модель, позволяющая оценивать вероятности. Если у меня есть список симптомов, с которыми обратился больной, то такая модель позволяет получить список всех возможных диагнозов с указанием их относительной вероятности. Забавно, что в 1990-е, когда мы составляли деревья решений, чтобы собранные нами данные могли говорить сами за себя (система была рассчитана на «автоанализ», чтобы на выводы не влияли искажения при интерпретации), мы не называли это машинным обучением. Однако теперь этот статистический метод значительно усовершенствован, и к нему относятся с почтением. За последние годы инструментарий ИИ проник в такие важные сетевые модели, как глубокое обучение и стимулированное обучение, оно же обучение с подкреплением (мы подробнее обсудим эти вопросы в главе 4).

Разновидность ИИ, отвечающего за глубокое обучение, приобрела особую значимость после 2012 г., когда была опубликована статья о распознавании образов⁷, уже ставшая классической.

Число новых алгоритмов глубокого обучения искусственного интеллекта и публикаций на эту тему возросло лавинообразно (см. рис. 1.1), причем рост способности машин распознавать закономерности в огромных наборах данных носил экспоненциальный характер. Увеличение в 300 тыс. раз вычислительной мощности компьютера в петафлопсах (петафлопс – скорость работы компьютера, равная выполнению квадриллиона (10¹⁵) операций с плавающей запятой в секунду) в течение суток обучения искусственного интеллекта является наглядной иллюстрацией изменений, наступивших после 2012 г. (см. рис. 1.2).

Рис. 1.1. Рост числа алгоритмов глубокого обучения ИИ с 2012 г. после публикации статьи о распознавании образов. Источники: график А приведен с изменениями из: A. Mislove: “To Understand Digital Advertising, Study Its Algorithms.” The Economist (2018): www.economist.com/science-and-technology/2018/03/22/to-understand-digital-advertising-study-its-algorithms. График B приведен с изменениями из: C. Mims, “Should Artificial Intelligence Copy the Human Brain?” The Wall Street Journal (2018): www.wsj.com/articles/should-artificial-intelligence-copy-the-humanbrain-153355265?mod-searchresults&page-1&pos-1.

За последние несколько лет в ведущих медицинских изданиях был опубликован ряд исследований, основанных на глубоком обучении. Многие в медицинском сообществе были искренне удивлены потенциалом глубокого обучения ИИ: в статьях утверждалось, например, что искусственный интеллект способен диагностировать некоторые типы рака кожи так же, если не лучше, чем дерматолог высшей категории; выявлять некоторые особые типы аритмий не хуже кардиолога; интерпретировать результаты медицинских изображений не хуже квалифицированного специалиста по медицинской визуализации и оценивать гистологические препараты не хуже патологоанатома; диагностировать различные заболевания глаз не хуже хорошего офтальмолога и предсказывать суицид у пациентов не хуже профессионального психиатра. Эти возможности обусловлены главным образом умением распознавать закономерности, при этом в ходе обучения машины усваивают эти закономерности на сотнях тысяч примеров (а вскоре – и на миллионах). Такие системы уже сейчас от года к году становятся все лучше и лучше, а показатель ошибок после изучения текстовых, речевых и визуальных материалов упал ниже 5 %, что выше любых человеческих возможностей (см. рис. 1.3). И хотя, вероятно, существует предел, после которого дальнейшее улучшение обучения прекратится, мы его пока не достигли. В отличие от людей, которые часто устают, пребывают в дурном настроении, подвержены действию эмоций, недосыпают или отвлекаются, машины лишены всех этих недостатков, могут работать сутки напролет, без выходных и праздников, не жалуясь на судьбу (хотя и человек, и машина могут «заболеть» и выйти из строя). Вполне понятно, что в связи с этим ребром встает вопрос о будущей роли врачей и о том, какое влияние может оказать искусственный интеллект на медицинскую практику.

Рис. 1.2. Экспоненциальный рост скорости вычислений – в 300 тыс. раз – в процессе выполнения различных обучающих ИИ программ. Источник: с изменениями из: D. Hernandez and D. Amodei, “AI and Compute”, Open AI (2018): http://blog.openai.com/ai-and-compute.

Я не верю, что глубокое обучение искусственного интеллекта сделает его способным лечить все болезни и устранять недостатки современного здравоохранения, но список, приведенный в табл. 1.1, дает представление о том, насколько широко можно использовать этот инструмент и насколько реклама преувеличивает его возможности. Со временем искусственный интеллект поможет нам продвинуться в решении всех перечисленных задач, но это будет марафон без финишной черты.

Примеры глубокого обучения демонстрируют его достаточно узкую специфичность: алгоритм, предсказывающий вероятность депрессии, не работает в дерматологии. Эти алгоритмы, построенные по принципу нейронных сетей, зависят от распознавания паттернов, то есть схем-образов, устойчивых наборов признаков, что будет полезно врачам, качество работы которых зависит от способности распознавать и интерпретировать изображения, – например, рентгенологам и патологоанатомам. Таких врачей я называю врачами-«паттернистами». Пусть и реже, но все же довольно часто всем клиницистам приходится в ходе работы так или иначе распознавать образы и выявлять закономерности, и потенциально каждому из них пригодилась бы алгоритмическая поддержка искусственного интеллекта.

Рис. 1.3. Повышение точности работы машинного искусственного интеллекта с изображениями (А) и речью (В). При работе с упорядоченными базами данных и выполнении узконаправленных задач качество работы искусственного интеллекта выше качества работы человека. Источники: график А с изменениями из: V. Sze et al., “Efficient Processing of Deep Neural Networks: A Tutorial and Survey,” Proceedings of the IEEE (2017); 105 (12), 2295–2329. График B с изменениями из: “Performance Trends in AI,” Word Press Blog (2018): http://srconstantin.wordpress.com/2017/01/28/ performance-trends-in-ai.

По большей части опубликованные примеры глубокого обучения представляют собой валидацию in silico, то есть на компьютерных моделях (что противопоставляется проспективным клиническим испытаниям с участием реальных пациентов). Очень важно отличать одно от другого, потому что анализ существующего массива данных – это не то же самое, что сбор данных в реальной клинической ситуации. Полученные in silico ретроспективные результаты часто представляют наилучший и самый благоприятный сценарий, который невозможно воспроизвести в ситуации, когда величины данных заранее неизвестны, как это имеет место в клинических испытаниях. Данные ретроспективных исследований могут помочь сформулировать гипотезу, которую затем можно проверить в ходе проспективного исследования, в особенности если его будут независимо друг от друга выполнять разные группы.

Таблица 1.1
Безосновательные надежды на искусственный интеллект, связанные с медициной (далеко не полный список)
Искусственный интеллект:
• Превзойдет врачей при решении всех медицинских задач
• Сможет диагностировать не поддающиеся диагностике болезни
• Лечить неизлечимые заболевания
• Видеть невидимое на изображениях и препаратах
• Предсказывать непредсказуемое
• Классифицировать не поддающееся классификации
• Исключить неэффективные этапы из рабочего процесса
• Поможет ликвидировать необходимость в госпитализациях и повторных госпитализациях
• Устранит избыток ненужной работы
• Позволит неукоснительно соблюдать режим приема лекарств
• Сведет к нулю вред для пациентов
• Сможет излечивать рак

Мы еще в самом начале эпохи искусственного интеллекта; это пока не повседневная медицинская практика, и некоторые скептики называют применение искусственного интеллекта в медицине SiliconValley-dation, намекая, что подобная валидация годится для проектов в Кремниевой долине (SiliconValley), а не для работы с живыми людьми. Такое пренебрежительное отношение распространено в медицине и чрезвычайно замедляет изменения. В результате весь мир уже находится на стадии четвертой промышленной революции, ознаменованной пришествием искусственного интеллекта, а медицина застряла в предыдущей эпохе – на стадии третьей революции, когда только-только начали широко применяться компьютеры и электроника (см. рис. 1.4). Например, файлы MP3 совместимы со всеми моделями музыкальных проигрывателей, а медицине только предстоит освоить удобные в использовании электронные формы медицинской документации, совместимые с различными устройствами. Это наглядный пример того, с каким трудом новое пробивает себе дорогу в этой отрасли.

По моим наблюдениям, медицина не впервые противится внедрению новых технологий. Это уже моя третья книга о будущем медицины. В «Созидательном разрушении медицины» (Creative Destruction of Medicine) я представил схему, благодаря которой датчики, секвенирование, визуализация, телемедицина и многие другие технологические достижения позволят оцифровать организм человека и добиться компьютеризации медицины. В книге «Теперь пациент вас увидит» (The Patient Will See You Now) я описал свое понимание демократизации медицины. Медицинский патернализм исчезнет, когда пациенты станут не только порождать информацию, но и владеть ею, получив доступ к своим медицинским документам, а в конечном счете любой больной сможет (при желании) принимать более осязаемое участие в процессе лечения.

Рис. 1.4. Четыре промышленные революции. Источник: с изменениями из: F. Murray, “CEOs: The Revolution is Coming,” Fortune (2016): http://fortune. com/2016/03/08/davos-new-industrial-revolution.

Эта книга описывает следующую после оцифровки и демократизации фазу – и имеет очень далекоидущие цели. Возможно, на вас производит определенное впечатление мой интерес к новым технологиям, однако на самом деле я всегда мечтал и мечтаю о возрождении истинно гуманистического элемента медицинской практики. С глубоким обучением мы получим некий остов, каркас, что позволит нам питать корни медицины, – это будут узы, связывающие человека с человеком. Несмотря на то, что мы пока полностью не добились ни оцифровки, ни демократизации медицины, все же и то и другое медленно, но неуклонно завоевывает позиции, и я верю, что нам удастся не только завершить этот процесс, но и привнести в самое сердце медицины искусственный интеллект. Кульминацией этого процесса и станет то, что я называю «истинная медицина».

Истинная медицина требует трех «глубоких» составляющих (см. рис. 1.5).

Первая составляющая – это подробное медицинское описание каждого индивида (оцифровка медико-биологических данных о человеке) с учетом всех существенно важных данных. Сюда можно отнести все аспекты нашего медицинского, социального, поведенческого и семейного анамнеза, а также чисто биологические признаки и свойства: анатомические, физиологические и экологические. Наша биология многослойна – это геном, закодированный в ДНК, наша РНК, белки, метаболиты, иммуном, микробиом, эпигеном и многое другое. В научном биомедицинском сообществе для обозначения всей совокупности этих составляющих используют термин «глубокое фенотипирование»; мы видели такой подход в примере с эпилептическим статусом у новорожденного ребенка. Глубокое фенотипирование одновременно всепроникающе, так как охватывает множество разнотипных данных, какие только можно себе представить, и всеобъемлюще, поскольку мы стремимся покрыть им как можно большую часть человеческой жизни, потому что многие исчисляемые характеристики биологических свойств изменяются с возрастом. Несколько лет назад я написал обзор, в котором утверждал, что нам нужны медицинские данные, которые покрывали бы всю длительность жизни – от зиготы до могилы⁸. Мой бывший наставник сказал тогда, что лучше было бы выбрать промежуток «от любовного аха до смертного праха». Но, думаю, вы ухватили главную идею.

Рис. 1.5. Три главных составляющих модели истинной медицины. Источник (левый рисунок): с изменениями из: E. Topol, “Individualized Medicine from Prewomb to Tomb,” Cell (2014): 157 (1), 241–253.

Второй составляющей является глубокое обучение, которое будет играть большую роль в медицине будущего. Оно будет включать в себя не только распознавание паттернов и машинное обучение (которое врачи станут использовать в диагностике), но и множество различных приложений, например виртуальное медицинское обучение пациентов, способное помочь и в профилактике, и в лечении заболеваний. Глубокое обучение наверняка сыграет важную роль и в условиях госпиталя, где можно будет использовать машинное зрение для обеспечения большей безопасности пациента и улучшения качества ухода. А это в конечном счете может гарантировать и полноценный мониторинг состояния больных на дому, что позволит сэкономить на больничных помещениях и оборудовании. Несмотря на то, что результаты глубокого обучения уже принесли определенную пользу медицине, особенно в последние годы, мы пока в самой начальной стадии. Почти 50 лет назад Уильям Шварц опубликовал в New England Journal of Medicine статью, озаглавленную «Медицина и компьютер»⁹. В ней он рассуждал о том, что в будущем компьютеры и врачи будут «часто вступать в диалог, компьютер станет следить за анамнезом, клиническими, лабораторными и прочими данными, обращая внимание врача на патологические изменения и подсказывая варианты возможных диагнозов, а также эффективного и безопасного лечения». Чем мы можем дополнить это предвидение теперь, 50 лет спустя? Как ни удивительно – очень немногим. Есть, конечно, разрозненные примеры, как поиск в Google помогал поставить сложные диагнозы, но нельзя же, в самом деле, считать поиск описания простых симптомов способом точной диагностики – это чаще всего порождает не знание диагноза, а тревожность и, так сказать, киберипохондрию.

Можно фантазировать, что искусственный интеллект избавит медицину от таких бед, как неточная диагностика и трата времени на побочную работу – заполнение страховых счетов и кодирование заболеваний, – но пока это только мечты. Предпринимателям, работающим с клиницистами, специалистам по вычислительной технике и ученым, работающим в других дисциплинах (в поведенческих науках и биоэтике), предоставляется широчайшая возможность помочь интеграции искусственного интеллекта в здравоохранение.

Третья (и наиболее важная) составляющая – это глубокая эмпатия и связь между пациентами и клиницистами. В течение более 40 лет – с момента поступления на медицинский факультет – я наблюдаю неуклонную деградацию гуманистической стороны медицины, что подтверждается данными табл. 1.2. За это время здравоохранение стало не просто крупным, но (к 2017 г.) крупнейшим бизнесом. Теперь система здравоохранения – это самый крупный в США работодатель, обогнавший по числу созданных рабочих мест сети розничной торговли. По приведенным данным видно, что расходы на здравоохранение резко взлетели. Но даже при безудержном росте занятости в этом секторе и при росте расходов на одного пациента резко сократилось время, которое врач может посвятить одному больному, – как на амбулаторном приеме, так и в больницах. Врачи очень сильно загружены. При невероятно высокой стоимости суточного пребывания на больничной койке (около $5 тыс.), контакт с врачом может продолжаться всего несколько минут, за что взимается отдельная плата. Поглощенные непосредственным общением с пациентами и их лечением, врачи пассивно взирали на кардинальные изменения в отрасли, касающиеся ведения электронной медицинской документации, «управляемого медицинского обеспечения», медицинского менеджмента и введения RVU – условных единиц величины (каждой из перечня услуг врача присвоена определенная сумма RVU). В наши дни как никогда высок процент врачей и медицинских сестер, которые страдают от профессионального выгорания и депрессии, вызванных неспособностью оказывать пациентам реальную помощь, а ведь именно это было их основной мотивацией, когда они посвятили себя медицине.

Таблица 1.2

Некоторые показатели здравоохранительной деятельности в США, которые изменились за последние 40 с небольшим лет

Главный недостаток современного здравоохранения – это отсутствие заботы о пациенте как таковой. То есть мы, врачи, в недостаточной мере заботимся о своих пациентах. Сами пациенты тоже чувствуют, что до них никому нет дела. И Фрэнсис Пибоди был прав, говоря о том, что именно забота о пациенте способствует успеху лечения¹⁰. Величайшая возможность искусственного интеллекта – это не сокращение числа диагностических и лечебных ошибок, не снижение нагрузки и даже не излечение рака, а восстановление драгоценной, освященной веками глубокой – гуманистической – связи между врачом и больным. У нас не только будет больше времени на полноценное общение, что позволит врачу проявить подлинное сочувствие и сострадание, – мы сможем переосмыслить практику профессионального отбора и подготовки врачей. Мы десятилетиями дорожили нашими медицинскими светилами, высоко оценивая их знания и авторитет, но внедрение искусственного интеллекта улучшит качество диагностики и объем знаний, доступный всем лечащим врачам. В конечном счете врачи признают искусственный интеллект и станут относиться к алгоритмам как к профессиональному инструменту. Такое выравнивание ландшафта медицинских знаний в конце концов приведет к новым высотам: мы сможем отбирать для врачебной карьеры людей, обладающих наиболее развитым эмоциональным интеллектом. Мой друг и коллега Абрахам Вергезе, которого я считаю одним из величайших гуманистов в медицине, подчеркнул важность такого подхода в предисловии к этой книге, которую, как я надеюсь, вы прочтете внимательно. Вот что предлагает истинная медицина.

* * *

Для того чтобы дать представление о концептуальной сущности истинной медицины, я начну с описания современной медицинской практики и постараюсь объяснить, почему мы отчаянно нуждаемся в новых решениях таких проблем, как неверные диагнозы, врачебные ошибки, неблагоприятный исход лечения и неконтролируемый рост стоимости медицинских услуг. Отчасти эти проблемы обусловлены современными методами медицинской диагностики. Чтобы понять, чем искусственный интеллект может быть полезен и чем опасен, мы рассмотрим примеры успешного применения ИИ в разных сферах – от игр до беспилотных автомобилей. Не менее, а возможно, и более важно рассмотреть отрицательные стороны возможного внедрения ИИ: субъективные искажения при интерпретации, возможность усиления социального неравенства, саму структуру ИИ (по сути, это «черный ящик»), а также возможные нарушения врачебной тайны и разглашение конфиденциальных сведений. Передача персональных данных десятков миллионов профилей Facebook в Cambridge Analytica – компанию, которая использовала искусственный интеллект для психологического таргетирования, – наглядно показала, какие неприятные последствия может вызвать применение искусственного интеллекта в контексте здравоохранения.

Только после решения всех этих проблем мы будем готовы к переходу к новой медицине, в инструментарий которой будет интегрирован искусственный интеллект. Мы оценим, как машинное распознавание паттернов повлияет на работу рентгенологов, патологоанатомов и дерматологов – то есть врачей-«паттернистов». Но искусственный интеллект проникнет во все сферы медицины, даже в те, где заняты врачи и хирурги, не занимающиеся распознаванием паттернов. Одна из сфер, особенно остро нуждающихся в изменениях, – это психиатрия, где наблюдается разительное несоответствие между количеством пациентов, страдающих, например, депрессией, и ограниченным количеством специалистов, которые могут оказать им квалифицированную помощь или предупредить развитие болезни. Искусственный интеллект, вполне возможно, сможет сыграть критически важную роль в дальнейшем развитии психиатрии и улучшении качества психиатрической помощи.

Но искусственный интеллект, и в частности глубокое обучение, повлияет не только на практическую медицину. Косвенным образом ИИ преобразит и биомедицинские науки в целом. Например, облегчит разработку новых лекарств. Искусственный интеллект поможет извлекать полезные сведения из комплексных массивов данных, среди которых миллионы последовательностей нуклеотидов в геномах, сложные структуры человеческого мозга, интегрированные потоки данных, получаемые в режиме реального времени с многочисленных датчиков, которые регистрируют показатели жизнедеятельности. В основе этих усилий – стремление позаботиться о пациенте, но стремительное развитие фундаментальной науки и методов разработки новых лекарств тоже окажет огромное влияние на медицину.

Искусственный интеллект может внести революционные изменения и в другие аспекты нашей жизни, которые так или иначе обусловлены отношением к здоровью. Один из таких аспектов касается нашего питания. Неожиданное, но уже применяемое на практике достижение машинного обучения – это создание потенциальной научной основы для персонализированного здорового питания. Это поистине удивительное достижение – знать, какие виды пищи наилучшим образом подходят каждому конкретному индивидууму.

Сейчас мы можем предсказать, какие виды пищи могут вызвать резкий подъем уровня глюкозы в крови у здорового человека, не страдающего сахарным диабетом. Благотворное действие персонализированного питания способно далеко превзойти эффект традиционных диетических рекомендаций – классических «пирамид питания» или, например, модных в свое время диет (диета Аткинса или «диета Южного пляжа»), не имеющих под собой твердой доказательной базы. Применяя искусственный интеллект, мы сможем проанализировать огромные массивы данных и предсказать будущие направления развития «умной» диетологии. Многие из этих бытовых новшеств пойдут рука об руку с виртуальным медицинским помощником. Скорее всего, это будет голосовой ассистент, как Siri, Alexa или Google Home: едва ли все сведется к иконкам на экране. Мне кажется, что лучший способ – это создание некоего виртуального аватара или даже голограммы (но если кому-то удобнее, то можно получать информацию и в виде обычного текста или электронных писем). Виртуальный медицинский ассистент – это квинтэссенция глубокого машинного обучения всем индивидуальным данным, тщательно собранным, непрерывно совершенствуемым и объединенным со всем массивом биомедицинских знаний; при этом такой ассистент способен и давать обратную связь, и обучать пользователя. Такие системы поначалу будут ориентированы на специфические заболевания – например, на сахарный диабет или артериальную гипертонию, – но со временем они начнут представлять собой обширные платформы для заботы о здоровье, которые помогут предотвращать болезни или лучше их лечить.

Все эти потенциальные преимущества могут быть сведены на нет злоупотреблением персональными данными. Эти злоупотребления не ограничиваются преступлениями, которые и сейчас совершаются слишком часто, – скажем, киберворовство, вымогательство (преступники шантажируют пациентов больниц их личной информацией), взлом баз данных, – но и включают в себя продажу и безнравственное крупномасштабное использование конфиденциальных персональных данных. Новое явление, тревожное и совершенно неприемлемое: страховые компании или работодатели смогут использовать все ваши данные – и все результаты глубокого обучения – для принятия жизненно важных для вас решений относительно размера медицинской страховки, премий и сохранения за вами рабочего места. Чтобы избежать подобных ужасных сценариев, потребуются разумные меры, которые, конечно, будут стоить больших усилий.

Эта книга посвящена поиску оптимального баланса в отношениях между пациентами, врачами и машинами. Если мы сможем это сделать, если мы сможем использовать уникальную мощь машин для того, чтобы укрепить связующие людей узы, то сможем найти и жизненно необходимое средство устранения проблем, глубоко укоренившихся в современной медицине.

Я надеюсь, что смогу убедить вас в том, что истинная медицина, использующая искусственный интеллект, возможна – и крайне желательна. Соединение мощи машин и людей – мощи человеческого и искусственного интеллекта – поднимет уровень медицины на беспрецедентную высоту. Мы увидим, что на этом пути нас подстерегает великое множество препятствий. Путь будет нелегким и очень долгим. Но целенаправленные усилия непременно помогут достичь желаемого. Повышение эффективности труда медицинского персонала может либо выжать из него все соки, либо сэкономить время, которое вернется пациенту сторицей: будущее поможет нам вернуть лучшее из прошлого. Достижение последней цели потребует активной вовлеченности многих и многих людей, особенно среди лечащего персонала, чей долг – отстаивать права пациентов. Подобно подросткам из Паркленда, которые после печально известной стрельбы в школе в 2018 г. начали борьбу против вооруженного насилия, медики должны быть готовы бороться с корыстными интересами могущественных групп, чтобы не упустить шанс отстоять первоочередность заботы о пациентах, не проспать его, как это не раз случалось в прошлом. Возвышение машин должно сопровождаться возвышением человечности – расширением непосредственных контактов пациента с врачом, углублением сострадания и понимания, ибо только такой подход сделает охрану здоровья и заботу о пациентах реальностью. Это нужно для того, чтобы восстановить и развить здравоохранение в исконном смысле этого слова. Точка.

Итак, начнем.

Глава 2
Поверхностная медицина

Представьте себе, что будет, если врач станет тратить две минуты на сбор информации о пациенте и тринадцать минут посвящать беседе с ним, а не наоборот: тринадцать минут на сбор информации и две – на беседу.
Линда Чин¹¹

– Представляете, он заявил мне, что у меня в сердце дыра и ее надо заделать, – пожаловался мне пациент (назову его Робертом), явившийся на первый прием.

Роберту 56 лет, он директор магазина и до недавнего времени не жаловался на здоровье. Однако несколько лет назад он перенес инфаркт миокарда. К счастью, ему успели вовремя поставить стент и обошлось без массивного поражения сердечной мышцы. С того времени Роберт стал вести здоровый образ жизни, сбросил почти 12 кг и регулярно занимается довольно интенсивной гимнастикой.

Для него стало настоящим ударом, когда однажды днем он ни с того ни с сего ощутил онемение лица и нарушение зрения. Симптомы не проходили, и Роберт обратился в отделение скорой помощи ближайшей больницы, где на фоне жалоб ему сделали КТ головы, взяли несколько анализов крови и сняли электрокардиограмму. В течение дня, без всякого лечения, зрение постепенно восстановилось до нормы, а онемение прошло. Врачи сказали, что он перенес «всего лишь» микроинсульт или транзиторную ишемическую атаку и что ему надо продолжить прием аспирина, который Роберт принимал после инфаркта. Отсутствие изменений в лечении заставило Роберта почувствовать себя беззащитным перед возможным повторением проблемы. Через пару недель он побывал на приеме у невролога. Роберт надеялся, что этот визит поможет ему докопаться до сути проблемы.

Невролог назначил несколько дополнительных исследований, включая МРТ головного мозга и УЗИ сонных артерий, но не нашел никаких данных, которые позволили бы объяснить преходящее нарушение мозгового кровообращения, и направил Роберта к кардиологу. «Врач по сердцу» назначил эхокардиографию, которая показала, что у больного незаращение овального отверстия. Овальное отверстие располагается в тонкой перегородке, которая разделяет между собой предсердия – камеры, которые принимают кровь, поступающую в сердце по венам. В эмбриональном периоде овальное отверстие позволяет крови обходить легкие, так как плод не использует их для дыхания. Овальное отверстие, как правило, закрывается после того, как новорожденный делает свой первый вдох. Однако у 15–20 % взрослых людей оно остается открытым. «Ага! – воскликнул кардиолог, увидев результат эхокардиографии. – Вот и диагноз». Кардиолог предположил, что небольшой тромб проскочил через открытое овальное отверстие из правого предсердия в левое, а оттуда попал в кровоток головного мозга, где и стал причиной микроинсульта. Для того чтобы избежать таких неприятностей в будущем, Роберту – как сказал кардиолог – надо заделать дыру в сердце. Операцию назначили через 10 дней.

Роберт был вовсе не уверен, что это единственно верное объяснение, и, посоветовавшись с одним нашим общим другом, решил обратиться ко мне, чтобы заручиться вторым мнением. Я встревожился. Незаращение овального отверстия – слишком распространенная особенность человеческой анатомии, чтобы его можно было считать окончательной причиной микроинсульта, причем на основании результата всего одного исследования. Прежде чем объявить отверстие в межпредсердной перегородке причиной нарушения, врач должен исключить все остальные возможные причины. Такие отверстия имеются в сердцах миллионов людей, и инсульты, если они случаются, никак не связаны с незаращением овального отверстия. Если бы такая связь существовала, то инсульт случался бы не у каждого пятого пациента с такой особенностью, а гораздо чаще. Более того, в ходе многих рандомизированных клинических испытаний была проверена эффективность инвазивного лечения криптогенных инсультов (то есть инсультов, причину которых не удалось выявить). И хотя испытания показали, что назначенное лечение, направленное на закрытие дефекта в межпредсердной перегородке, действительно снижает количество повторных инсультов, но приводит к осложнениям, которые нивелируют эффект, для Роберта такое лечение представлялось еще более сомнительным, потому что настоящего инсульта у него не было, а недостаточно полное обследование еще не давало оснований вернуться к рабочей версии – криптогенному инсульту.

Мы вместе разработали план выяснения возможной причины транзиторной ишемической атаки. Одна из наиболее распространенных причин – это нарушение ритма, известное как фибрилляция предсердий, или мерцательная аритмия. Чтобы проверить эту версию, я назначил весьма необременительное обследование, требующее всего лишь ношения на пластырной наклейке портативного устройства Zio от iRhythm. Это устройство прикрепляется к груди, регистрирует на микрочипе электрокардиограмму и записывает ее в течение достаточно длительного времени – от 10 до 14 дней. Роберт носил устройство 12 дней. Через пару недель я получил результат расшифровки записи. Как и следовало ожидать, у Роберта за это время было несколько бессимптомных приступов фибрилляции предсердий. Он не замечал их, потому что частота сердечных сокращений практически не менялась, а некоторые приступы случились во сне. Приступы фибрилляции предсердий были куда более вероятной причиной микроинсульта, чем незаращение овального отверстия. Для профилактики возможных нарушений можно было назначить антикоагулянты (вещества, уменьшающие свертываемость крови), и «заделывать дырку в сердце» вовсе не требовалось. Возможным осложнением приема антикоагулянтов является кровоточивость, но это вполне оправдывается надежной профилактикой инсульта. Роберт испытывал большое облегчение, когда мы обсуждали с ним диагноз, лечение и прогноз.

Я рассказал о случае Роберта не потому, что нам удалось докопаться до истинной причины нарушения и поставить правильный диагноз. Несмотря на то, что его история имеет счастливый конец, она представляет собой тот самый перекос, который мы наблюдаем в современной медицине. Все, что происходило с момента обращения в отделение скорой помощи до визита к кардиологу, я могу назвать образчиком поверхностной медицины. Вместо прочной эмоциональной связи между пациентом и врачом мы имеем эмоциональную пропасть между брошенными на произвол судьбы пациентами и выгоревшими врачами в депрессии. В то же время это и системная проблема, проявляющаяся в ошибочных диагнозах и избыточных обследованиях, что приводит к чрезмерным расходам и причиняет людям вред. Строго говоря, нарушенные отношения пациентов и врачей и ошибки в медицинской практике – вещи взаимосвязанные. Поверхностный контакт с пациентами увеличивает вероятность неправильного диагноза и бездумного назначения анализов и инструментальных исследований, которые не нужны или неинформативны.

Частота диагностических ошибок в США неприлично велика. Обзор трех очень крупных исследований показал, что в год мы имеем дело с 12 млн диагностических ошибок¹². Эти ошибки определяются многими факторами, включая неспособность назначить нужное обследование, неправильную интерпретацию результатов обследования, пренебрежение дифференциальной диагностикой и игнорирование патологических симптомов. В случае Роберта наблюдался целый комплекс ошибок: не была проведена полная дифференциальная диагностика (не исключили фибрилляцию предсердий), не было назначено необходимое исследование (длительный мониторинг сердечного ритма) и были неверно интерпретированы данные эхокардиографии (причину нарушения приписали дефекту межпредсердной перегородки). Тройное невезение.

Но ситуация в США еще хуже, потому что неверная диагностика приводит к неправильному лечению; так, Роберту назначили имплантацию для закрытия овального отверстия в сердце. В последние годы много говорилось о таких ненужных медицинских вмешательствах. Поразительный факт: около одной трети операций выполняют напрасно.

Для борьбы с этими проблемами были развернуты две большие кампании. Первая, под названием «Выбирай с умом», была начата в 2012 г. Фонд Американского совета терапевтов (ABIMF) совместно с девятью профессиональными медицинскими организациями разработал и опубликовал список, озаглавленный «Пять вопросов, которые должны обсудить врач и пациент». В этом документе речь шла о пяти наиболее часто назначаемых и часто оказывающихся ненужными исследованиях и вмешательствах¹³. Несмотря на то, что не все медицинские организации поначалу охотно сотрудничали с Фондом, кампания все же набрала силу, особенно за последние несколько лет. К кампании в итоге присоединилось более 50 медицинских обществ. Совместными усилиями были выявлены сотни процедур и исследований, не представляющих ценности для пациентов, особенно учитывая стоимость и риск. Пока на первом месте по ненужности стоят методы визуализации (КТ, МРТ и т. п.), которые назначаются по самым незначительным поводам (например, жалобы на боль в пояснице или головную боль). Чтобы осознать масштаб этого бедствия, достаточно взглянуть на следующие цифры: на каждые 100 пациентов, охваченных страхованием по программе Medicare в возрасте 65 лет и старше, каждый год приходится 50 КТ, 50 УЗИ, 15 МРТ и 10 ПЭТ. Установлено, что 30–50 % из 80 млн КТ, которые выполняются в США в течение года, были сделаны напрасно¹⁴. Это должно было стать ударом под дых и заставить медицинское сообщество признать, что пять (а то и десять) самых популярных исследований проводятся без должных показаний, но похвастаться в плане эффекта оказалось нечем. Дальнейшие исследования этого вопроса показали, что семь исследований, не имеющих особой важности для диагностики, продолжают широко использоваться – регулярно и без малейшей необходимости. Эту неудачу можно объяснить двумя главными факторами. Первая причина, которую Дэвид Казаретт, профессор Пенсильванского университета, назвал терапевтической иллюзией, заключается в том, что отдельные врачи переоценивают значимость своих усилий¹⁵. Врачи, как правило, подвержены такому когнитивному искажению, как предвзятость подтверждения: поскольку они априори убеждены, что исследования и анализы, которые они назначают, принесут желаемую пользу, то продолжают в это верить и после выполнения назначенных исследований, даже если результаты не подтвердили их предположения. Вторая причина – это отсутствие механизма, который мог бы повлиять на нерациональное поведение врачей. Несмотря на то, что «Выбирай с умом» совместно с журналом Consumer Reports регулярно публикует и распространяет в печатном виде и в интернете длинные списки рекомендаций, они остаются незамеченными – а раз нет рядовых потребителей этой информации, то отсутствует и запрос пациентов на более разумный подход к назначению анализов и инструментальных исследований. Более того, ABIMF не в состоянии проследить, какие врачи и зачем назначают те или иные исследования, и поэтому не располагает способами ни вознаграждать и премировать врачей за отказ от назначения ненужных исследований, ни наказывать за их назначение.

В 2017 г. «Альянс за правильное лечение» (Right Care Alliance), международный проект, организованный бостонским Институтом Лауна, сделал вторую попытку начать реформу. «Альянс» опубликовал в журнале The Lancet серию статей, где привел количественную оценку распространения этой практики – чрезмерной увлеченности диагностическими исследованиями в разных странах¹⁶. Самым главным «нарушителем» оказались США, где доля ненужных исследований достигает 60 %. В первой строке списка, естественно, назначение дорогостоящих методов визуализации при боли в пояснице. Right Care Alliance также изучил вопрос, почему недостаточно используются методы, которые необходимы и эффективны, – хотя, строго говоря, эта вторая проблема отнюдь не так остра, как первая. Подобно тому как «Выбирай с умом» намерен сформировать правильное поведение врачей, «Альянс за правильное лечение» надеется, что его информация поможет включить соответствующие рекомендации в медицинскую практику. Однако пока нет никаких данных за то, что это происходит в действительности.

Таким образом, мы по-прежнему стоим на месте: врачи регулярно оказываются не способны выбирать с умом и назначать правильное лечение. Дэвид Эпштейн из некоммерческой новостной организации ProPublica, известный своими журналистскими расследованиями, в 2017 г. написал блестящую статью под названием «Когда очевидность говорит “нет”, врач говорит “да”», посвященную как раз этой теме¹⁷. Одним из примеров является установление стентов в коронарные артерии больным с ишемической болезнью сердца: «Стент, установленный пациенту со стабильным состоянием, не предупреждает инфаркт миокарда и не продлевает жизнь пациента ни на один день». Что касается стентирования и других операций, Эпштейн делает следующий вывод: «Результаты этих исследований доказывают не бесполезность хирургических методов лечения, а то, что подобные операции делают множеству людей, которым они не приносят никакой пользы». Частично проблема заключается в том, что некоторые методы лечения не выдерживают проверку практикой, а частично – в негодных данных, на которых основываются врачи, принимая решение о лечении. В медицине мы часто полагаемся на благоприятные изменения некоторых так называемых суррогатных критериев, а не тех показателей, которые по-настоящему важны для пациента. Например, при каком-либо заболевании сердца мы контролируем лечение, основываясь на изменениях артериального давления пациента, потому что у нас нет данных в пользу того, что данный метод действительно снизит вероятность инфаркта миокарда, острого нарушения мозгового кровообращения или смерти. Или мы можем оценивать эффективность лечения сахарного диабета по уровню гликозилированного гемоглобина (А1с), а не по вероятности увеличения продолжительности жизни и не по ее качеству (для оценки которого уже давно разработаны вполне доступные для применения и понимания критерии). Несмотря на то, что суррогатные симптомы могут казаться приемлемой заменой целей более высокого уровня, настоящей проверки на эффективность такие критерии все же не выдерживают. Тем не менее столь ненадежные данные, которые заставляют врачей в первую очередь следить за этими суррогатными критериями, порождают чрезмерное увлечение назначением анализов, инструментальных исследований и медикаментов.

Поверхностные клинические данные, полученные в результате неадекватного обследования, как в случае с Робертом, или в результате некритического использования медицинской литературы, приводят к поверхностной же медицинской практике, которая порождает множество неверных диагнозов и избыточность обследования. Это отнюдь не второстепенная проблема. В 2017 г. Американская кардиологическая ассоциация и Американский кардиологический колледж изменили формулировку определения повышенного артериального давления, что привело к постановке диагноза «артериальная гипертония» еще 30 млн американцев, несмотря на отсутствие каких-либо достоверных указаний на правильность такого подхода¹⁸. Неверная диагностика приобретает характер эпидемии.

Но даже и без начальственного диктата вся медицинская практика на индивидуальном уровне устроена так, что подталкивает к неадекватной диагностике. Средняя продолжительность амбулаторного приема для пациента, явившегося на повторный осмотр, составляет семь минут, на нового пациента отводится 12 минут. Это абсурдное ограничение во времени свойственно не только США. Когда я был в медицинском центре компании Samsung в Южной Корее, администраторы сказали мне, что прием врача в этом центре длится в среднем две минуты. Стоит ли в подобной ситуации удивляться такому множеству ошибочных диагнозов? Как пациенты, так и сами врачи убеждены, что медики слишком спешат. Недавно сотрудники медицинского центра Алабамского университета в Бирмингеме попросили пациентов двумя словами описать их лечащих врачей¹⁹. Результат, наглядно представленный в виде облака слов, приведен на рис. 2.1. Содержание рисунка говорит само за себя.

И дело не только в продолжительности приема. В связи с внедрением электронных медицинских карт врачи и больные практически не смотрят друг другу в глаза. Рассел Филипс, гарвардский врач, как-то заметил: «Электронные медицинские карты превратили врача в наборщика»²⁰. Врач сосредоточен на клавиатуре, а не на больном, и именно это считают главной причиной профессионального выгорания и развития депрессии среди врачей. Почти половина врачей в США страдают профессиональным выгоранием, в течение года сотни врачей совершают самоубийство²¹. В недавно выполненном анализе 47 исследований, в которых приняли участие 42 тыс. врачей, было показано, что профессиональное выгорание удваивает риск инцидентов в процессе лечения, связанных с безопасностью пациента, что создает порочный круг, поскольку, в свою очередь, приводит к учащению случаев выгорания и депрессии²². Абрахам Вергезе написал об этом в предисловии, подчеркнув влияние «непрошеных инструкторов» на душевное здоровье врачей, что оказывает вредное воздействие на качество лечения больных.

Использование электронной медицинской документации создает еще одну проблему. Информация в ЭМК отличается заметной неполнотой и неточностью. Электронные записи очень неудобны в пользовании, и большая часть каждой записи – приблизительно 80 % – просто автоматически копируется из предыдущей записи²³. Любая ошибка, допущенная при первом приеме, практически неизбежно попадет в записи, сделанные на последующих. Получение записей от других врачей и из других учреждений здравоохранения сильно затруднено, отчасти из-за отношений собственности: производители ПО используют форматы файлов, которые не читаются программами разработчиков-конкурентов, а лечебные учреждения внедряют собственные форматы файлов для того, чтобы удерживать у себя пациентов. Мой друг, рентгенолог Саурабх Джха, остроумно заметил в своем аккаунте в Twitter: «Вашу банковскую карту примут хоть в Монголии, но вашу электронную медицинскую карту невозможно передать в соседнюю больницу, которая находится через дорогу»²⁴.

Рис. 2. 1. Облако слов (прилагательных, существительных и глаголов), которыми люди чаще всего пользуются для описания поведения врачей. Источник: с изменениями из: B. Singletary et al., “Patient Perception About Their Physicians in 2 Words: The Good, the Bad, and the Ugly.” JAMA Surgery (2017): 152 (12), 1169–1170.

Неполнота записей усугубляется некоей «одноразовостью» медицины. Под одноразовостью я имею в виду не только краткие и редкие минуты общения врачей с больными. Мы не имеем доступа к пациенту в его реальной жизни, мы не видим его, когда он ездит по делам, работает, спит. Данные, которые получает врач, ограничены тесным, искусственным пространством врачебного кабинета или больничной палаты. Длительный мониторинг, как в случае с Робертом, назначается весьма редко. По большей части мы не имеем ни малейшего представления о медицинских показателях пациента вне стен врачебного кабинета. Мы не знаем, какое у пациента артериальное давление, сердечный ритм, настроение и душевное состояние дома и на работе, то есть именно тогда, когда эти данные наиболее важны. Впрочем, даже если бы мы все это знали, у нас не было бы точки отсчета, нам было бы не с чем сравнить полученные данные: ведь мы не знаем, что является нормой для населения в условиях реального мира.

Это положение усугубляют устаревшие средства связи, с помощью которых врачи общаются – или, вернее, не общаются – со своими пациентами вне стен лечебных учреждений. Вне медицинского контекста люди уже привыкли поддерживать связь с родственниками и друзьями посредством электронной почты, СМС и видеочатов, поэтому могут общаться, даже находясь на разных концах света. Но больше двух третей врачей до сих пор не освоили средства цифровой коммуникации для поддержания контакта с пациентами. Нежелание общаться с ними посредством электронной почты или СМС объясняют, как правило, нехваткой времени, соображениями юридического характера и отсутствием оплаты, но я вижу в этом просто еще одно свидетельство отсутствия связи врачей с пациентами.

Таково сегодняшнее положение вещей: вокруг больных – мир медицины, где недостаточно данных, времени, средств коммуникации, участия. Иными словами, мир поверхностной медицины.

* * *

Плоды поверхностной медицины – это расточительство и вред. Возьмем, к примеру, медицинский скрининг. В США маммографию рекомендуют делать один раз в год всем женщинам старше 50 лет. Общая стоимость одного только скрининга в течение года составляет около $10 млрд. Хуже того, если мы возьмем в расчет 10 тыс. женщин старше 50 лет, которые каждый год в течение 10 лет делали маммографию, то только пяти из них (0,05 %) удастся избежать смерти от рака молочной железы, в то время как 6 тыс. (60 %) получат хотя бы один ложноположительный результат²⁵.Такие результаты влекут за собой новые процедуры – вредные, дорогие и напрасные: биопсию, операции, облучение или химиотерапию. В лучшем случае ценой является только страх и беспокойство.

Аналогом для мужчин является скрининг на простатический специфический антиген (PSA) для раннего выявления рака предстательной железы. Несмотря на то, что Американская урологическая ассоциация в 2013 г. выступила против скрининга на PSA как рутинной процедуры, это исследование до сих пор широко практикуют. Каждый год через него проходят около 30 млн американцев: у 6 млн обнаруживают повышенный уровень антигена, 1 млн назначают биопсию предстательной железы. В 18 % случаев, то есть у 180 тыс. человек, действительно выявляют рак предстательной железы, но у такого же количества людей, болеющих раком предстательной железы, он не был выявлен на биопсии²⁶. Кроме того, часто игнорируют хорошо известный факт, что рак предстательной железы в большинстве случаев отличается медленным течением и редко угрожает жизни пациента. Многочисленные исследования подтвердили, что существуют геномные маркеры, указывающие на склонность опухоли к агрессивному росту и метастазированию, но эта информация пока не дошла до клинической практики²⁷. В целом налицо следующий результат – на одну предотвращенную смерть от рака предстательной железы приходится 1 тыс. человек, прошедших скрининг²⁸. Если вы по натуре оптимист, то можете утешать себя тем, что это вдвое эффективнее маммографии (0,5 на 1 тыс.)! Можно посмотреть на ситуацию и по-другому: у человека в 120–240 раз больше шансов получить неверный диагноз и в 40–80 раз больше шансов без нужды подвергнуться облучению или оперативному вмешательству, чем спастись от смерти.

Пример со скринингом рака – прекрасная иллюстрация практически всех проблем, связанных с поверхностной медициной. В 1999 г. в Южной Корее была запущена общенациональная программа скрининга для многих типов рака. Программа была бесплатной для большинства населения, а с людей, имеющих доходы выше среднего, взимали небольшую, чисто номинальную плату, поэтому в программе приняли участие очень и очень многие. Одним из исследований, предусмотренных программой, было УЗИ щитовидной железы. За 10 лет количество диагностированных случаев рака щитовидной железы возросло в 15 раз, что сделало его самым распространенным онкологическим заболеванием в Южной Корее. Этот вид рака был выявлен у 40 тыс. человек. Казалось бы, блестящая победа, но диагностика оказалась бессмысленной, потому что исходы заболевания не изменились: смертность от рака щитовидной железы осталась прежней, несмотря на столь масштабное его выявление²⁹.

Такая же история со скринингом на рак щитовидной железы повторилась и в США. Лет десять назад повсеместно можно было увидеть объявления с призывом «проверить свою шею», сопровождаемым таким текстом: «Раку щитовидной железы плевать, насколько вы здоровы во всем остальном. Он может возникнуть у каждого, включая и вас. Поэтому заболеваемость раком щитовидной железы в США растет быстрее, чем другими видами рака»³⁰. Это оказалось самосбывающимся пророчеством: заболеваемость раком щитовидной железы резко возросла, что хорошо видно на рис. 2.2. В 80 % случаев людям, у которых был диагностирован рак, удаляли щитовидную железу, а потом назначали заместительную терапию гормонами, которые вырабатывает железа, а почти половине больных прописали лучевую терапию. Но, как и в Южной Корее, такая агрессивная диагностика никак не сказалась на смертности от рака щитовидной железы. И это без учета случаев ненужной лучевой терапии.

Как и в примере с раком щитовидной железы, исследования в Дартмуте показали очень похожую картину в связи с гипердиагностикой рака молочной железы (рис. 2.2)³¹. За тот же период, с 1975 по 2010 г., это новшество – рутинное назначение маммографии – привело к 30 %-ному росту числа диагностированных случаев рака, но за тот же период не было отмечено снижения заболеваемости метастазирующими формами этого рака. При раке убивает не сама опухоль, а метастазы, и теперь известно, что метастазы могут появиться и на ранних стадиях роста опухоли. Таким образом, старая байка, будто ранняя диагностика рака сможет изменить его «естественное» течение и снизит смертность, была поставлена под сомнение.

Рис. 2.2. Как массовый скрининг приводит к росту диагностированных случаев рака, но не влияет на исход заболевания. Источники: график А приведен с изменениями из: H. Welch, “Cancer Screening, Overdiagnosis, and Regulatory Capture,” JAMA Internal Medicine (2017): 177 (7), 915–916. График B приведен с изменениями из: H. Welch et al., “Breast-Cancer Tumor Size, Overdiagnosis, and Mammography Screening Effectiveness,” The New England Journal of Medicine (2016): 375 (15), 1438–1447.

На медицинских факультетах нас всегда учили, что раку требуется несколько лет, а то и десятилетий для формирования и развития за счет медленного удвоения популяции опухолевых клеток: сначала это приводит к росту тела опухоли, и только потом начинается агрессивный рост с последующим метастазированием. Эта догма в настоящее время активно оспаривается на основании недавно проведенных исследований, которые показали, что опухоль у некоторых пациентов может метастазировать на самых ранних этапах ее развития³². Эта неудобная истина подрывает основной постулат скрининга, будто ранняя диагностика значительно улучшает прогноз. Кроме того, она обнажает проблему, связанную с сомнением в принципиальной возможности предсказать течение этой болезни – одной из ведущих причин смерти и инвалидности.

Большей части этих проблем можно было бы избежать, а анализы и исследования назначать с умом, если бы врачи действительно уделяли время выявлению у конкретного больного риска того заболевания, которое они пытаются предотвратить. Одним из важных инструментов, давно известным в медицине, но почему-то игнорируемым врачами, является теорема Байеса. Эта теорема описывает, как выполнение условий, статистически взаимозависимых с неким событием, влияет на вероятность того, что оно произойдет. Таким образом, тот факт, что приблизительно у 12 % женщин возникнет в течение жизни рак молочной железы, отнюдь не означает, что у каждой женщины 12 %-ная вероятность заболеть раком молочной железы. Например, мы знаем, что у людей с определенной мутацией гена BRCA сильно повышен риск рака, как и у людей с высоким показателем генетического риска. Скрининг всех женщин без учета, например, подробно собранного семейного анамнеза (а это опять-таки следствие дефицита времени) или скрининг, предусматривающий поиск аномального гена, отвечающего за высокий риск развития рака, – это самый надежный способ множить ложноположительные результаты. По этой же причине выполнение МРТ всего тела у здоровых людей приводит к настораживающе большому количеству случайных находок – гарвардский профессор Исаак Коган метко назвал их «инциденталомами»³³. Точно так же и выполнение нагрузочных тестов практически здоровыми людьми, не имеющими никаких жалоб, приводит к высокой частоте патологических результатов, а это подталкивает к назначению ненужной и опасной ангиографии. Играя на страхах здоровых людей, медицинские учреждения США завлекают их на обследования, убеждая, что ранняя диагностика способна спасти жизнь. Многие престижные клиники выполняют скрининг сотрудников компаний по договорам с руководством – как правило, это серии ненужных анализов и исследований стоимостью от $3 тыс. до $10 тыс. Вероятность получить ложноположительные результаты увеличивается по мере роста числа ненужных и неоправданных исследований. Как ни парадоксально, выполнение исследований, которые назначают после получения положительного результата скрининга, подчас само по себе создает риск для жизни пациента. Уэлч и его коллеги, например, документально подтвердили, что непреднамеренный риск от КТ брюшной полости, которую проводят 40 % клиентов Medicare в течение первых пяти лет, может быть связан с ложноположительным диагнозом рака почки, после чего больные переносят операцию по ее удалению. Это может прозвучать абсурдно, но 4 % больных умирают в течение 90 дней после операции… от самой операции. Хуже того, выживаемость среди тех больных раком, кто пережил операцию, не повышается³⁴.

Ни один анализ, ни одно исследование нельзя назначать наобум, на всякий случай; уместность процедуры следует определять, исходя из степени риска заболевания у каждого конкретного пациента.

Сегодня в США тратят на здравоохранение более $3,5 трлн в год. Как видно из табл. 2.1, по данным за 2015 г. первое место по расходам занимают клиники, которые съедают более трети всего бюджета на здравоохранение³⁵. Доля расходов на практикующих врачей остается сравнительно постоянной – около одной пятой. Расходы на рецептурные лекарства растут быстрыми темпами – в 2015 г. они составили $320 млрд, а к 2021 г., по прогнозам, достигнут более $600 млрд³⁶. Новые специализированные лекарства от рака и редких заболеваний обычно поступают на рынок по цене около $100 тыс. на курс, а годовая их стоимость приближается к $1 млн.

Отчасти этот рост подпитывается убежденностью пациентов и врачей в том, что лекарства (и, в частности, очень дорогие лекарства) обладают серьезной эффективностью. Когда врачи выписывают любое лекарство, то заранее уверены в том, что оно сработает. Пациенты тоже верят, что лекарство сработает. Огромное количество клинических рандомизированных испытаний показывает, что больные из группы, принимающей плацебо, получают пользу от лечения в гораздо большей степени, чем ожидается, учитывая, что люди принимают совершенно инертную в фармакологическом отношении субстанцию.

Таблица 2.1

Расходы на здравоохранение в США в 2015 г.

Несколько лет назад Николас Шорк, мой бывший коллега по Научно-исследовательскому институту Скриппса, свел в диаграмму реакции пациентов на лекарства, занимающие первые 10 мест по объемам продаж³⁷. Как видно из рис. 2.3, доля людей, не реагирующих на эти лекарства, просто не укладывается в рамки наших представлений о лекарственном лечении. Если взять для примера «Абилифай», то выяснится, что только у одного пациента из пяти наблюдается клинический эффект от приема препарата. Почти 75 % больных, принимающих это популярное лекарство, не получают желаемого или ожидаемого эффекта. Посмотрев на несколько таких лекарств, объем продаж которых за год превышает $10 млрд (например, «Хумира», «Энбрел», «Ремикейд»), вы быстро оцените размах напрасной траты огромных средств.

Эти данные отнюдь не говорят о том, что лекарства не работают, или о том, что их производство служит средством вымогания денег. Вовсе нет: в большинстве случаев эти лекарства не действуют, потому что врачи не развивают у себя способность предсказывать, какие больные ответят на лечение, и не обладают специальными знаниями о пациентах, чтобы понять, отреагирует конкретный пациент положительно на лечение определенным лекарством или нет. Это добавляет еще одну проблему к их бесконечному множеству – от невдумчивой диагностики до бессмысленной терапии, от ненужных вмешательств до избыточного лечения. Словом, ко всем проблемам, которые омрачают нынешнюю клиническую практику. При всей избыточности обследований и лечения, при всех ошибках в диагностике, при всех случайных находках (которые могут причинить больному большой вред) нам надо обратить внимание на три важнейших показателя эффективности системы здравоохранения: продолжительность жизни, младенческая/детская и материнская смертность. Все эти показатели в США далеки от идеала. Они заметно хуже, чем в 80 странах – членах Организации экономического сотрудничества и развития (ОЭСР) и чем во многих других странах (см. рис. 2.4 и 2.5). Конечно, существуют и другие объяснения такого отставания: например, выраженное социально-экономическое неравенство в США, которое продолжает усугубляться. Вероятно, это самое адекватное объяснение тревожного и непропорционально высокого уровня материнской смертности среди чернокожих женщин³⁸. Я вовсе не утверждаю, будто в других странах практикуют исключительно истинную медицину с применением искусственного интеллекта. Я лишь хочу сказать, что у нас в США чрезмерно увлечены медициной поверхностной. Доказательства чрезмерного увлечения дорогостоящими методами исследования (речь сейчас не о людях с низким социально-экономическим статусом, которые часто лишены доступа и к самым базовым медицинским услугам) являются весьма убедительными. То, что на фоне увеличения расходов на здравоохранение ожидаемая продолжительность жизни снижается, является весьма тревожным сигналом.

Рис. 2.3. Схема, показывающая число больных, отвечающих на терапию 10 самыми популярными современными лекарствами (по данным 2014 г.). Серым цветом представлены больные, позитивно реагирующие на лечение; черным цветом обозначены пациенты, не отвечающие на лечение. Источник: с изменениями из: N. Schork, “Personalized Medicine: Time for One-Person Trials”, Nature (2015): 520 (7549), 609–611.

Рис. 2.4. Ожидаемая продолжительность жизни в 24 странах в сравнении с ожидаемой продолжительностью жизни в США в зависимости от расходов на здравоохранение на душу населения с 1970 по 2017 г. Источник: с изменениями из: M. Roser, “Link Between Health Spending and Life Expectancy: US Is an Outlier.” Our World in Data (2017): https://ourworldindata. org/the-link-between-life-expectancy-and-health-spending-us-focus.

Рис. 2.5. Данные, показывающие отставание США по показателям детской (А) и материнской (B) смертности. Источник графика А (с изменениями): A. Thrakar et al., “Child Mortality in the US and 19 OECD Comparator Nations: A 50-Year Time-Trend Analysis”, Health Affairs (2018): 37 (1), 140149. График B: GBD Maternal Mortality Collaborators, “Global, Regional, and National Levels of Maternal Mortality, 1990–2015: A Systematic Analysis for the Global Burden of Disease Study 2015,” The Lancet (2016): 388 (10053).

В течение многих лет экономисты от здравоохранения говорили о «перегибе кривой», имея в виду снижение расходов при сохранении прежних результатов или на фоне их улучшения. Однако, учитывая снижение продолжительности жизни в последние годы на фоне резкого увеличения расходов, мы можем утверждать, что «перегиб кривой» действительно произошел, но отнюдь не в том направлении!

Надеюсь, что мне удалось убедить вас в том, что поверхностная медицина, которую мы сегодня практикуем, приводит лишь к неоправданно высоким расходам, низкой эффективности и причинению невынужденного ущерба пациентам. Поверхностная медицина – это неразумная медицина. И это особенно важно признать в нашу эпоху информационных технологий, когда мы имеем возможность получать и обрабатывать практически неограниченное количество полезных данных буквально о каждом человеке, углублять знания, сделать доступ к медицинским данным всепроникающим и всеобъемлющим. Весь массив больших данных поможет обеспечить точность диагностики и адекватность лечения. Мы не пользуемся этими возможностями, потому что совладать с этими данными не под силу ни одному человеку, ни одному врачу. Именно поэтому нам надо радикально изменить подход к методике постановки диагноза, этой ключевой задаче каждого клинициста. Теперь давайте перейдем к обсуждению этой темы.

Глава 3
Медицинский диагноз

Хороший врач-диагност собирает множество названий-ярлыков, связывающих идею болезни с ее симптомами, возможными причинами, предыдущими событиями, путями ее развития и последствиями, а также способами ее излечить или облегчить течение.
Даниэль Канеман

Информатика максимально проявит свои возможности в том, что усилит, а в определенной степени и заменит интеллектуальную деятельность врача.
Уильям Шварц³⁹ (1970 г.)

Было это на третьем курсе медицинского факультета. Мы начали изучать введение в клиническую медицину на базе мемориального госпиталя Стронга в Рочестере (штат Нью-Йорк). В первый день состоялось наше знакомство с сущностью медицинской диагностики. Наставником нашей группы из 10 студентов стал доктор Артур Мосс, высококвалифицированный кардиолог и одновременно преподаватель Рочестерского университета. (Этот преподаватель, ставший для меня образцом для подражания, умер в 2018 г.) Прежде чем повести студентов в палаты к больным, он собрал нас в небольшой аудитории для предварительной «разминки».

У Мосса была запоминающаяся внешность: темные, немного косящие глаза, серебро седины в иссиня-черных волосах. На нем был длинный белый халат на пуговицах, темно-серые брюки с отворотами, черные носки и остроносые черные туфли. Его задача состояла в обучении студентов искусству постановки медицинского диагноза.

Он подошел к черной доске (тогда, в 1977 г., классные доски были черными, а не белыми) и принялся записывать на ней сведения о каком-то пациенте.

Сначала он написал: «Мужчина 66 лет поступил в отделение скорой помощи».

Потом обернулся к нам и спросил: «Каков наш дифференциальный диагноз?»

Это могло показаться странным – мы же практически не располагали никакой информацией о больном. Но смысл вопроса доктора Мосса заключался в том, что всякий раз, сталкиваясь с новым клиническим случаем, врач должен использовать любую бесценную крупицу информации, будь то симптом, объективный признак или результат лабораторного анализа, и как можно быстрее вспомнить самые распространенные причины, соответствующие определенной картине.

Мы, будущие врачи, ответили: скорее всего, у больного инфаркт миокарда, рак, острое нарушение мозгового кровообращения или травма.

После этого доктор Мосс добавил еще один пункт: у пациента боль в груди.

Группа единодушно заключила, что у пациента инфаркт миокарда.

Доктор Мосс, искоса посмотрев на нас, сказал, что мы ошиблись. Нужно поискать другие причины боли в груди у такого пациента. Мы высказали несколько новых предположений: расслаивающая аневризма аорты, грыжа пищеводного отверстия диафрагмы, плеврит, перикардит и ушиб сердца.

Мосс, выслушав нас, дописал на доске, что боль отдает в шею и спину. Мы ограничили наши предположения инфарктом и расслаивающей аневризмой аорты. Затем преподаватель добавил, что больной вскоре потерял сознание, и мы выставили наш окончательный диагноз: расслаивающая аневризма аорты. Мосс улыбнулся и сказал: «Верно». Потом он добавил, что никогда не следует забывать об этой вероятности – расслаивающая аневризма аорты у пациентов с болью в груди. Очень часто эту вероятность упускают из вида, и ошибка оказывается фатальной.

Следующая задача была труднее. Стерев с доски прежнюю запись, он написал: «В госпиталь поступила женщина 33 лет».

Мы отреагировали так: рак молочной железы, осложнение беременности, несчастный случай. Мосс был разочарован, ибо на этом наша фантазия была исчерпана. Следующим симптомом была сыпь.

Теперь наш дифференциальный диагноз включал инфекцию, аллергическую реакцию на лекарство, укус насекомого или животного и контакт с ядовитым плющом. Наш наставник, снова выказав некоторое разочарование, сделал еще одну подсказку: сыпь была на лице. Это, однако, не вывело нас на правильный путь. Мы упрямо держались нашего предыдущего списка. Тогда наш наставник добавил еще одну деталь: наша больная была афроамериканкой.

Одна студентка нерешительно прошептала: «Волчанка?»

Это был правильный ответ. Студентка попала в точку, вспомнив, что системная красная волчанка часто встречается у молодых женщин африканского происхождения, а один из симптомов этого заболевания – сыпь на лице в форме бабочки.

Так мы учились ставить диагнозы. Мы шли от общего к частному, мгновенно реагируя на несколько общих ключевых признаков, что позволяло составлять короткий список гипотез, предположений и предварительных заключений. Мы выучили заклинание, что распространенные заболевания встречаются чаще других, и это было плодом той же логики, что лежит в основании теоремы Байеса. Нас учили использовать интуитивное распознавание, а не аналитические способности. Теорема Байеса опирается на предыдущие данные, а поскольку мы, неопытные студенты-медики, прочли много книг, но практически не видели больных, то продвигались вперед очень медленно. Такой метод дает преимущество лишь зрелым врачам, которые видели на своем профессиональном веку тысячи больных.

Диагностический подход, которому нас обучали, является примером работы системы мышления, которую Даниэль Канеман когда-то назвал Системой 1 – мышление автоматическое, быстрое, интуитивное и не требующее усилий⁴⁰. Эта система мышления пользуется эвристикой, или эмпирическими правилами: это спонтанный способ мозга «срезать путь», не задействуя аналитическое мышление, что дает возможность быстро решить проблему. Напротив, Система 2 – это медленный, связанный с осмыслением процесс, задействующий аналитическое мышление. Эти процессы осуществляются в разных областях мозга и требуют разных энергетических затрат. Может показаться, что лучшие диагносты в своей работе опираются на Систему 2. Однако это не так, и многочисленные исследования показали, что талант диагноста обусловлен эвристическим подходом, сдобренным интуицией, опытом и знанием. И действительно: более 40 лет назад первая система мышления, представленная быстрым спонтанным порождением гипотез, которому обучали каждого врача, была основой постановки правильного диагноза. Если врач ставил правильный предварительный диагноз в первые пять минут общения с пациентом, то точность окончательного диагноза достигала поразительных 98 %. Если никакого представления о диагнозе в течение этих пяти минут не возникало, то точность снижалась до 25 %⁴¹.

Особенно выделяется в этом отношении диагностика в отделениях скорой помощи, где врачи после быстрого осмотра и обследования либо направляют больного в клинику, либо отпускают домой. Неверный диагноз может обернуться смертью пациента вскоре после выписки из отделения скорой помощи. Ежегодно около 20 % населения США попадают в отделения скорой помощи, и количество людей, подвергающихся риску, огромно. Крупное исследование деятельности отделений скорой помощи показало, что ежегодно около 10 тыс. человек умирают в течение недели после выписки, несмотря на то, что они в тот момент не страдали диагностированными ранее заболеваниями, а в отделении у них не нашли угрожающих жизни заболеваний⁴². Однако эта проблема касается не только отделений скорой помощи. Каждый год в США случается более 12 млн серьезных диагностических ошибок⁴³, и, согласно подробному докладу, опубликованному в 2015 г. Национальной академией наук, большинству людей хотя бы раз в жизни придется столкнуться с ошибочным диагнозом⁴⁴.

Эти данные указывают на серьезные проблемы метода, с помощью которого врачи ставят диагнозы. Система 1 – я называю ее «быстрой медициной» – дает сбои, но и многие другие привычные способы постановки правильного диагноза подлежат улучшению. Можно было бы сделать больший упор на Систему 2. Канеман утверждал, что «способ блокировать ошибки, возникающие в Системе 1, в принципе прост: уловить признаки того, что вы находитесь на когнитивном “минном поле”, притормозить и обратиться за подкреплением к Системе 2»⁴⁵. Однако на сегодня идея, будто можно дополнить Систему 1 Системой 2, не оправдывается (хотя данные на этот счет довольно ограниченны): когда врачи начинают мыслить аналитически и сознательно замедляют темп исследования, точность диагностики практически не повышается⁴⁶. Главным фактором здесь является то, что использование Системы 1 или Системы 2 – не единственная важная переменная, в игру вступают и другие факторы. Один из них – пренебрежение к формированию диагностических навыков в процессе изучения медицины. Из 22 критериев, которые учитываются Американским комитетом по аккредитации терапевтов-выпускников, только два имеют отношение к диагностическим навыкам⁴⁷. По завершении медицинского образования врачи застревают на текущем уровне качества диагностики на всю оставшуюся профессиональную жизнь. Удивительно, но отсутствует и система, которая позволила бы врачу на основании обратной связи улучшать свои диагностические навыки на протяжении врачебной деятельности. Филип Тетлок, один из авторов книги «Думай медленно – предсказывай точно»⁴⁸, отмечает: «Если вы не получаете обратной связи, то ваша самоуверенность растет быстрее точности»⁴⁹. Отсутствие упора на диагностические навыки во время обучения в университете и после его окончания усугубляется отсутствием должной оценки когнитивных искажений, которые могут приводить к диагностическим ошибкам. Сегодня в медицинских учебных заведениях отсутствует даже такая дисциплина – обучение навыкам диагностики.

В книге «Отмененный проект»⁵⁰ Майкл Льюис писал о Дональде Редельмейере, канадском враче, который, будучи еще юношей, вдохновился идеями Амоса Тверски и Даниэля Канемана⁵¹. В травматологическом центре госпиталя Саннибрук в Торонто Редельмейер обратился к коллегам с призывом не торопиться, обуздать свою Систему 1 и попытаться избегать ошибок мышления, вынося суждения. «Будьте внимательны, если вам сразу пришел в голову один простой диагноз, который все прекрасно объясняет. Вот когда нужно остановиться и проверить свое мышление»⁵². Например, пациентке ставят диагноз «гипертиреоз» на основании нарушений сердечного ритма, а потом оказывается, что у нее перелом ребер и пневмоторакс с компрессией легкого. Редельмейер назвал эту ошибку примером вопиющей и самой типичной эвристики: диагноз был поставлен обходным путем, на основании прошлого опыта (эта типичная ошибка была описана Тверски и Канеманом). Такой стиль мышления, как опора на эвристику репрезентативности, является примером широко распространенной среди врачей проблемы когнитивных искажений. Люди вообще склонны к когнитивным искажениям (даже англоязычная «Википедия» представляет список из 185 таких искажений), но я коснусь лишь нескольких – тех, что нарушают точность диагностики⁵³. Важно подчеркнуть, что эти укоренившиеся в медицине когнитивные искажения свойственны человеческой природе и касаются не только диагностики или назначения лечения. Но медицинские искажения отличает то, что в медицине принимаемые решения – дело очень серьезное, а зачастую и просто вопрос жизни и смерти.

Некоторые когнитивные искажения, ведущие к диагностическим ошибкам, вполне предсказуемы. Существуют более 10 тыс. человеческих болезней, и нет такого врача, который был бы способен удержать в памяти большую их часть. Если врач не может вспомнить наиболее вероятный диагноз, проводя дифференциальную диагностику, то он поставит диагноз на основании того, что ему мысленно «доступно», а это может привести к ошибке. Такое когнитивное искажение называют эффектом доступности.

Искажения другого рода возникают из-за того, что врачи имеют дело с одиночными случаями. В 1990 г. Редельмейер и Тверски опубликовали исследование в The New England Journal of Medicine, показывающее, как отдельные пациенты – и особенно те, которых врач принимал недавно, – могут влиять на решения по диагностике и лечению просто потому, что каждый врач наблюдает относительно небольшое число пациентов⁵⁴. Личный опыт врачей может перевесить данные, полученные в ходе обследования большого числа пациентов (скажем, о вероятности того, что пациент страдает каким-то редким заболеванием), лишь на основании того, что предыдущий пациент со сходными симптомами страдал именно этим редким заболеванием. Да я и сам после того, как наблюдал пациента с инсультом, страдавшего редкой опухолью сердечного клапана (папиллярной фиброэластомой), стал подозревать эту опухоль у своих следующих пациентов. В целом, как считает Редельмейер, 80 % врачей даже не задумываются, что вероятности применимы и к их пациентам.

Мне вспоминается еще один пример такого искажения из моего собственного опыта. Во время установления стента в коронарную артерию у пациента имеет место очень небольшой риск развития инфаркта миокарда. Такие инфаркты редко сопровождаются явной симптоматикой, но их можно диагностировать по повышению содержания в крови некоторых ферментов, что говорит о повреждении сердечной мышцы. Когда мы с коллегами опубликовали на эту тему несколько статей в 1990-е, многие кардиологи не согласились с нашими выводами: по их мнению, эта проблема была нами искусственно раздута. Правда, каждый кардиолог проводит в течение года от 100 до нескольких сотен процедур стентирования, и, как правило, анализы для выявления повреждения сердечной мышцы не назначаются. Все врачи находились под влиянием искажения, заставлявшего считать, будто они, высококвалифицированные специалисты, никак не могут спровоцировать у своих больных инфаркт миокарда. В этом случае на когнитивное искажение врачей повлияла ограниченность их собственного клинического опыта, равно как и неспособность к систематическому поиску объективных данных о возможных осложнениях.

Мышление, основанное на общепризнанных правилах, тоже может привести к искажениям и связанным с ними ошибкам. Кардиологи, диагностирующие сердечные заболевания в отделениях скорой помощи, демонстрируют такое искажение (см. рис. 3.1), когда общепринятое мнение, будто пациенту с инфарктом миокарда непременно должно быть больше 40 лет, мешает им даже заподозрить инфаркт у более молодых пациентов. Ситуация очевидна, и это было хорошо показано Стивеном Куссаном в статье с емким заголовком «Дискретное поведение: эвристическое мышление в отделении скорой помощи». При оценке работы врачей выявляется разрыв графика (см. рис. 3.1А), что говорит о следующем: врачи считают пациентов слишком молодыми для того, чтобы искать у них инфаркт миокарда, хотя риск инфаркта у сорокалетнего пациента ничуть не выше, чем у пациента 39 лет (см. рис. 3.1B). Это имеет большое значение: наблюдая в течение 90 дней обсуждаемых пациентов, Куссан нашел, что у многих больных, которых сочли слишком молодыми для ИБС, в ходе наблюдения развился инфаркт миокарда⁵⁵.

Рис. 3.1. Эвристическое мышление приводит к неверной диагностике у пациентов с инфарктом миокарда в отделениях скорой помощи. Источник: с изменениями из: S. Coussens, “Behaving Discretely: Heuristic Thinking in the Emergency Department”, Harvard Scholar (2017): http:// scholar.harvard.edu/files/coussens/files/stephen_coussens_JMP.pdf.

Одним из самых распространенных среди врачей и самых опасных искажений является так называемый эффект сверхуверенности, который Канеман назвал «эндемичным для медицины»⁵⁶. В подтверждение своего высказывания Канеман напоминает об исследовании, в котором сравнивали уверенность врачей в правильности их диагнозов с причинами смерти их пациентов, выявленными при патологоанатомическом вскрытии. «Клиницисты, которые были “полностью уверены” в правильности прижизненных диагнозов, ошибались в 40 % случаев». Льюис тоже признавал существование такого предубеждения: «Вся профессия врача построена на утверждении мудрости своих решений»⁵⁷. Тверски и Канеман затрагивали тему искажений, связанных с определенностью, в своей классической статье 1974 г. для Science, где были перечислены многие разновидности эвристического подхода, к которому люди часто прибегают, имея дело с неопределенностью⁵⁸. К сожалению, в медицине всегда хватало неопределенности из-за дефицита достоверных данных практически в каждом клиническом случае. К несчастью, работа в условиях повышенной неопределенности ведет к зависимости от экспертных мнений, что я называю «медициной с опорой на светил» (подробно этот вопрос разбирается в моей книге «Созидательное разрушение медицины»⁵⁹).

В какой-то мере эту чрезмерную уверенность можно отнести на счет другого когнитивного искажения – «предвзятость подтверждения», которое также называют «склонность к подтверждению своей точки зрения»; это тенденция учитывать информацию, подтверждающую уже имеющееся убеждение, и игнорировать информацию, которая ему противоречит⁶⁰. Эффект сверхуверенности имеет непосредственное отношение к «иллюзии глубины объяснения», что имеет место, когда люди верят, будто знают больше, чем на самом деле. Независимо от природы искажений ясно, что люди (включая и врачей) могут принимать важные решения, не согласующиеся с рациональным поведением.

Подтверждением сказанному может служить классический эксперимент, проведенный Тверски. Он опросил врачей-онкологов Стэнфорда, будут ли они оперировать пациента с терминальной стадией опухоли. Если в вопросе говорилось, что выживаемость в результате операции составляет 90 %, то 82 % врачей выбирали операцию. Но если в формулировке было указано, что смертность после вмешательства достигает 10 %, то за операцию высказались лишь 54 % врачей. Всего лишь смена слова «выживаемость» на слово «смертность» привела к значимому сдвигу.

Итак, мы довольно много знаем о диагностических ошибках: например, нам известно то, сколько их случается каждый год, и то, что значительная их часть происходит по причине когнитивных искажений. На основе изучения сообщений 583 врачей об их диагностических ошибках выяснилось, что главной причиной ошибок является отсутствие предположения о верном диагнозе (см. рис. 3.2) – результат мышления по Системе 1 и эффекта доступности⁶¹. Неспособность установить диагноз или задержка с диагностикой стоят на первом месте в списке причин судебных исков к врачам в США: в 2017 г. число таких исков составило 31 % от всех исков к врачам и лечебным учреждениям⁶². Когда врачей, совершивших ошибку, спрашивали, в чем они поступили бы иначе, то чаще всего они отвечали, что с бо́льшим вниманием отнеслись бы к записям в медицинских документах: налицо еще одно доказательство спешки при осмотре пациентов и анализе данных обследования. Ясно, что очень важно стремиться к уменьшению числа диагностических ошибок, хотя столь же ясно, что их число никогда не станет равным нулю.

И поверхностная, и «скоростная» медицина уже сами по себе значимые проблемы. Надо бороться как с поверхностностью, так и с поспешностью. Даже в весьма редкой ситуации, когда знания врача о пациенте глубоки, а о больном собрано много необходимых данных, делу могут помешать и ошибки человеческого мышления, и ограниченность человеческого опыта. За все время своей карьеры опытный врач может принять и обследовать тысячи больных. Этот опыт и становится для каждого врача основой для мышления по Системе 1, но, как я уже писал выше, не существует механизма обратной связи, который оповещал бы врача в каждом конкретном случае, прав он или нет. Каждому врачу требуется несколько десятилетий для накопления полезного опыта, который все равно остается весьма ограниченным: в самом деле, даже самый одаренный врач, который, возможно, осмотрел и проконсультировал за свою профессиональную жизнь десятки тысяч пациентов, имеет весьма небольшой опыт в сравнении с совокупным опытом больших групп врачей. Так, на сегодня в США практикуют более 700 тыс. врачей, а во всем мире – несколько миллионов, и их совокупный опыт несоизмеримо обширнее опыта любого отдельно взятого врача. Здесь в дело должен вмешаться компьютер.

Рис. 3.2. Наиболее вероятные причины диагностических ошибок в выборке из историй болезни более 500 врачей. Источник: с изменениями из: L. Landro, “The Key to Reducing Doctor’s Misdiagnoses,” The Wall Street Journal (2017): www.wsj.com/articles/the-key-to-reducingdoctors-misdiagnoses-1505226691, с первичной ссылкой на: G. Schiff et al., “Diagnostic Error in Medicine: Analysis of 583 Physician-Reported Errors,” Archives of Internal Medicine (2009): 169 (20), 1881 –1887.

Потенциальную помощь врачам могут оказать сетевые инструменты. Повторюсь: есть разрозненные примеры, как Google помогает в диагностике в трудных случаях, но все же простой поиск симптомов нельзя считать средством точной диагностики. Одним из самых первых инструментов по учету симптомов, которым вначале пользовались врачи, а теперь пользуются и пациенты, стала система Isabel Symptom Checker, в которой собраны симптомы более 6 тыс. заболеваний. Когда я ввел в компьютер «кашель и повышение температуры тела у 50-летнего мужчины, живущего в Северной Америке», то в качестве наиболее вероятных мне были выданы диагнозы «грипп», «рак легких», «острый аппендицит», «абсцесс легкого», «возвратный тиф», «атипичная пневмония» и «тромбоэмболия легочной артерии». Вероятно, мы можем с легкостью исключить все причины, кроме гриппа и атипичной пневмонии, учитывая распространенность этих заболеваний в США. В 2015 г. в British Medical Journal была опубликована статья, авторы которой оценили 23 системы интерпретации симптомов. После ввода данных в эти системы верные диагнозы были поставлены лишь в 34 % случаев⁶³. Несмотря на такой плохой результат, в последние годы было создано множество диагностических приложений, учитывающих симптомы, – среди них Ada, Your.MD и Babylon. Они включают в себя компоненты искусственного интеллекта, но по точности диагностики эти системы пока сильно уступают врачам (впрочем, точность врачебных диагнозов мы тоже не можем считать золотым стандартом). Эти стартапы начинают опираться на данные, выходящие за рамки перечня симптомов, так как системы задают вопросы, касающиеся и анамнеза пациента. Есть надежда, что подобный обмен репликами с ИИ поможет сузить дифференциальный диагноз и повысить точность диагностики. Одно из таких приложений, Buoy Health, хранит в памяти более 18 тыс. медицинских публикаций, описание 1700 заболеваний и данные по более чем 5 млн пациентов.

Однако представление о том, что совокупность симптомов сама по себе может обеспечить правильную диагностику, является чрезмерным упрощением. Выслушивая пациента, убеждаешься в том, что наличие или отсутствие симптома – отнюдь не бинарное отношение (1 или 0): симптомы отличаются нюансами и окраской. Например, больной с расслаивающей аневризмой аорты может и не жаловаться на «боль в груди». При инфаркте миокарда больной может, предъявляя жалобы, прижимать кулаки к груди (симптом Левина), чтобы обозначить ощущение в груди как давление, которое не воспринимается как боль. Или это может быть жжение, которое не воспринимается ни как давление, ни как боль. При использовании таких диагностических приложений дело осложняется тем, что симптомы не только субъективны – они подаются пациентом, выражением его лица, языком тела, то есть способами, которые очень важны, но часто не могут быть сжато описаны несколькими словами.

Компьютеры могут помочь в получении второго мнения, что способно повысить вероятность установления правильного диагноза. В одном исследовании, выполненном в клинике Мэйо, в рамках которого были проанализированы повторные консультации 300 больных другими специалистами, указывается, что их диагнозы совпали с диагнозами направивших врачей только в 12 % случаев⁶⁴. Хуже того, мнение второго специалиста нередко просто невозможно получить – отчасти из-за стоимости, трудностей с назначением визита или даже с поиском подходящего специалиста, к которому можно было бы обратиться. Телемедицина упрощает сам процесс постановки важного диагноза, но при этом мы жертвуем личным контактом пациента с врачом ради получения второго мнения. Когда я работал в Кливленде на рубеже тысячелетий, мы запустили онлайн-сервис под названием MyConsult, позволяющий на сегодняшний день десяткам тысяч пациентов заручиться вторым мнением, которое часто не совпадает с мнением первого врача.

Врачи, надеющиеся повысить точность диагностики, прибегают к краудсорсингу, получая помощь от коллег в постановке диагноза. Это еще не мышление по Системе 2, а просто попытка воспользоваться преимуществом – мнениями и опытом других специалистов. В последние годы большую популярность приобрели диагностические приложения для смартфонов – Figure 1, HealthTap и DocCHIRP. Приложение Figure 1, например, стало популярным, поскольку позволяет показывать медицинские изображения коллегам, что ускоряет постановку правильного диагноза. Наша группа в Научно-исследовательском институте Скриппса недавно опубликовала данные ресурса, который активно используется во врачебном краудсорсинге, – Medscape Consult⁶⁵. В течение двух лет с момента запуска число пользователей приложения неуклонно растет и сейчас достигло 37 тыс. человек; среди них врачи многих специальностей из более чем 200 стран. Система очень быстро откликается на призывы о помощи. Любопытно, что средний возраст пользователей превышает 60 лет. Human Diagnostic Project, известный также под названием HumanDx, – это сетевая и мобильная платформа, которую используют более 6 тыс. врачей и студентов-практикантов из 40 стран⁶⁶. Исследование, в рамках которого диагностическая работа более 200 врачей сравнивалась с работой компьютерных диагностических алгоритмов, показало, что точность врачебной диагностики достигает 84 %, в то время как точность компьютерных алгоритмов – всего 51 %. Эти данные выглядят не слишком оптимистично ни для врачей, ни для искусственного интеллекта, но ярые сторонники внедрения ИИ, располагая поддержкой многих организаций, таких как Американская медицинская ассоциация (AMA), Американский совет медицинских специальностей (ABMS) и другие ведущие медицинские советы, надеются, что «коллективный разум» врачебного сообщества и машинное обучение совместно помогут улучшить точность диагностики. О подобном случае рассказал один из таких сторонников, терапевт Шантану Нунди, и рассказ этот внушает оптимизм⁶⁷.

Он наблюдал женщину в возрасте за тридцать со скованностью и болью в суставах кистей рук. Врач был не вполне уверен в диагнозе ревматоидного артрита и отправил в HumanDx сообщение: «Женщина 35 лет с болью и скованностью в суставах кистей обеих рук; болеет в течение 6 месяцев. Подозрение на ревматоидный артрит». К сообщению врач приложил фотографию кистей рук пациентки. В течение нескольких часов на это сообщение откликнулись многие ревматологи, подтвердившие диагноз. К 2022 г. HumanDx планирует заполучить в свои ряды по меньшей мере 100 тыс. врачей, а также расширить использование алгоритмов обработки естественного языка для направления важнейших данных соответствующим специалистам, сочетая инструментарий ИИ с врачебным краудсорсингом.

Альтернативная модель краудсорсинга, призванная улучшить качество диагностики, предусматривает так называемую «гражданскую науку» – участие общественности в научных исследованиях. Платформа, разработанная компанией CrowdMed, запускает финансово стимулируемую конкуренцию между врачами и любителями по «раскалыванию» трудных диагностических случаев. Привлечение к диагностике лиц, не имеющих отношения к клинической медицине, является абсолютным новшеством и уже привело к неожиданным результатам: как рассказал мне основатель и генеральный директор компании Джаред Хейман, любители ставят верные диагнозы чаще, чем врачи-специалисты. У нашей исследовательской группы не было возможности проверить эти данные или подтвердить точность окончательных диагнозов. Но если эти данные верны и обоснованны, то у этого преимущества может быть свое объяснение: у любителей больше времени для углубленного изучения каждого случая, что лишь подчеркивает, как важно не спешить и тщательно работать для получения правильного ответа на трудный вопрос.

Единственная компания, открыто заявившая о своих амбициозных планах по улучшению качества медицинской диагностики и результатов лечения, – IBM, которая готова делать это с помощью своего суперкомпьютера Watson и искусственного интеллекта (см. рис. 3.3). В 2013 г. IBM начала работать совместно с ведущими медицинскими центрами, потратила миллиарды долларов на покупку необходимых компаний и загрузила в Watson данные пациентов, медицинские изображения, миллионы анамнезов, биомедицинскую литературу, а также платежные документы⁶⁸. К 2015 г. IBM объявила, что Watson обработал 15 млн страниц медицинского контента, более 200 учебников по медицине и 300 медицинских журналов. Огромное количество публикаций, появляющихся ежедневно, представляет собой базу знаний, которые медицинское профессиональное сообщество, разумеется, не способно переработать полностью, но которые тем не менее могут быть полезны. В 2016 г. IBM даже приобрела компанию Truven Health Analytics за $2,6 млрд для того, чтобы можно было ввести в ненасытную память Watson данные о 100 млн пациентов, которыми располагала компания⁶⁹.

Когда несколько лет назад сотрудники команды, обслуживающей Watson, посетили наш Научно-исследовательский институт Скриппса, нам было продемонстрировано, как ввод симптомов в компьютер выдает дифференциальный диагноз, в котором конкурирующие диагнозы ранжированы по вероятности. Однако если бы мы захотели использовать Watson для нашей программы геномного секвенирования пациента с неизвестной болезнью, то нам пришлось бы выложить за это более $1 млн. Этого мы себе позволить не могли. Но другие центры это не испугало, и они, разумеется, поделились результатами.

Самые впечатляющие результаты, полученные в Комплексном онкологическом центре Линебергера при Университете Северной Каролины (UNC), были продемонстрированы в телешоу CBS «60 минут» в 2016 г. Директор этого центра Норман Шарплесс – теперь он директор Национального института рака (NCI) – рассказал, что изначально скептически относился к перспективе использования искусственного интеллекта для улучшения результатов лечения онкологических заболеваний. Из всех методов, использованных специалистами UNC для лечения 1 тыс. пациентов, 30 % были определены с помощью Watson на основании компьютерного анализа рецензированной литературы по вопросам онкологии⁷⁰. Надо помнить, что лечение – это не то же самое, что улучшение диагностики, но способность Watson «проглотить» и обработать более 160 тыс. исследований по онкологии, которые ежегодно публикуются по этой теме, может стать отличным подспорьем в деле помощи некоторым пациентам. Первая публикация (в рецензируемом издании) результатов исследования с привлечением материалов по 1 тыс. пациентов клиники Университета Северной Каролины выявила 300 случаев, когда адекватное лечение предложил Watson, а не онкологи⁷¹.

Однако сотрудничество Watson с Онкологическим центром М. Д. Андерсона, одним из ведущих противораковых центров США, обернулось фиаско, отмеченным многими просчетами. Одной из самых фундаментальных ошибок стало утверждение, будто поглощение миллионов страниц медицинской информации – это то же самое, что ее осмысление и разумное использование. Глава проекта Центра Андерсона по тестированию Watson доктор Линда Чин сформулировала это так: «Научить машину читать медицинскую карту труднее, чем кажется»⁷². Оказалось, что не так легко научить машину упорядочивать неструктурированные данные, распознавать сокращения, обрывки фраз и различные стили изложения, а также учитывать человеческие ошибки. Такой же пессимизм сквозит в словах Марка Криса из мемориального онкологического центра имени Слоуна—Кеттеринга, который участвовал в начальном обучении системы Watson for Oncology: «Таким способом мы не сможем изменить систему когнитивной компьютерной обработки ни на дюйм. В машину надо вложить литературу, надо вложить в нее отдельные клинические случаи»⁷³. Фрагментарность клинических данных и недостаток доказательных данных из медицинской литературы лишило проект предполагавшейся ценности. В конечном счете проект, обошедшийся в $62 млн, закончился провалом. Ни одна из поставленных целей не была достигнута; исследователи по ходу работы меняли направление от одного вида рака к другому, а также планировали пилотные проекты, ни один из которых так и не был запущен⁷⁴. Поэтому неудивительно, что бывший менеджер IBM Питер Гройлих, рассуждая о проекте, заключил: «IBM стоит отказаться от попыток излечить рак. Маркетинговая машина работала вхолостую, нисколько не помогая создавать реальный эффективный продукт»⁷⁵. Стоит отметить позицию Исаака Когана, который возглавляет отделение биомедицинской информации медицинского факультета Гарвардского университета: «Особенно громко рекламировалось, что Центр Андерсона якобы создал платформу для диагностики лейкозов – более 150 потенциальных протоколов, платформа разработана при помощи Watson и все такое. Но на самом деле никто ее не использовал – ее просто не существовало»⁷⁶.

Рис. 3.3. Реклама суперкомпьютера Watson компании IBM

Проблемы, с которыми столкнулся компьютер IBM Watson в онкологии, типичны для всех попыток его использования в медицине для улучшения качества диагностики. Оптимистичный прогноз будущего Watson высказал в книге «Homo Deus»⁷⁷ Юваль Ной Харари: «Увы, даже самый внимательный врач не может помнить обо всех моих прошлых недомоганиях и обследованиях и не может одинаково разбираться во всех болезнях и лекарствах или быть в курсе всех свежих статей во всех медицинских журналах. Вдобавок к этому иногда врач переутомлен, или голоден, или даже нездоров, что сказывается на его концентрации. Неудивительно, что доктора иногда ошибаются в диагнозах или назначают не слишком действенное лечение»⁷⁸. Конечно, у компьютеров есть определенный потенциал, и ситуация может быть значительно улучшена, но пока обещания остаются лишь обещаниями. Трудности в сборе и объединении данных были недооценены, причем не только создателями суперкомпьютера Watson, но и всеми технологическими компаниями, которые решили заняться проблемами здравоохранения.

Мы не разделяем идей Харари, но машины необходимы нам как помощники в диагностике. В связи с тем, что перед нами стоит труднейшая проблема нарастающего потока данных и информации по каждому индивиду, а также не менее стремительного роста числа медицинских публикаций, для нас очень важно превратить искусство диагноза в цифровую науку, основанную на объективных данных. Пока, однако, в нашем распоряжении лишь ограниченное количество перспективных клинических испытаний, которые внушают надежду, что это когда-нибудь станет принципиально возможным.

Быстро и узко

До этого момента нас интересовала общая диагностика пациента и мы не касались таких более узких аспектов диагностики, как интерпретация медицинских изображений, электрокардиограмм, голоса или речи. Но именно в интерпретации этих данных в последние годы машины сделали большой прогресс.

Позвольте мне представить краткую выборку достижений искусственного интеллекта в некоторых узких областях диагностики. В том, что касается головного мозга, мы можем констатировать, что машины лучше интерпретируют снимки больных с острыми нарушениями мозгового кровообращения или с малозаметными изменениями, которые надежно указывают на возможное развитие в дальнейшем болезни Альцгеймера. Если говорить об исследованиях сердца, машины способны к качественной интерпретации электрокардиографических признаков нарушений сердечного ритма и анализу эхокардиограмм. В онкологии машины успешно анализируют картины поражений кожи, а также морфологию опухолей в микроскопических препаратах. Большая работа была проделана по усовершенствованию автоматической диагностики в офтальмологии на основании фотографий сетчатки. Обработка и анализ звуков – голоса и речи – помогли в диагностике посттравматического стрессового расстройства и травматических поражений головного мозга. Даже анализ формы звуковой волны кашля использовали для облегчения диагностики бронхиальной астмы, туберкулеза легких, пневмонии и других легочных заболеваний.

Стоит упомянуть также и приложение Face2Gene от FDNA, так как оно может помочь в диагностике более 4 тыс. генетических нарушений, многие из которых очень трудно выявить и диагностировать. Примером может служить ребенок с редким синдромом Коффина—Сириса. Приложение выполняет диагностику, распознавая характерное строение лица, в течение нескольких секунд, в то время как в некоторых семьях на выявление этого заболевания у «живых» врачей ушло до 16 лет напряженного труда, дорогостоящих обследований и кропотливой работы с пациентами. Создатели приложения добились такого успеха, использовав методы глубокого обучения для анализа внешности больных и выявив редкое, но характерное сочетание черт лица, которое позволяет безошибочно диагностировать синдром. Этим приложением уже пользуются 60 % специалистов по медицинской генетике. Это хороший признак, потому что столь широкое применение неуклонно расширяет объем знаний, необходимых для точной диагностики редких заболеваний, которые в последние годы начинают встречаться все чаще и чаще. В этом случае мы вновь наблюдаем поразительный успех инструментов искусственного интеллекта в узких областях диагностики. Но дело не только в узкой специализации диагностических инструментов искусственного интеллекта. Машинная обработка данных – очень быстрая и дешевая. Было подсчитано, что машина может проанализировать 250 млн снимков за 24 часа, и обойдется это в $1 тыс.⁷⁹

Все это выглядит весьма многообещающе – но и довольно легковесно. Для того, чтобы по-настоящему оценить перспективы и нащупать подводные камни, нам необходимо глубже заглянуть в суть технологии ИИ. Например, в этой главе я много писал о человеческих когнитивных искажениях. Но те же искажения – как часть человеческой культуры – могут быть внедрены и в инструментарий искусственного интеллекта. Так как прогресс внедрения искусственного интеллекта в медицину отстает от других сфер (самоуправляющиеся автомобили, распознавание лиц и компьютерные игры), мы можем учиться на этом опыте, чтобы избежать повторения тех же ошибок в медицине. В следующих двух главах я опишу плюсы применения искусственного интеллекта, а затем перейду к минусам. Вы вместе со мной увидите, как трудно искусственному интеллекту преобразить медицину и насколько неизбежно это преображение. Однако и врачам, и пациентам будет полезно, если они смогут заглянуть за кулисы, а не слепо принимать новую эру алгоритмической медицины. Вы должны быть во всеоружии, придя на прием к доктору Алгоритму.

Глава 4
Что такое глубокое обучение

Революция искусственного интеллекта не уступит в масштабе научно-технической революции, но произойдет гораздо быстрее⁸⁰.
Кай-Фу Ли

ИИ, вероятно, самое важное из всего, над чем когда-либо работало человечество. ИИ по значимости превосходит электричество или огонь.
Сундар Пичаи

В феврале 2016 г. небольшой стартап под названием AliveCor пригласил на работу двух сотрудников Google, Фрэнка Петтерсона и Саймона Пракаша, имевших опыт работы с ИИ, чтобы усовершенствовать новый продукт компании – приложение-кардиограф для смартфона. Компания переживала трудные времена. Ее сотрудники разработали приложение для смартфона, способное регистрировать ЭКГ в одном отведении, а к 2015 г. смогли вывести кривую ЭКГ на умные часы – Apple Watch. Это приложение было весьма интересным, но едва ли имело какую-то практическую ценность. Возникла угроза самому существованию компании, несмотря на то, что ее довольно щедро финансировали такие инвесторы, как Khosla Ventures и не только.

Однако у Петтерсона, Пракаша и их команды – еще троих талантливых разработчиков ИИ – была амбициозная двойная миссия. Одной из их целей было создание алгоритма, который мог бы улавливать нарушения сердечного ритма, а второй – определение концентрации ионов калия в крови: всего лишь по рисунку ЭКГ, регистрируемой часами. Эта идея вовсе не выглядела безумной, если учесть, кто именно работал в компании AliveCor. Вице-президент компании Петтерсон – высокий, голубоглазый мужчина с залысинами; интроверт, как и большинство инженеров. В Google он возглавлял отделы YouTube Live и игр, а также занимался проектированием Hangouts. За плечами у него были заслуженный «Оскар» и работа над девятью художественными фильмами, включая «Трансформеры», «Звездный путь», несколько серий «Гарри Поттера» и «Аватар». Пракаш, заместитель директора по производству и дизайну, не обласкан Киноакадемией, но зато отличается красотой; темноволосый и темноглазый, он похож на голливудского актера. Эта юношеская внешность не вполне вяжется с двадцатилетним опытом организации производства: помимо прочего, он возглавлял разработку очков Google Glass. Кроме того, он девять лет проработал в Apple, участвовал в разработке первого iPhone и iPad. В этом послужном списке можно при желании усмотреть некоторую иронию.

Тем временем команда из 20 инженеров и ИТ-специалистов Apple, работавшая всего в десятке километров от AliveCor, приступила к созданию встроенного в наручные часы устройства, способного распознавать мерцательную аритмию. Эта группа пользовалась практически неисчерпаемыми ресурсами Apple и мощной корпоративной поддержкой: руководитель производственного отдела компании Джефф Уильямс, ответственный за разработку и выпуск часов Apple, говорил о новом продукте как о медицинском приборе будущего. Когда мне выпала возможность посетить Apple в качестве консультанта и воочию увидеть прогресс в этой работе, у меня не возникло никаких сомнений относительно важности и приоритетности этого проекта. Казалось, еще немного, и цель будет достигнута.

На первый взгляд цель компании Apple казалась более достижимой. И действительно: определение уровня калия в крови с помощью часов – это не совсем то, чего мы ждем от подобного устройства. Но эпоха глубокого обучения, как мы увидим, опрокинула множество ожиданий и прогнозов.

Идея родилась не в AliveCor. В клинике Мэйо Пол Фридман и его коллеги занимались изучением части кривой ЭКГ, называемой зубцом Т, и в частности корреляцией его формы с уровнем содержания калия в крови. Мы, врачи, давно знали, что высокий и заостренный зубец Т говорит о повышении концентрации калия в крови, а увеличение концентрации свыше 5,0 мэкв/л может представлять опасность для жизни. Риск увеличения концентрации калия в крови особенно высок у людей с почечными заболеваниями. Чем больше уровень калия превышает 5,0 мэкв/л, тем выше вероятность внезапной смерти от опасных нарушений сердечного ритма, особенно при тяжелых почечных заболеваниях или у пациентов, находящихся на гемодиализе. Данные Фридмана были основаны на корреляции формы кривой ЭКГ и уровней концентрации калия всего у 12 пациентов до, во время и после сеансов гемодиализа. Свои находки группа опубликовала в малоизвестном журнале по электрофизиологии в статье с подзаголовком «Обоснование концепции нового “бескровного” метода анализа крови»⁸¹.

Фридман и его группа горели желанием превратить свою идею в новый способ регистрации ЭКГ с помощью смартфонов или электронных часов со встроенными инструментами искусственного интеллекта. Вместо того, чтобы обратиться в такие крупные компании, как Medtronic или Apple, они в феврале 2016 г. пообщались с генеральным директором AliveCor Виком Гундотрой – незадолго до того, как к руководству компанией присоединились Петтерсон и Пракаш. Гундотра – это еще один бывший инженер Google: по его словам, он решил перейти в AliveCor, поверив, что на ЭКГ можно обнаружить много весьма важных признаков⁸². И в итоге на исходе 2016 г. клиника Мэйо и AliveCor подписали соглашение о сотрудничестве.

Клиника Мэйо располагала архивом из 1,3 млн электрокардиограмм, выполненных в 12 отведениях за более чем 20 лет, и к каждой электрокардиограмме прилагался анализ с данными о содержании в крови калия у соответствующих пациентов. Анализы брались в течение от одного до трех часов после регистрации ЭКГ. Это была превосходная обучающая база для специалистов AliveCor и великолепная основа для создания алгоритма. Но когда эти данные были проанализированы, разработчики поняли, что попали в тупик (см. рис. 4.1).

Рис. 4.1. График данных клиники Мэйо, предсказывающих концентрацию K⁺ по форме зубцов ЭКГ, в сравнении с истинными показателями, определенными в лаборатории. Источник: данные AliveCor.

Здесь «истинные» значения концентрации ионов калия, определенные в лаборатории, отложены по оси X, а предсказанные алгоритмом значения концентрации – по оси Y. Никакого соответствия мы не видим. При истинном значении концентрации 7,0 алгоритм предсказывает 4,5: диапазон отклонений оказался неприемлемым. В течение всей зимы сотрудники AliveCor не раз посещали клинику Мэйо в Рочестере и в конце концов, по выражению Гундорты, попали в долину отчаяния на целых три месяца, пытаясь выяснить, что пошло не так.

Петтерсон и Пракаш заново проанализировали все данные. Поначалу им казалось, что они занимаются своего рода патологоанатомическим вскрытием, но вдруг поняли, что «пациента» можно и реанимировать. Клиника Мэйо отфильтровала ЭКГ, попавшие в архив, ограничив их только кардиограммами амбулаторных пациентов, что изменило выборку в сторону более здоровых людей: неудивительно, поскольку люди со смертельной концентрацией калия в крови едва ли спокойно разгуливают по улицам. А что, если анализы брали у всех пациентов, которые были госпитализированы? Это повысило бы в базе данных не только долю людей с высоким уровнем калия в крови, но и долю тех, у кого анализ крови был взят через короткий промежуток времени после регистрации ЭКГ.

Рис. 4.2. Кривые рабочей характеристики приемника (ROC-кривые) соотношения истинно положительных и ложноположительных результатов с примерами отличного, хорошего и бесполезного результатов. Источник: с изменениями из: “Receiver Operating Characteristic,” Wikipedia (2018): http://en.wikipedia.org/wiki/Receiver_Operating_Characteristic.

Кроме того, они допустили: возможно, ключевая информация содержится не только в зубце Т, как предполагали Фридман и его сотрудники. Так почему бы не проанализировать и весь ЭКГ-сигнал целиком, перестав (очень естественно, по-человечески) цепляться за предыдущее убеждение, будто по-настоящему информативен только зубец Т? Они попросили клинику Мэйо предоставить более широкую базу данных. Клиника согласилась. Теперь проверке с помощью алгоритма были подвергнуты 2,8 млн электрокардиограмм с полной кривой, и эти данные были сопоставлены с результатами 4,28 млн анализов крови на содержание калия. И что же произошло в результате?

Эврика! Частота ошибок снизилась до 1 %, а ROC-кривая, мера предсказательной точности, где величина 1,0 является идеальной, выросла от 0,63 (случайного рассеяния, как на рис. 4.1) до 0,86. Мы будем часто в дальнейшем упоминать ROC-кривые, так как они являются одним из наилучших способов показать (подчеркиваем: одним, так как этот метод сильно критикуют, а попытки разработать более адекватные критерии не прекращаются) и количественно оценить точность, отложив по одной оси число истинно положительных, а по другой – число ложноположительных результатов (см. рис. 4.2). Число, обозначающее степень точности, равно площади под кривой, причем 1,0 является идеальной величиной, а площадь под диагональю считается бесполезной, так как это все равно что подбрасывать монетку. Изначально полученное специалистами AliveCor значение 0,63 представляется плохим. Хорошим считается показатель 0,80–0,90, а 0,70–0,80 – достаточным. Затем они оценили валидность алгоритма, применив его на 40 пациентах, проходящих сеансы гемодиализа, у которых одновременно брали анализы крови на калий и снимали ЭКГ. Теперь у компании были и данные, и сам алгоритм для предъявления в Управление по контролю за лекарствами и пищевыми продуктами (FDA) для получения разрешения выпустить его на рынок как метод определения уровня калия в крови с помощью наручных смарт-часов.

Этот опыт AliveCor должен стать уроком для всех, кто хочет применить технологии ИИ в медицине искусственный интеллект. Когда я спросил Петтерсона, чему научила его эта история, он ответил: «Не спешить отбрасывать данные… Я работал в Google. Вик работал в Google. Саймон работал в Google. Мы уже тогда выучили это правило, но порой приходится усваивать один и тот же урок несколько раз. Машинное обучение лучше всего работает, если вы представляете машине достаточно сырых необработанных данных. Если у вас достаточно данных, она сама отфильтрует шум»⁸³.

Петтерсон считает: «В медицине никогда не бывает достаточно данных. Тут нет поисковых запросов. Миллиард запросов в минуту – такого у нас быть не может… Если в медицине у вас есть массив из 1 млн записей, то это уже гигантский массив. Величины, с которыми работает Google, не в тысячу, а в миллионы раз больше». Фильтровать данные настолько, чтобы с ними можно было работать вручную, – это ужасная идея. Как правило, при попытках применения искусственного интеллекта в медицине это не учитывается, но Петтерсон глубоко убежден: «В этой отрасли необходим, скажем так, сейсмический сдвиг»⁸⁴.

Уже сейчас мы видим основания для дальнейшего развития и разработки алгоритмов с помощью глубокого обучения. Критически важное условие – правильное наименование или базовое определение истинных показателей: алгоритм на входе должен получить корректные данные, чтобы на выходе от него была польза. Если бы анализы на калий брали через большие промежутки времени после регистрации ЭКГ, то предсказательная сила алгоритма была бы существенно меньше. Ограничение данных только показателями амбулаторных пациентов (так как поначалу казалось, что это наилучшая выборка для анализа) едва не погубило весь проект, так же как и чисто человеческое желание положиться на предыдущее допущение (ценность имеет только ввод данных о зубце Т, а не обо всем комплексе зубцов и интервалов).

Глубокое обучение искусственного интеллекта базируется на корректном вводе и выводе данных. Как говорит Эндрю Ын, настоящая рок-звезда в мире искусственного интеллекта, «планирование ввода-вывода – это современная суперсила». Алгоритмы любят поглощать данные – чем больше, тем лучше, но данные должны включать в себя адекватный диапазон значений, чтобы ввод был своего рода линзой для правильного фокусирования вывода. Это напоминает мне лечение пациента в отделении интенсивной терапии: один из ключевых критериев количественной оценки – сколько жидкости больной получил и сколько мочи выделил. Без точного знания о том, что на «входе», и о том, что на «выходе», мы можем неверно лечить больного, перегружая его жидкостью или, наоборот, вводя ненужные диуретики. В обоих случаях несоответствие между входом и выходом может убить больного.

Параллельно с проектом по определению уровня калия в крови AliveCor занималась выявлением мерцательной аритмии. Для каждого человека в течение жизни риск развития фибрилляции предсердий (раньше это нарушение ритма называли мерцанием предсердий) равен приблизительно 30 %, а риск развития инсульта у больного с фибрилляцией предсердий составляет около 3 % в год. Таким образом, очень важно выявить пароксизм фибрилляции предсердий при ее бессимптомном течении, поскольку он свидетельствует, что пациенту, возможно, следует назначить антиагреганты или антикоагулянты, то есть лекарства, «разжижающие» кровь. Еще в 2015 г. Дэвид Альберт, кардиолог, учредивший AliveCor, представил эту идею на научной конференции. Подход к глубокому обучению заключался в следующем: надо было дать машине представление об ожидаемой частоте сердечных сокращений у данного пациента в покое и на фоне физической активности. Скажем, ваша ЧСС, когда вы спокойно сидите, равна 60 в минуту, но внезапно она взлетает до 90 – без смены активности. Если акселерометр часов показывает, что вы по-прежнему сидите, то алгоритм зафиксирует аномалию и посоветует носителю часов зарегистрировать ЭКГ, что можно сделать, приложив подушечку большого пальца к браслету часов.

Пракаш, Петтерсон и трое других членов команды AliveCor с глубокого обучения разработали алгоритм, названный ими Smart Rhythm: нейронную сеть, которая анализирует активность человека в течение пяти предшествующих минут. По практическим соображениям этот алгоритм должен быть интегрирован со смарт-часами или другим устройством, способным круглосуточно и непрерывно осуществлять мониторинг частоты сердечных сокращений. Когда Apple в 2015 г. выпустил свои первые часы, они могли регистрировать ритм сердца всего лишь в течение пяти часов. Но вторая и третья версии часов уже могли отслеживать пульс непрерывно в течение суток, используя для этого оптические плетизмографические датчики – те самые, что мигают зеленым светом на задней крышке корпуса часов: эти датчики применяют многие производители (например, Fitbit). Увеличение срока работы аккумуляторов в версии 3 позволяет регистрировать сердечный ритм непрерывно на протяжении 24 часов – именно то, что было нужно AliveCor, чтобы алгоритм Smart Rhythm мог «оседлать» устройство. По крайней мере, впервые появилась возможность зарегистрировать кардиограмму в случае бессимптомного пароксизма фибрилляции предсердий в часы бодрствования пациента и уменьшить риск инсульта.

30 ноября 2017 г., меньше чем через полтора года после прихода Петтерсона и Пракаша в компанию AliveCor, FDA одобрила применение разработанного компанией устройства KardiaBand, которое может заменить устройство Apple Watch и помочь выявлять ФП, предупреждая пользователей о «возможной ФП». Впервые в истории FDA одобрила к применению алгоритм искусственного интеллекта, способный помогать пользователям устанавливать себе диагноз самостоятельно.

Между тем Apple, зная, когда AliveCor собирается анонсировать устройство KardiaBand, в тот же день объявил о начале большого клинического испытания в сотрудничестве со Стэнфордским университетом. Целью исследования было испытание датчика для выявления фибрилляции предсердий⁸⁵. В случае Apple выявление выполняется на основании нарушения регулярности сердечного ритма, после чего пациент может попасть на дистанционный прием к врачам телемедицинской онлайн-платформы American Well. После консультации пациентам назначают ношение специального пояса, который непрерывно регистрирует ЭКГ в течение по меньшей мере недели. Это более долгий и неудобный путь диагностики ФП по сравнению с прикладыванием большого пальца к часам. Словом, маленькая компания AliveCor выбила «яблочко»… вернее, Apple.

Триумф продолжался около девяти месяцев. В сентябре 2018 г. Apple с большой помпой объявил на ежегодном собрании, что FDA одобрила продажу часов Apple серии 4, которые станут «первым аппаратом ЭКГ в свободной продаже», и обещала пользователям: Apple Watch 4 – «надежный страж вашего здоровья». Оба утверждения, впрочем, не вполне точны⁸⁶.

Два проекта AliveCor – для определения содержания калия в крови и для выявления фибрилляции предсердий – демонстрируют многие характерные возможности искусственного интеллекта: например, выявление того, что не способен выявить человек, преодоление человеческих заблуждений и по-настоящему персонализированный мониторинг. Эти устройства для определения уровня калия и для слежения за ритмом сердца могут показаться скромными успехами, но они дают представление о том, чего может достичь ИИ, и переводят теоретические достижения в практическую плоскость. В конце концов, часы Apple носят 35 млн человек. Однако в долгосрочной перспективе, в эпоху ИИ в медицине, может случиться так, что Давид все-таки побьет Голиафа.

В этой главе я хочу обсудить некоторые нюансы того, как именно работают эти достижения (а также другие; их примеры я приведу далее). Я не собираюсь вдаваться в подробности глубокого обучения – в ту технологию, которая лежит в основе множества других технологий. Для этого есть прекрасный учебник «Глубокое обучение»⁸⁷, написанный Яном Гудфеллоу, блестящим молодым ученым из Google Brain, и группой его коллег⁸⁸. Мой план заключается в отказе от излишней детализации – лучше я постараюсь охватить именно то, что наиболее существенно для медицины, в технологиях, о которых мы сейчас говорим. Тем не менее нам все равно придется рассмотреть некоторые немедицинские концепции, и это очень важный момент, потому что ИИ получил куда большее распространение вне мира медицины, чем внутри него. Если бы не самоотверженные первопроходцы, мы никогда не сумели бы начать использование искусственного интеллекта в нашей отрасли. По этой причине я для начала изложу основные прецеденты, а также поясню некоторые термины и расскажу о хронологии.

В табл. 4.1 и на рис. 4.3 представлен глоссарий ключевых терминов, которые я буду использовать на протяжении всей книги. Однако есть один термин, который я хотел бы выделить особо, потому что он очень важен и потому что до сих пор идут споры о его точном смысле. Я уже несколько раз использовал слово «алгоритм», описывая проекты AliveCor. Но что же это такое? Я сам, сторонник максимального упрощения, всегда думал, что алгоритм – это принцип «если мы сделаем то, получим это». Но поскольку эта книга посвящена, строго говоря, именно алгоритмической медицине и ее значению, то нам придется несколько расширить понятие алгоритма. В своей книге «Верховный алгоритм»⁸⁹ мой друг Педро Домингос, профессор информатики Вашингтонского университета, описал алгоритм как «определенную последовательность инструкций, диктующую компьютеру его действия» и особо подчеркивает, что «у любого алгоритма есть вход и выход»⁹⁰. Это простое и довольно широкое определение, которое должно подразумевать нечто основополагающее, вроде вбивания чисел в калькулятор. Но Домингос идет дальше: «Если все алгоритмы вдруг перестанут работать, настанет конец света – такого, каким мы его знаем». Очевидно, что алгоритм – нечто большее, чем «если мы сделаем то, получим это»!

Массимо Мадзотти, профессор Калифорнийского университета в Беркли, рассуждает о понятии алгоритма еще более подробно, включая в определение ряд возможностей современного искусственного интеллекта.

«Лаконичные определения в настоящее время, впрочем, исчезли. Мы редко используем слово “алгоритм” для обозначения исключительно набора инструкций. Скорее, этим словом теперь обозначают программу, полностью управляющую работой конкретной физической машины, а также воздействующую и на другие системы. Алгоритмы, таким образом, стали действующими силами, и отчасти поэтому они породили столько метафор, заставляющих задуматься. В наше время алгоритмы создают вещи. Они определяют важные аспекты нашей социальной реальности. Они порождают новые формы субъектности и новые общественные отношения. Алгоритмы помогают миллиардам людей попадать именно туда, куда они хотят попасть. Они освобождают нас от перебирания множества несущественных результатов. Они управляют автомобилями. Они производят товары. Они решают, платежеспособен ли клиент и стоит ли давать ему кредит. Они покупают и продают акции, формируя всемогущие финансовые рынки. Они могут даже проявлять способности к творчеству. В самом деле, по мнению инженера и писателя Кристофера Стейнера, они уже сочиняют симфонии, “так же берущие за душу, как симфонии, сочиненные Бетховеном”⁹¹».

В книге «Homo Deus» Юваль Ной Харари придает алгоритмам первостепенное значение и приводит одно из самых широких его определений – на уровне организмов и человека, – какие мне только приходилось встречать.

«Сейчас считается истиной в последней инстанции, что организмы – это алгоритмы, а алгоритмы могут быть представлены математическими формулами. […] Если мы хотим осмыслить нашу жизнь и наше будущее, то во что бы то ни стало должны разобраться в том, что такое алгоритм и как алгоритмы связаны с эмоциями. […] Эмоции – это биохимические алгоритмы, которые насущно необходимы для выживания и воспроизводства всех млекопитающих. […] За 99 % наших решений, включая жизненно важные (касающиеся выбора супруга, профессии, места жительства), отвечают высокоточные алгоритмы, которые мы называем чувствами, эмоциями и желаниями»⁹².

Харари называет эту веру в мощь алгоритмов «датаизмом» и весьма мрачно смотрит на будущее, причем заходит в своем пессимизме так далеко, что утверждает: «Homo sapiens – отживший, выходящий из употребления алгоритм»⁹³.

Достаточно трех источников для того, чтобы создать карту, по которой можно ориентироваться. (Я буду придерживаться только одного определения относительно всех других терминов, приведенных в табл. 4.1.) Однако, как мне думается, все вместе они хорошо обрисовывают широту, яркость и важность самой идеи алгоритма. Полезно также думать об алгоритмах как о феноменах, существующих в континууме, протянувшемся от алгоритмов, управляемых исключительно людьми, до алгоритмов, которые управляются исключительно машинами, – причем глубокое обучение на этом континууме занимает его дальний «машинный» отрезок⁹⁴.

Таблица 4.1
Словарь
Искусственный интеллект – научно-техническое направление, занимающееся созданием мыслящих машин, обладающих способностью достигать тех же целей, что и человек, с помощью комплекса разнообразных технологий
Нейронная сеть (НС), Neural Network (NN) – программные конструкции, смоделированные по образу и подобию пластичных нейронов головного мозга и способные работать без жестких человеческих инструкций
Глубокое обучение – направление в машинном обучении, позволяющее программному обеспечению работать на основе самостоятельно обучающихся алгоритмов и обработке многоуровневых наборов данных
Машинное обучение – способность компьютеров обучаться без явного программирования с помощью 15 различных методик, таких как «метод случайного леса», байесовские сети, метод опорных векторов. Применение этих систем позволяет компьютерным алгоритмам обучаться на примерах и опыте (массивах данных), а не с использованием предопределенных методов, основанных на строгих правилах
Обучение с учителем – оптимизирующий процесс, построенный по методу проб и ошибок и основанный на маркированных (помеченных) данных, а также на сравнении выходов алгоритмов с правильными выходами в процессе обучения
Обучение без учителя – учебные образцы не отмечаются человеком; алгоритм, выявляя закономерности, обучается сам
Сверточная нейронная сеть (Convolutional Neural Network (CNN)) – использование принципа свертывания, математической операции, которая использует две функции для создания третьей: вместо того, чтобы перебирать весь набор данных, его разбивают на взаимно перекрывающиеся фрагменты, на которых работают простые, объединенные нейронные сети; систему по большей части используют для распознавания образов
Обработка естественного языка (Natural-Language Processing (NLP)) – попытка машинного «понимания» речи и письменного языка в том виде, в каком их понимают люди
Генеративно-состязательная сеть (Generative Adversarial Networks (GAN)) – пара совместно обучающихся нейронных сетей, одна порождающая, а вторая различающая, причем первая генерирует образы, а вторая пытается отличить правильные («подлинные») образы от неправильных
Обучение с подкреплением – тип машинного обучения, при котором фокус смещается на абстрактные цели или на принятие решения; эти технологии используются для обучения машин действиям в реальном мире
Рекуррентная нейронная сеть (Recurrent Neural Network (RNN)) – сеть, предназначенная для обработки последовательных входов, таких как речь или письменный язык; эти системы обрабатывают последовательности входа по одному элементу за раз, поочередно
Метод обратного распространения ошибки – подход, призванный указать, как машина должна изменить свои внутренние параметры, которые используются для вычисления представлений в каждом слое из представлений предыдущего слоя, пропуская значения назад по сети: так модифицируется работа синапсов, и сигналы автоматически направляются обратно по сети для того, чтобы отрегулировать и исправить весовые значения
Обучение признакам – совокупность методов, которые позволяют машине, пользуясь необработанными данными, автоматически распознавать признаки, необходимые для детектирования или классификации
Перенос обучения – способность искусственного интеллекта обучаться на примере решения различных других задач и применять предыдущие знания к решению принципиально новых задач
Общий (сильный) искусственный интеллект – решение широкого круга задач, включая чисто человеческие задачи, без применения эксплицитных программ
Источник: Artificial Intelligence and Life in 2030, S. Panel, ed. (Stanford, CA: Stanford University, 2016); J. Bar, “Artificial Intelligence: Driving the Next Technological Cycle,” in Next Generation (Zurich: Julius Baer Group, 2017); Choller, E., Deep Learning with Python (Shelter Island, New York; Manning, 2017); T. L. Fonseca, “What’s Happening Inside the Convolutional Neural Network? The Answer is Convolution,” buZZrobot (2017); A. Geitgey, “Machine Learning is Fun! Part 3: Deep Learning and Convolutional Neural Networks,” Medium (2016); Y. LeCun, Y. Bengio and G. Hinton, “Deep Learning,” Nature (2015): 521 (7553), 436–444; R. Raicea, “Want to Know How Deep Learning Works? Here’s a Quick Guide for Everyone,” Medium (2017); P. Voosen, “The AI Detectives,” Science (2017): 357 (6346), 22–27.

Рис. 4.3. Схематическое изображение трех типов глубокого обучения. Источник: с изменениями из: G. Choy, “Current Applications and Future Impact of Machine Learning in Radiology,” Radiology (2018): 318–328.

Краткая история

При всей той шумихе, которая сопровождает ИИ в СМИ, можно легко вообразить, что это совершенно новое изобретение, хотя концептуально оно зародилось больше 80 лет назад. В 1936 г. Алан Тьюринг опубликовал статью о мощных автоматизированных интеллектуальных системах – об универсальной вычислительной машине – под заголовком «О вычислимых числах применительно к проблеме разрешения»⁹⁵. Я не понял ничего в уравнениях, которыми пестрит этот 36-страничный шедевр, но вынужден согласиться с выводом: «В нашем нынешнем положении приходится утверждать, что проблема разрешения не может быть решена», – причем согласиться по одной простой причине. Я до сих пор не имею ни малейшего понятия, что это такое! Следующая статья Тьюринга, опубликованная в 1950 г., рассматривается как классическая работа в области ИИ⁹⁶.

Спустя несколько лет после публикации статьи Тьюринга, в 1943 г., нейрофизиолог Уоррен Маккаллок и нейролингвист Уолтер Питтс опубликовали свою первую статью, где были описаны «логические единицы» и предложен термин «искусственный нейрон» – для единицы, являющейся основанием и моделью для того, что впоследствии стали называть нейронными сетями. Термин «искусственный интеллект» был придуман Джоном Маккарти в 1955 г. Вышедший в одном из номеров The New York Times за 1958 г. материал о перцептроне Фрэнка Розенблатта (кибернетической модели мозга, которую на современном языке можно было бы назвать однослойной нейронной сетью) вызвал настоящий ажиотаж. «Этот зародыш электронного компьютера, – пророчествовала газета, – сможет ходить, говорить, писать, самостоятельно размножаться и осознавать свое существование». Чуть позже, в 1959 г., Артур Самуэль впервые использовал термин «машинное обучение». Другие вехи перечислены в хронологической таблице (см. табл. 4.2).

Таблица. 4.2
Хронология искусственного интеллекта
1936 – Статья Тьюринга (Алан Тьюринг)
1943 – Искусственная нейронная сеть (Уоррен Маккаллок, Уолтер Питтс)
1955 – В обиход введен термин «искусственный интеллект» (Джон Маккарти)
1957 – Прозвучало предсказание, что через 10 лет искусственный интеллект обыграет человека в шахматы (Герберт Саймон)
1958 – Перцептрон, однослойная нейронная сеть (Фрэнк Розенблатт)
1959 – Описание машинного обучения (Артур Самуэль)
1964 – ЭЛИЗА, первый чат-бот
1964 – «Мы знаем больше, чем можем высказать» (парадокс Майкла Полани⁹⁷)
1969 – Сомнение в эффективности искусственного интеллекта (Марвин Минский⁹⁸)
1986 – Многослойная нейронная сеть. ГНС (Джеффри Хинтон)
1989 – Сверточная нейронная сеть (Ян Лекун)
1991 – Обработка естественных языков в нейронных сетях (Зепп Хохрайтер, Юрген Шмидхубер)
1997 – Deep Blue обыгрывает в шахматы человека (Гарри Каспарова)
2004 – Создание самоуправляемого автомобиля, пустыня Мохаве (конкурс DARPA)
2007 – Запуск проекта ImageNet
2011 – IBM выигрывает в игре Jeopardy!
2011 – Нейронные сети, распознающие речь (Microsoft)
2012 – Создание разновидности ImageNet в Университете Торонто; система распознала кошку на видео (Google Brain, Эндрю Ын, Джефф Дин)
2014 – Создание системы распознавания лиц (DeepFace, Facebook)
2015 – DeepMind против Atari (Дэвид Сильвер, Демис Хассабис)
2015 – Первая конференция по вопросам рисков, связанных с использованием искусственного интеллекта (Макс Тегмарк)
2016 – AlphaGo против Go (Дэвид Сильвер, Демис Хассабис)
2017 – AlphaGo Zero против Go (Дэвид Сильвер, Демис Хассабис)
2017 – Libratus против игроков в покер (Ноам Браун, Туомас Сандхольм)
2017 – Создание института изучения ИИ AINow

Эти технологии, на сегодняшний день общепризнанные, в первые десятилетия существования ИИ вовсе не были его сутью и основанием. Отрасль развивала так называемые экспертные системы, основанные на логике, но в конце концов специалисты по информационным технологиям впали в уныние, поняв, что этот инструмент не работает. Это привело к застою, серьезному сокращению числа работ и прекращению финансирования, и наступила «зима искусственного интеллекта», продолжавшаяся без малого 20 лет. Отрасль пробудилась от спячки, когда Рина Дехтер в 1986 г. придумала термин «глубокое обучение», который популяризировали и внедрили в научный лексикон Джеффри Хинтон, Ян Лекун и Джошуа Бенджо. К концу 1980-х ученые обратили пристальное внимание на многослойные, или глубокие, нейронные сети (DNN), в науку вернулся интерес к искусственному интеллекту. Основополагающая статья Дэвида Румельхарта и Джеффри Хинтона об обратном распространении ошибок, опубликованная в журнале Nature в 1986 г., представила алгоритмический метод автоматического исправления ошибок в нейронных сетях, что подстегнуло интерес к теме⁹⁹. Оказалось, что это и есть суть и основа глубокого обучения, регулировка весов нейронов предыдущего слоя для достижения максимальной точности на выходе. Как выразился Ян Лекун, проходивший постдокторантуру у Хинтона после защиты диссертации, «его статья стала основой для второй волны интереса к нейронным сетям»¹⁰⁰. Именно Яна несколько лет спустя начнут называть отцом сверточной нейронной сети, которая до сих пор активно используется для глубокого обучения распознаванию изображений.

Широкая публика не особенно интересовалась историей создания искусственного интеллекта до 1997 г., когда машина Deep Blue, созданная IBM, выиграла в шахматы у Гарри Каспарова. На обложке журнала Newsweek красовалось название статьи об этом матче: «Последний оплот мозга». Несмотря на то, что название машины как бы намекает на использование алгоритмов глубоких нейронных сетей (Deep Blue – «темно-синий», дословно «глубокий синий»), внутри у нее был всего лишь эвристический алгоритм, работавший по строгим правилам. Тем не менее искусственный интеллект впервые одолел чемпиона мира по шахматам за доской. К сожалению, эта игра была подана в таком ключе, будто началась война машин против людей, – и впоследствии СМИ не раз подливали масло в огонь: взять хотя бы рассказ, опубликованный в The New Yorker в 2017 г. под названием «Искусственный интеллект против доктора медицины» (A.I. versus M.D.)¹⁰¹. С новой силой разгорелось «соперничество» между людьми и их технологиями, и без того имеющее долгую историю, начало которой было положено изобретением паровой машины и первой промышленной революцией.

В книге Гарри Каспарова «Человек и компьютер: Взгляд в будущее»¹⁰², вышедшей на два десятилетия позже, можно найти поразительное личное впечатление об этом поворотном пункте в истории искусственного интеллекта. Через месяц после того памятного матча Каспаров рассказывал журналу Time, что ощущал на противоположной стороне стола «новый тип интеллекта». Далее он вспоминал: «Компьютеру не мешает толпа фотографов вокруг стола. Нет смысла смотреть противнику в глаза, чтобы узнать его настроение, и невозможно заметить, как рука оппонента на секунду зависает над кнопкой часов, выдавая его сомнения в правильности избранного хода. Поскольку я считаю шахматы не просто интеллектуальной, но и психологической борьбой, игра против соперника, у которого нет души, в какой-то мере выбивала меня из колеи». Мне особенно запомнились два комментария Каспарова: «Надо признаться, что я вообще не был в настроении играть» и «По крайней мере, он [Deep Blue] не радовался, обыграв меня»¹⁰³. Это будут очень важные темы в нашем обсуждении, что ИИ может (и чего не может) сделать для медицины.

Несмотря на то, что компьютер Deep Blue имел мало общего с глубоким обучением, он стал провозвестником наступления эпохи этой технологии. Когда Фэй-Фэй Ли основала ImageNet, это имело историческое значение. Эта огромная база данных из 15 млн маркированных (аннотированных вручную) изображений помогла вывести на первые роли глубокие нейронные сети как инструмент компьютерного зрения. Одновременно заработала на полную мощность система обработки естественного языка на основе DNN, запущенная компаниями Microsoft и Google. Более наглядным примером для широкой публики стала победа компьютера IBM Watson в викторине Jeopardy! над опытнейшими игроками в 2011 г. Несмотря на то, что при этом использовался довольно примитивный ИИ, который не имел никакого отношения к сетям глубокого обучения и опирался на скоростной доступ к контенту «Википедии», IBM очень умело преподнесла эту победу как триумф искусственного интеллекта.

Следующее десятилетие было ознаменовано примечательными достижениями ИИ. В 2012 г. глубокое обучение получило мощный импульс после публикации исследований Хинтона и его коллег по Университету Торонто: ученые продемонстрировали значительный прогресс в распознавании образов¹⁰⁴. В том же 2012 г. стал очевиден прогресс в распознавании немаркированных образов, когда команда Google Brain, возглавляемая Эндрю Ыном и Джеффом Дином, разработала систему, для функционирования которой были необходимы 100 компьютеров и 10 млн изображений, что позволяло распознавать кошек на видеороликах YouTube. По состоянию на 2014 г. точность распознавания человеческих лиц системой DeepFace от Facebook составляла 97 %. Что касается медицины, то вехой здесь стала публикация 2017 г. в Nature, в которой говорилось о диагностике рака кожи с использованием глубоких нейронных сетей: диагнозы были не менее точны, чем у опытных дерматологов, а это означало успех искусственного интеллекта в интересующей нас области¹⁰⁵. Кроме того, как мы увидим, несмотря на неверное наименование и на маркетинговые ходы в связи с Deep Blue и Watson, глубокие нейронные сети и родственные им сети стали доминировать и в играх – в покере, в AlphaGo (программа для игры в го) и других играх для приставки Atari.

Глубокие нейронные сети

Сегодня ИИ толкает вперед мощный импульс, по силе сравнимый с кембрийским взрывом 500 млн лет назад, – и это связано с успехом глубоких нейронных сетей. Эпоха глубоких нейронных сетей по многим причинам не наступила бы, если бы четыре ее составляющие не захлестнули нашу жизнь, как девятый вал. Во-первых, это огромные массивы данных (те самые «большие данные») для обучения. Например, ImageNet, содержащая 15 млн маркированных изображений; огромная библиотека видео YouTube, которая увеличивается на 300 часов видео каждую минуту; собрание данных по вождению автомобилей Tesla, куда каждый час добавляются сведения об 1 млн миль дорог; собрание данных о полетах различных авиакомпаний, которое с каждым новым полетом пополняется на 500 гигабайт; библиотека Facebook, состоящая из миллиардов изображений и 4,5 млрд переводов с разных языков в день¹⁰⁶. Во-вторых, это специализированные графические процессоры для обработки графической информации (Graphic Processing Units, GPU), созданные для выполнения интенсивных расчетных функций с массивно-параллельной архитектурой; эти системы впервые появились в индустрии видеоигр. Вышедшая в 2018 г. публикация об оптической дифракционной глубокой нейросети (Diffractive Deep Neural Network, DNN²) побудила Педро Домингоса сказать: «Переходим на графические процессоры. Теперь глубокое обучение можно выполнять со скоростью света»¹⁰⁷. В-третьих, это облачные вычисления и возможность экономного облачного хранения даже большого количества информации. И в-четвертых, это пакеты программ с открытым исходным кодом для разработки алгоритмов с открытым исходным кодом, такие как Tensor Flow от Google, Cognitive Kit от Microsoft, CAFFE от специалистов Калифорнийского университета в Беркли, PyTorch от Facebook и Paddle от Baidu. Эти системы сделали работу с искусственным интеллектом доступной.

Глубокая нейронная сеть (см. рис. 4.4) по строению похожа на многослойный сэндвич, поставленный набок. Но слои этого сэндвича – не бекон, салатные листы и помидоры, а данные, которые перемещаются между слоями вычислений, извлекающих высокоуровневые признаки из необработанных данных сенсоров, из последовательности вычислений как она есть. Важно отметить, что эти слои задаются не человеком, они вообще скрыты от глаз пользователя и регулируются по технологии, похожей на метод обратного распространения ошибки Джеффа Хинтона, когда глубокая нейронная сеть сама взаимодействует с данными. Для примера мы воспользуемся обучением машины читать рентгенограммы грудной клетки. Основные опорные точки, на которых обучали сеть (см. рис. 4.5), – это тысячи рентгенограмм, интерпретированные опытными рентгенологами и соответствующим образом помеченные (маркированные). После обучения сеть становится пригодной для ввода в нее непомеченной рентгенограммы. Данные проходят через многочисленные скрытые слои нейронов, от 5 до 1 тыс., и каждый слой реагирует на различные признаки рентгенографического изображения (скажем, на формы теней и их края). По мере того, как изображение (распространяющиеся данные) переходит в более высокие слои, усложняются признаки и структуры. Чем глубже сеть, то есть чем больше число слоев, тем более сложный ввод сможет она интерпретировать. На верхнем слое нейроны располагают полностью дифференцированными признаками и готовы к выводу данных, то есть готовы спрогнозировать на основании обучения¹⁰⁸, что показывает рентгенограмма. Глубокие нейронные сети с их структурным остовом можно рассматривать с функциональной точки зрения как технологию общего назначения – так же как, например, паровую машину или электричество¹⁰⁹. И, подобно этим технологиям, глубокие нейронные сети могут использоваться для решения самых разных проблем. Еще до попыток приложить их к медицине они нашли свое применение в четырех основных сферах: играх, изображениях, голосе/речи, а также в беспилотном вождении. Из опыта использования ИИ в каждой из этих сфер можно извлечь полезные уроки, которые помогут понять, что может дать медицине глубокое обучение.

Рис. 4.4. Архитектура глубокой нейронной сети со слоем ввода, множеством скрытых слоев и слоем вывода

Рис. 4.5. Схема глубокой сверточной нейронной сети для интерпретации рентгеновских снимков грудной клетки с последовательностью свертывающих слоев для картирования признаков, объединения и предсказания

1.Джордж Сантаяна (1863–1952) – американский философ и писатель испанского происхождения. Ему принадлежит высказывание «Кто не помнит своего прошлого, обречен пережить его вновь». – Здесь и далее, кроме особо оговоренных случаев, прим. ред.

2.Broyard, A., Intoxicated by My Illness. 2010. New York: Ballantine Books, курсив автора предисловия. ГЛАВА 1. ЗНАКОМСТВО С ПРИМЕНЕНИЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В МЕДИЦИНЕ

3.Califf, R. M., and R. A. Rosati, “The Doctor and the Computer.” Western Journal of Medicine, 1981 October. 135 (4): pp. 321–323. https://www.ncbi.nlm.nih.gov/pmc/ articles/PMC1273186/.

4.Фрэнсис Пибоди (1881–1927) – американский врач, автор известной и часто цитируемой в американской медицинской литературе статьи «Забота о пациенте» (The Care of the Patient).

5.Sisson, P., “Rady Children’s Institute Sets Guinness World Record,” San Diego Union Tribune. 2018.

6.Ларри Дэвид (род. 1947) – американский комик, актер и сценарист, автор сценария сериала «Умерь свой энтузиазм» (Curb Your Enthusiasm) и исполнитель главной роли.

7.Krizhevsky, A., I. Sutskever, and G. Hinton, “ImageNet Classification with Deep Convolutional Neural Networks,” ACM Digital Library. 2012: NIPS’12 Proceedings of the 25th International Conference on Neural Information Processing Systems, pp. 1097–1105.

8.Topol, E. J., “Individualized Medicine from Prewomb to Tomb.” Cell, 2014. 157 (1): pp. 241–253.

9.Schwartz, W. B., “Medicine and the Computer: The Promise and Problems of Change.” The New England Journal of Medicine, 1970. 283 (23): pp. 1257–1264.

10.Peabody, F. W., “The Care of the Patient.” MS/JAMA, 1927. 88: pp. 877–882. ГЛАВА 2. ПОВЕРХНОСТНАЯ МЕДИЦИНА

11.Линда Чин (род. 1968) – известный американский врач китайского происхождения, дерматолог, онколог, генетик.

12.Singh, H., A. N. Meyer, and E. J. Thomas, “The Frequency of Diagnostic Errors in Outpatient Care: Estimations from Three Large Observational Studies Involving US Adult Populations.” BMJ Quality & Safety, 2014. 23 (9): pp. 727–731.

13.Cassel, C. K., and J. A. Guest, “Choosing Wisely: Helping Physicians and Patients Make Smart Decisions About Their Care.” JAMA, 2012. 307 (17): pp. 1801–1802; Mason, D. J., “Choosing Wisely: Changing Clinicians, Patients, or Policies?” JAMA, 2015. 313 (7): pp. 657–658; Casarett, D., “The Science of Choosing Wisely – Overcoming the Therapeutic Illusion.” The New England Journal of Medicine, 2016. 374 (13): pp. 1203–1205; “Choosing Wisely: Five Things Physicians and Patients Should Question,” An Initiative of the ABIM Foundation. American Academy of Allergy & Immunology. 2012.

14.Smith-Bindman, R., “Use of Advanced Imaging Tests and the Not-So-Incidental Harms of Incidental Findings.” JAMA Internal Medicine, 2018. 178 (2): pp. 227–228.

15.Casarett, “The Science of Choosing Wisely.”

16.Brownlee, S., et al., “Evidence for Overuse of Medical Services Around the World.” The Lancet, 2017. 390 (10090): pp. 156–168; Glasziou, P., et al., “Evidence for Underuse of Effective Medical Services Around the World.” The Lancet, 2017. 390 (10090): pp. 169–177; Saini, V., et al., “Drivers of Poor Medical Care.” The Lancet, 2017. 390 (10090): pp. 178–190; Elshaug, A. G., et al., “Levers for Addressing Medical Underuse and Overuse: Achieving High-Value Health Care.” The Lancet, 2017. 390 (10090): pp. 191–202.

17.Epstein, D., “When Evidence Says No, But Doctors Say Yes,” The Atlantic. February 22, 2017.

18.Bakris, G., and M. Sorrentino, “Redefining Hypertension – Assessing the New Blood-Pressure Guidelines.” The New England Journal of Medicine, 2018. 378 (6): pp. 497–499.

19.Singletary, B., N. Patel, and M. Heslin, “Patient Perceptions About Their Physician in 2 Words: The Good, the Bad, and the Ugly.” JAMA Surgery, 2017. 152 (12): pp. 1169–1170.

20.Brody, B., “Why I Almost Fired My Doctor,” The New York Times. October 12, 2017.

21.Oaklander, M., “Doctors on Life Support,” Time. 2015.

22.Panagioti, M., et al., “Association Between Physician Burnout and Patient Safety, Professionalism, and Patient Satisfaction: A Systematic Review and Meta-Analysis,” JAMA Internal Medicine, 2018.

23.Wang, M. D., R. Khanna, and N. Najafi, “Characterizing the Source of Text in Electronic Health Record Progress Notes.” JAMA Internal Medicine, 2017. 177 (8): pp. 1212–1213.

24.Jha, S., “To put this in perspective. Your ATM card works in Outer Mongolia, but your EHR can’t be used in a different hospital across the street.” Twitter, 2017.

25.Welch, H. G., et al., “Breast-Cancer Tumor Size, Overdiagnosis, and Mammography Screening Effectiveness.” The New England Journal of Medicine, 2016. 375 (15): pp. 1438–1447.

26.. “Early Detection of Cancer.” Harding Center for Risk Literacy. 2018. https://www. harding-center.mpg.de/en/fact-boxes/early-detection-of-cancer; Pinsky, P. F., P. C. Prorok, and B. S. Kramer, “Prostate Cancer Screening – a Perspective on the Current State of the Evidence.” The New England Journal of Medicine, 2017. 376 (13): pp. 1285–1289; “Prostate-Specific Antigen-Based Screening for Prostate Cancer: A Systematic Evidence Review for the U. S. Preventive Services Task Force,” in Evidence Synthesis Number 154, 2017.

27.Fraser, M., et al., “Genomic Hallmarks of Localized, Non-Indolent Prostate Cancer.” Nature, 2017. 541 (7637): pp. 359–364.

28.Pinsky, Prorok, and Kramer, “Prostate Cancer Screening.” The New England Journal of Medicine, 2017.

29.Ahn, H. S., H. J. Kim, and H. G. Welch, “Korea’s Thyroid-Cancer ‘Epidemic’ – Screening and Overdiagnosis.” The New England Journal of Medicine, 2014. 371 (19): pp. 1765–1767.

30.Welch, H. G., “Cancer Screening, Overdiagnosis, and Regulatory Capture.” JAMA Internal Medicine, 2017. 177 (7): pp. 915–916.

31.Welch et al., “Breast-Cancer Tumor Size, Overdiagnosis, and Mammography Screening Effectiveness.” The New England Journal of Medicine, 2016. 375 (15), 1438–1447; Welch, “Cancer Screening, Overdiagnosis, and Regulatory Capture.”

32.Ghajar, C. M., and M. J. Bissell, “Metastasis: Pathways of Parallel Progression,” Nature. 2016; Hosseini, H., et al., “Early Dissemination Seeds Metastasis in Breast Cancer,” Nature. 2016; Townsend, J., “Evolution Research Could Revolutionize Cancer Therapy,” Scientific American. 2018.

33.Kohane, I. S., Interview with Isaac S. Kohane conducted by Sarah Miller. Pharmacogenomics, 2012. 13 (3): pp. 257–260.

34.Welch, “Cancer Screening, Overdiagnosis, and Regulatory Capture.”

35.Centers for Medicare and Medicaid Services. August 8, 2018. www.cms.gov/.

36.Silverman, E., “Why Did Prescription Drug Spending Hit $374B in the US Last Year? Read This,” The Wall Street Journal. 2015; Berkrot, B., “U. S. Prescription Drug Spending as High as $610 Billion by 2021: Report,” Reuters. 2017.

37.Schork, N. J., “Personalized Medicine: Time for One-Person Trials.” Nature, 2015. 520 (7549): pp. 609–611.

38.Villarosa, L., “Why America’s Black Mothers and Babies Are in a Life-or-Death Crisis,” The New York Times. 2018.

39.Уильям Бенджамин Шварц (1922–2009) – известный американский нефролог, одним из первых указавший на рост стоимости медицинских услуг как на зарождающуюся серьезную проблему.

40.Tversky, A., and D. Kahneman, “Judgment Under Uncertainty: Heuristics and Biases.” Science, 1974. 185 (4157): pp. 1124–1131.

41.Lewis, M., The Undoing Project: A Friendship That Changed Our Minds. 2016. New York: W. W. Norton.

42.Obermeyer, Z., et al., “Early Death After Discharge from Emergency Departments: Analysis of National US Insurance Claims Data.” BMJ, 2017. 356: p. j239.

43.Singh, H., A. N. Meyer, and E. J. Thomas, “The Frequency of Diagnostic Errors in Outpatient Care: Estimations from Three Large Observational Studies Involving US Adult Populations.” BMJ Quality & Safety, 2014. 23 (9): pp. 727–731.

44.Brush, J. E., Jr., and J. M. Brophy, “Sharing the Process of Diagnostic Decision Making.” JAMA Internal Medicine, 2017. 177 (9): pp. 1245–1246.

45.Tversky and Kahneman, “Judgment Under Uncertainty.”

46.Brush and Brophy, “Sharing the Process of Diagnostic Decision Making.”

47.. “The Internal Medicine Milestone Project,” in The Accreditation Council for Graduate Medical Education and the American Board of Internal Medicine. 2012.

48.Тетлок Ф., Гарднер Д. Думай медленно – предсказывай точно. – М.: АСТ, 2018.

49.Tetlock, P., Superforecasting. 2015. New York: Penguin Random House.

50.Льюис М. Отмененный проект. – М: АСТ, 2019.

51.Lewis, The Undoing Project.

52.Lewis, The Undoing Project.

53.Yagoda, B., “The Cognitive Biases Tricking Your Brain,” The Atlantic. 2018.

54.Redelmeier, D. A., and A. Tversky, “Discrepancy Between Medical Decisions for Individual Patients and for Groups.” The New England Journal of Medicine, 1990. 322 (16): pp. 1162–1164.

55.Coussens, S., “Behaving Discretely: Heuristic Thinking in the Emergency Department,” Harvard Scholar. 2017.

56.Tversky and Kahneman, “Judgment Under Uncertainty.”

57.Lewis, The Undoing Project.

58.Tversky and Kahneman, “Judgment Under Uncertainty.”

59.Topol, E., The Creative Destruction of Medicine: How the Digital Revolution Will Create Better Health Care. 2012. New York: Basic Books.

60.Yagoda, “The Cognitive Biases Tricking Your Brain.”

61.Там же.

62.Schiff, G. D., et al., “Diagnostic Error in Medicine: Analysis of 583 Physician-Reported Errors.” Archives of Internal Medicine, 2009. 169 (20): pp. 1881–1887.

63.Semigran, H. L., et al., “Evaluation of Symptom Checkers for Self Diagnosis and Triage: Audit Study.” BMJ, 2015. 351: p. h3480.

64.Van Such, M., et al., “Extent of Diagnostic Agreement Among Medical Referrals.” Journal of Evaluation in Clinical Practice, 2017. 23 (4): pp. 870–874.

65.Muse, E., et al., “From Second to Hundredth Opinion in Medicine: A Global Platform for Physicians.” NPJ Digital Medicine, на момент написания книги находится в печати.

66.Human Diagnosis Project. August 8, 2018. www.humandx.org/.

67.Khazan, O., “Doctors Get Their Own Second Opinions,” The Atlantic. 2017.

68.. “Doctor Evidence Brings Valuable Health Data to IBM Watson Ecosystem,” IBM Press Release. 2015.

69.Ross, C., and I. Swetlitz, “IBM Pitched Its Watson Supercomputer as a Revolution in Cancer Care: It’s Nowhere Close,” Stat News. 2017.

70.Patel, N. M., et al., “Enhancing Next-Generation Sequencing-Guided Cancer Care Through Cognitive Computing.” The Oncologist, 2018. 23 (2): pp. 179–185.

71.Patel, et al., “Enhancing Next-Generation Sequencing-Guided Cancer Care Through Cognitive Computing.”

72.Mukherjee, S., “A. I. Versus M. D.: What Happens When Diagnosis Is Automated?” The New Yorker. 2017.

73.Ross and Swetlitz, “IBM Pitched Its Watson Supercomputer as a Revolution in Cancer Care.”

74.Herper, M., “MD Anderson Benches IBM Watson in Setback for Artificial Intelligence in Medicine,” Forbes. 2017.

75.Ross and Swetlitz, “IBM Pitched Its Watson Supercomputer as a Revolution in Cancer Care.”

76.Muoio, D., “IBM Watson Manager, Academics Describe Challenges, Potential of Health Care AI,” MobiHealthNews. 2017.

77.Харари Ю. Н. Homo Deus. Краткая история будущего. – М.: Синдбад, 2018.

78.Harari, Y. N., Homo Deus. 2016. New York: HarperCollins, p. 448.

79.Beam, A. L., and I. S. Kohane, “Translating Artificial Intelligence into Clinical Care.” JAMA, 2016. 316 (22): pp. 2368–2369.

80.Кай-Фу Ли. Сверхдержавы искусственного интеллекта. – М.: Манн, Иванов и Фербер, 2018.

81.Dillon, J. J., et al., “Noninvasive Potassium Determination Using a Mathematically Processed ECG: Proof of Concept for a Novel ‘Blood-Less,’ Blood Test.” Journal of Electrocardiology, 2015. 48 (1): pp. 12–18.

82.Vic Gundotra, Frank Petterson, and Simon Prakash interview with Eric Topol, AliveCor. November 2017.

83.Gundotra, Petterson, and Prakash interview with Topol.

84.Там же.

85.Comstock, J., “Apple, Stanford Launch Apple Heart Study to Improve Atrial Fibrillation Detection,” MobiHealthNews. 2017; Loftus, P., and T. Mickle, “Apple Delves Deeper into Health,” The Wall Street Journal. 2017, p. B5.

86.Gonzalez, R., “The New ECG Apple Watch Could Do More Harm Than Good,” Wired. 2018. https://www.wired.com/story/ecg-apple-watch/; Dormehl, L., “Why We Should Be Wary of Apple Watch ‘Ultimate’ Health Guardian Claims,” Cult of Mac, 2018. https://www.cultofmac.com/577489/why-we-shouldbe-wary-of-apple-watch-ultimate-health-guardian-claims/; Victory, J., “What Did Journalists Overlook About the Apple Watch ‘Heart Monitor’ Feature?” HealthNewsReview, 2018. https://www.healthnewsreview.org/2018/09/ what-did-journalists-overlook-about-the-apple-watch-heart-monitor-feature/.

87.Бенджио И., Курвилль А., Гудфеллоу Я. Глубокое обучение. – М.: ДМК-Пресс, 2018.

88.Goodfellow, I., Y. Bengio, and A. Courville, Deep Learning, ed. T. Dietterich. 2016. Cambridge, MA: MIT Press.

89.Домингос П. Верховный алгоритм. Как машинное обучение изменит наш мир. – М.: Манн, Иванов и Фербер, 2016.

90.Domingos, P., The Master Algorithm. 2018. New York: Basic Books.

91.Mazzotti, M., “Algorithmic Life,” Los Angeles Review of Books. 2017.

92.Harari, Y. N., Homo Deus. 2016. New York: HarperCollins, p. 348.

93.Там же.

94.Beam, A. L., and I. S. Kohane, “Big Data and Machine Learning in Health Care.” JAMA, 2018. 319 (13): pp. 1317–1318.

95.Turing, A. M., “On Computable Numbers with an Application to the Entscheidung-sproblem.” Proceedings of the London Mathematical Society, 1936. 42 (1): pp. 230–265. doi: 10.1112/plms/s2–42.1.230.

96.Turing, A. M., “Computing Machinery and Intelligence.” Mind, 1950. 49: pp. 433–460. https://www.csee.umbc.edu/courses/471/papers/turing.pdf.

97.Майкл Полани (1891–1976) – британский физик, химик и философ венгерского происхождения, один из основателей позитивизма, автор концепции «неявного знания».

98.Марвин Минский (1927–2016) – американский специалист по искусственному интеллекту, соавтор книги «Перцептроны» (с С. Пейпертом), содержащей критику исследований в области искусственных нейронных сетей.

99.Rumelhart, D. E., G. Hinton, and R. J. Williams, “Learning Representations by Back-Propagating Errors.” Nature, 1986. 323: pp. 533–536.

100.Parloff, R., “Why Deep Learning Is Suddenly Changing Your Life,” in Fortune. 2016.

101.Mukherjee, S., “A. I. Versus M. D. What Happens When Diagnosis Is Automated?” The New Yorker. 2017.

102.Каспаров Г. Человек и компьютер: Взгляд в будущее. – М.: Альпина Паблишер, 2018.

103.Kasparov, G., Deep Thinking. vol. 1, 2017. New York: PublicAffairs.

104.Krizhevsky, A., I. Sutskever, and G. Hinton, “ImageNet Classification with Deep Convolutional Neural Networks,” ACM Digital Library. 2012: NIPS’12 Proceedings of the 25th International Conference on Neural Information Processing Systems, pp. 1097–1105.

105.Esteva, A., et al., “Dermatologist-Level Classification of Skin Cancer with Deep Neural Networks.” Nature, 2017. 542 (7639): pp. 115–118.

106.Brynjolfsson, E., and T. Mitchell, “What Can Machine Learning Do? Workforce Implications.” Science, 2017. 358 (6370): pp. 1530–1534.

107.Lin, X., et al., “All-Optical Machine Learning Using Diffractive Deep Neural Networks,” Science. 2018.

108.LeCun, Y., Y. Bengio, and G. Hinton, “Deep Learning.” Nature, 2015. 521 (7553): pp. 436–444.

109.Brynjolfsson, E. and T. Mitchell, “What Can Machine Learning Do? Workforce Implications.” Science, 2017. 358 (6370): pp. 1530–1534.

Bepul matn qismi tugad.