Kitobni o'qish: «Обеспечение фундаментальных прав человека при обработке данных в государственном управлении»

Авторский коллектив:

Талапина Эльвира Владимировна – д-р юрид. наук, вед. науч. сотр. научно-исследовательского центра «Центр технологий государственного управления» Института прикладных экономических исследований (ЦТГУ ИПЭИ) РАНХиГС

Южаков Владимир Николаевич – д-р филос. наук, проф., директор ЦТГУ ИПЭИ РАНХиГС

Черешнева Ирина Анатольевна — науч. сотр. ЦТГУ ИПЭИ РАНХиГС

Рецензенты:

Гриценко Елена Владимировна – д-р юрид. наук, проф. кафедры конституционного права Санкт-Петербургского государственного университета

Гегедюш Наталья Сергеевна — канд. соц. наук, доц. кафедры государственного и муниципального управления Государственного университета управления

© ФГБОУ ВО «Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации», 2022

Введение

В органах государственной власти сосредотачивается колоссальный объем данных из самых разных источников – от граждан, коммерческих организаций, из других государственных органов. Их собирают в различных целях, они циркулируют внутри ведомственных информационных систем, используются в разных целях многими органами государственного управления. При их обработке возникает множество рисков, при этом один из главных – риск нарушения фундаментальных прав человека, одним из основных источников которого является нарушение правил обработки данных (в том числе необоснованное раскрытие персональных данных ввиду неопределенности правил их обработки).

Статья 18 Конституции России устанавливает, что права и свободы человека и гражданина «определяют смысл, содержание и применение законов, деятельность законодательной и исполнительной власти», а ст. 2 называет признание, соблюдение и защиту прав и свобод человека обязанностью государства. Для того чтобы эта обязанность надлежаще выполнялась, необходимо ее организационное, нормативное, кадровое и прочее обеспечение, встраивание защиты прав человека непосредственно в логику государственного управления. Это предполагает выстраивание системной политики в отношении обработки данных в государственном управлении, что, в свою очередь, предполагается пунктом м) ст. 71 Конституции в редакции 2020 г., закрепившей в ведении Российской Федерации вопросы обеспечения безопасности личности, общества и государства при применении информационных технологий, обороте цифровых данных. Государство – активный участник оборота цифровых данных, но соответствующая политика пока не сформулирована. Поэтому весьма актуальна задача выявления и анализа имеющихся в мировой практике методологий, научно-методологических подходов, позволяющих обрабатывать данные в целях госуправления с соблюдением фундаментальных прав человека. Это поспособствует тому, чтобы обосновать и предложить собственные правовые меры обеспечения фундаментальных прав человека при обработке данных в государственном управлении России.

В цифровую эпоху деятельность государства, как никогда, необходима, чтобы гарантировать фундаментальные права и придать значимость потенциалу, которым располагают технологии для всеобщего интереса. Как и в других областях, вмешательство государства должно происходить тогда, когда есть неравенство сторон в распределении ресурсов¹.

Целью настоящего исследования является анализ научно-методологических подходов к обеспечению фундаментальных прав человека при обработке данных в государственном управлении и возможностей их учета в российском государственном управлении.

Для достижения цели выполнены следующие задачи, предусмотренные техническим заданием:

1) Подготовка обзора и анализ зарубежных и российских научно-методологических подходов к обеспечению фундаментальных прав человека при обработке данных в государственном управлении, в том числе при ее цифровизации и автоматизации.

2) Оценка возможностей учета в российском государственном управлении зарубежных и российских научно-методологических подходов к обеспечению фундаментальных прав человека при обработке данных в государственном управлении, в том числе при ее цифровизации и автоматизации.

3) Определение базовых правовых основ обеспечения фундаментальных прав человека при обработке данных в государственном управлении, в том числе при ее цифровизации и автоматизации, включая:

• классификацию и анализ фундаментальных прав человека, затрагиваемых при обработке данных в государственном управлении, в том числе при ее цифровизации и автоматизации;

• классификацию и анализ возможных нарушений фундаментальных прав человека, затрагиваемых при обработке данных в государственном управлении, в том числе при ее цифровизации и автоматизации;

• разработку критериев надлежащей обработки данных в государственном управлении в целях обеспечения фундаментальных прав человека при обработке данных в государственном управлении, в том числе при ее цифровизации и автоматизации.

4) Подготовка предложений по правовому обеспечению фундаментальных прав человека при обработке данных в российском государственном управлении, в том числе при ее цифровизации и автоматизации.

Новизна такого исследования определяется недостаточной урегулированностью процесса оборота данных в государственном управлении и их обработки, в результате чего конституционная задача защиты фундаментальных прав человека не получает специального нормативного оформления.

Полученные результаты могут быть использованы для разработки соответствующей государственной политики обеспечения фундаментальных прав человека при обработке данных в российском государственном управлении.

1. Научно-методологические подходы к обеспечению фундаментальных прав человека при обработке данных в государственном управлении

Периодические амбициозные заявления об использовании цифровых технологий во всех сферах жизнедеятельности впечатляют масштабами и футуристическими зарисовками, но не стоит забывать о том, что все это будет происходить непосредственно в нашем обществе, т. е. в обществе со сложившимися традициями, правовой культурой и ожиданиями.

Было бы несомненной ошибкой концентрироваться лишь на радужных перспективах, игнорируя риски, которые таят цифровые технологии, в том числе (даже в особенности) при их применении в государственном управлении. Перед теорией и практикой государственного управления, перед публичным правом стоит задача осмысления технологического обновления, с тем чтобы уберечь при этом устоявшиеся человеческие и правовые ценности, одну из которых представляют фундаментальные права человека. Анализ российской и зарубежной доктрины (прежде всего юридической, а также социологической, науки управления, политологии и других общественных наук), управленческой и судебной практики, примеров из правоприменительной практики в сфере государственного управления позволяет выявить проблемы, с которыми может столкнуться система защиты прав человека при обработке данных в государственном управлении на основе цифровых технологий, и подумать о путях их преодоления.

Все чаще, когда говорится о технологиях, речь заходит об алгоритмической обработке данных в различных сферах деятельности. Обработка данных в государственном управлении на основе цифровых технологий не может осуществляться иначе как на прочной нормативной базе, четко устанавливающей права и обязанности сторон, их ответственность в случае нарушений. Учитывая содержание ст. 2 Конституции, первостепенной задачей обработки данных в государственном управлении является соблюдение фундаментальных прав человека. Соответственно использование алгоритмов в сфере государственного управления не должно и не может посягать на права человека. Однако, облегчая осуществление «юридических операций», алгоритмы содержат потенциальные риски, связанные, как правило, с цифровым неравенством, цифровым угнетением, а также предвзятостью входных данных, трудностью в понимании того, как функционирует алгоритм. Безусловно, алгоритмы в области правоприменения должны использоваться во благо прежде всего человека, особенно если это касается его основных прав, в том числе права на свободу, права на судебную защиту и др. В то же время мы не можем исключить и обратную сторону медали, а именно порождаемые технологией риски; тем самым мы не вправе полностью положиться на алгоритм; в этом смысле «конечной» инстанцией должен быть человек.

Сказанное становится особенно актуальным и в некотором смысле даже вызывает тревогу, когда речь заходит об использовании алгоритмов органами правопорядка при выявлении, расследовании и прогнозировании преступлений (предиктивная аналитика)², поскольку таит угрозу первому среди равных прав человека – праву на жизнь. Именно органами правопорядка алгоритмы стали использоваться наиболее активно (что будет рассмотрено подробнее ниже), и этот опыт уже начал распространяться на всю систему государственного управления.

Ввиду остроты тематики цифровизации и автоматизации в настоящий период можно наблюдать относительное разнообразие подходов к проблематике прав человека в условиях цифровизации, как, впрочем, и к пониманию прав человека в целом. При этом специфика проблем применительно к обработке данных в государственном управлении в тематических исследованиях практически не выделяется. В Европе особо заметен аспект прав человека, изучаемый безотносительно к государственному или частному сектору. Отмечается, что цифровые технологии обработки данных угрожают ключевым аспектам основных прав граждан, праву на неприкосновенность частной жизни, защиту данных и недискриминацию, а также основным ценностям европейских обществ, таким как демократия, верховенство права, автономия и самоопределение³.

Приблизительно тот же набор рисков для прав человека был обнаружен в результате социологического исследования, проведенного в профессиональной среде, – реализованное в 2014 г., оно затронуло европейские национальные органы по защите данных. Размышляя о конкретных случаях нарушений, национальные органы по защите данных назвали основными правами или принципами, которые в наибольшей степени оспариваются при профилировании, право на защиту данных, за которым следуют право на неприкосновенность частной жизни, право на недискриминацию, право на транспарентность, право на автономию и самоопределение и право на должный процесс в ранге упоминаний⁴. Этот перечень – диапазон проблемных исследований в самом общем виде.

«Географически» можно совершенно определенно выделить:

1) подходы, развиваемые на Американском континенте, характеризуемые, во-первых, большим эмпирическим материалом в связи с более продвинутой практической стадией использования цифровых технологий, во-вторых, более гибким и адаптивным правовым аппаратом, в-третьих, заметной тенденцией к экспансии собственного опыта;

2) европейские подходы, традиционно уделяющие повышенное внимание правам человека и защите данных;

3) формирующиеся российские подходы, для которых характерно заимствование тех или иных зарубежных механизмов (довольно бессистемное). В качестве четвертого выделим китайский подход к обработке данных, квинтэссенцией которого стала система социального рейтинга граждан. Вот как европейский ученый оценивает китайский вариант: информационное развитие управления данными толкает государства к произвольным, неконтролируемым действиям с целью получения скорого результата, позволяющего контролировать и санкционировать недостаточно дисциплинированных людей⁵. В результате такого сбора уже никто не знает, кому эти данные принадлежат, частные они или публичные.

Поскольку наш дальнейший анализ будет основываться на американском и европейском подходах, имеет смысл сейчас подробнее остановиться на освещении китайского варианта, который демократические государства отвергают.

Китайский подход к обработке данных

Китай часто критикуют за отсутствие либерально-демократических структур, институтов, гражданских и политических прав, а также за его «нерешительность» в подписании и ратификации международных договоров по правам человека. Кроме того, типичными в китайском обществе и политике являются общинные ценности, где коллективные права и обязанности преобладают над индивидуальными в сочетании с последними. В связи с этим в литературе встречается точка зрения о существовании прав человека с китайскими особенностями⁶.

В рамках системы социального кредита осуществляется ранжирование китайских граждан, компаний, организаций, а также государственных учреждений по степени их надежности. Надежность «присуждается» в виде зачетных баллов (кредитов), основанных на соблюдении правовых, моральных и профессиональных норм и стандартов. Накопленные кредиты могут повлиять на возможности человека в жизни: тем, у кого высокий балл, будут предложены определенные преимущества, в то время как те, у кого балл более низкий, будут подвергаться различным санкциям. В то же время лица с низким баллом могут получить образование и предпринять шаги для повышения своего социального балла. Цель заключается в поощрении надежности и наказании за проявление ненадежности⁷, что будет способствовать как упорядочению рынка, так и социальному управлению для достижения конечной цели построения гармоничного социалистического общества⁸.

При этом идея социального управления и соблюдения правил, основанных на моральном и образцовом поведении, уже давно стала нормой управления в Китае⁹. Основой системы наказания и обучения выступает убеждение о податливости человеческой природы, что может привести к материальному и духовному развитию и социальной стабильности¹⁰. По мнению китайского правительства, система социального кредита необходима для решения проблем в финансовом и коммерческом секторах, связанных, как правило, с мошенничеством, коррупцией и долговыми обязательствами¹¹. В литературе данная система описывается в качестве схемы обратной связи, которая формирует, управляет и реагирует на поведение граждан¹². При этом она рассматривается не только как система нисходящего социального контроля, но и как стимул для людей к самоконтролю и соответствующей корректировке своего поведения. Кроме того, правительство поощряет «одноранговое» наблюдение, присуждая баллы тем, кто сообщает о плохом поведении других людей.

Система социального кредита позволяет применять совместные меры дисциплинарного воздействия. Сказанное означает, что, если гражданин не соблюдает требования в рамках одной области права, к нему могут быть применены санкции из другой области. Например, отказ от уплаты налогов может привести к запрету на путешествие самолетом. Несколько учреждений уже опубликовали «черные списки» ненадежных лиц, а частные субъекты внедряют собственные схемы социального кредита. В связи с этим система социального кредита рассматривается в качестве «инфраструктуры государственного надзора», поскольку охватывает все социальные, экономические и политические сферы, а границы между частным сектором и государством становятся все более размытыми¹³.

С технико-организационной точки зрения система социального кредита представляет собой комплексную стратегию больших данных, которая включает сбор персональных данных всех граждан, а также данных о государственных и частных организациях. Это проникающая система обработки персональных данных в соответствии с амбициозными планами китайского правительства по использованию преимуществ технологии больших данных¹⁴. Данные собирают посредством обширного мониторинга таких видов деятельности, как интернет-трафик, транзакции, мобильные телефоны и камеры видеонаблюдения с технологией распознавания лиц. Тем самым система социального кредита использует как онлайн-, так и офлайн-источники, а также публичные и частные приложения больших данных для создания огромного каталога информации о китайских гражданах и организациях.

В связи с тем что уровень проникновения Интернета и количество интернет-пользователей в Китае значительно возрастают, персональные данные становятся все более доступными для правительства, причем постоянно¹⁵. При этом необходимо понимать, что система социального кредита не является единой, а представляет собой сеть различных коммерческих и правительственных систем рейтингов, санкций и вознаграждений¹⁶. В соответствии с планом китайского правительства предусматривается создание нескольких кредитных систем в следующих основных сферах: государственной, коммерческой, социальной и судебной¹⁷.

Кроме того, частные субъекты также участвуют в схемах кредитного скоринга. В 2015 г. компания Alibaba запустила собственную систему кредитного скоринга Sesame Credit, которая ранжирует пользователей не только на основе их покупок, но и на информации о покупательских привычках их друзей. Результаты Sesame могут выступать основанием для определения размера страховой премии, а также того, каким образом будет осуществлен осмотр человека службой безопасности в аэропорту или размещены анкеты пользователя (от места расположения анкеты зависит больший или меньший охват аудитории) на сервисах онлайн-знакомств¹⁸. Таким образом, оценка Sesame может оказать влияние на повседневную жизнь его пользователей. Несмотря на то что система предлагает удобство для многих граждан, преимущество и удобство для одних означают санкции и исключение для других¹⁹. При этом такой скоринг является добровольным (круг вовлеченных лиц ограничивается пользователями данной системы) в отличие от системы социального кредита, которая носит обязательный характер. Тем самым круг участников скоринга становится неограниченным, как и возможности для применения различного рода санкций²⁰.

Помимо этого частные субъекты сотрудничают с правительством в целях создания централизованной кредитной инфраструктуры. Данные частных акторов используются для улучшения центральной кредитной системы, взамен они получают данные из правительственных баз данных²¹. Например, многоцелевое приложение для социальных сетей WeChat делится данными миллиарда своих пользователей с правительством Китая, основываясь на различного рода активности пользователей, как, например, социальные взаимодействия и онлайн-покупки. Так, на уровне местных кредитных систем граждане могут проверить свой личный счет, используя WeChat²².

В литературе встречается точка зрения, согласно которой система социального кредита рассматривается в качестве инфраструктуры наблюдения, включающей практически всех участников общества – должностных лиц, отдельных индивидов, государственные учреждения и корпорации, группы. Ввиду того что генерация данных отделена от анализа данных, третья сторона также становится участником в практике наблюдения, в то время как субъекты данных необязательно знают, как используются их данные. Возможности для наблюдения значительно расширяются, по мере того как правительство использует новые технологии. Такие технологии позволяют осуществлять более тонкое и скрытое наблюдение по сравнению с традиционными инструментами, поскольку политические цели заранее встроены в алгоритмы. В результате владение данными определяет распределение полномочий, а обмен данными приводит к умышленному искажению транспарентности и подотчетности²³. Последнее еще более усугубляется алгоритмами машинного обучения, которые обрабатывают поведенческие данные и создают зачетные баллы (кредиты). Система регулируется национальным и местным законодательством, но по-прежнему наблюдается значительное отсутствие надлежащих правовых рамок для защиты конфиденциальности и персональных данных. Кроме того, открытым остается вопрос относительно того, все ли государственные структуры будут подчиняться этой системе или же определенные сегменты высшего руководства Коммунистической партии Китая будут исключены.

Влияние системы социального кредита на права человека. Право на неприкосновенность частной жизни в соответствии с системой социального кредита строго ограничено, поскольку личные подробности частной и общественной жизни людей становятся датафицированными (осуществляется сбор, обработка и использование результатов обработки больших данных) в отсутствие полного согласия с их стороны. Эти данные собирают и тщательно изучают в целях осуществления социального контроля, и правительство может использовать как данные, так и метаданные для прогнозирования и выработки политических решений. В данном контексте отсутствуют право на забвение, а также вопрос повторной идентификации, поскольку в основу данной системы заложено хранение «сокровищницы» личных данных. Это, безусловно, дает Китаю технические преимущества в сфере использования искусственного интеллекта – велика вероятность, что Китай выиграет гонку в сфере цифрового ИИ, поскольку разработчики в области информационных технологий будут иметь неограниченный доступ к данным по крайней мере по сравнению с разработчиками из европейских стран, в которых существуют строгие правила в отношении персональных данных. Однако нельзя сбрасывать со счетов вопросы обеспечения кибербезопасности и защиты данных. Как утверждается, Китай имеет достаточно плохие показатели безопасности данных, в связи с чем личная информация становится легкодоступной, что делает систему социального кредита уязвимой для взлома и незаконного доступа²⁴.

Таким образом, система социального кредита бросает вызов неприкосновенности частной жизни с точки зрения как сбора данных посредством широко распространенного наблюдения, так и обмена данными между различными организациями, в том числе между частными и публичными субъектами. Цифровые следы используются не только для целевого маркетинга или улучшения онлайн-сервисов, но и для обучения ИИ и информирования правительства о привычках, деятельности и активности людей. Камеры общественного наблюдения с технологией распознавания лиц предоставляют правительству почти полный и постоянный доступ ко всем общественным пространствам, а цифровое наблюдение с помощью крупных технологических компаний доставляет правительству информацию о частной и общественной жизни граждан. Одноранговое наблюдение дает правительству офлайн-доступ к социальным сферам, которые иным образом были бы недоступны. Использование алгоритмов машинного обучения для обработки данных в дополнение к широко распространенной практике обмена данными приводит к тому, что люди теряют право на монопольное использование своей персональной информации²⁵.

Кроме того, система социального кредита может привести к дискриминационной практике. Прежде всего, несмотря на планы объединения региональных систем в национальную кредитную систему, местные органы власти и администрации все равно будут определять критерии, по которым станут оцениваться отдельные лица. Из-за отсутствия единого стандарта граждане находятся во власти местных органов. В этом случае крестьяне в сельской местности могут пользоваться иной кредитной схемой, чем жители городских районов. По мере перемещения данных между секторами и учреждениями дефекты в данных в одной базе данных могут быть реплицированы во всех базах данных, через которые эти данные проходят. Тем самым любая предвзятость в данных, которая не будет должным образом «сглажена», будет продолжать находиться в потоке данных, а возможно, даже увеличиваться или изменяться в другом контексте²⁶.

Необходимо также иметь в виду, что получить полностью объективные данные практически невозможно. Таким образом, маркировка данных в качестве «объективных» или «необработанных» может быть вредной, поскольку она явно игнорирует потенциальную предвзятость данных. Одинаково сложно создать объективный алгоритм машинного обучения, с помощью которого можно обрабатывать данные, ранжировать граждан, а также определять, как алгоритм будет реагировать на новые данные. Ясно, что предвзятость может быть смягчена, но для этого ее существование требуется признать, что нехарактерно для Китая²⁷.

При этом при анализе больших данных некое пренебрежение к необходимости смягчения предвзятости данных может явиться причиной дискриминационных действий, например предиктивной полицейской деятельности. На микроуровне «подозрительные» корреляции, основанные на прогнозах больших данных, могут быть использованы против отдельных лиц, например, невозможность зачисления детей в частную школу из-за низкого социального рейтинга их родителей (что само по себе является одним из примеров косвенной дискриминации в отношении детей). Однако предвидение рисков не работает на индивидуальном уровне, и такая предиктивная полицейская деятельность, скорее всего, будет представлять собой нарушение права на равенство перед законом. В свою очередь на макроуровне система социального кредита может информировать правительство о тенденциях, общественном мнении и возможных проблемах в обществе, что может помочь правительству в прогнозировании социального контроля и выработке политической стратегии²⁸.

Приведенный нами обзор касательно китайского варианта обработки данных приводит к выводу о том, что его реализация в Российской Федерации невозможна ввиду очевидного конфликта с правами человека, признанными в подписанных Россией (в отличие от Китая) международных актах и имплементированных в гл. 2 российской Конституции, а также распространившихся в отраслевых актах законодательства.

Проанализированные нами в рамках основного исследования зарубежные (американские и европейские) и российские подходы к обеспечению фундаментальных прав человека при обработке данных в государственном управлении можно систематизировать по нескольким направлениям.

1.1. Правовое регулирование использования алгоритмов для обработки данных в государственном управлении

Алгоритм является базовым понятием в проблематике автоматизированной обработки данных. Начнем с того, что алгоритмы существовали задолго до того, как получили свое наименование. Они порождены необходимостью находить быстрые и эффективные решения посредством трансформации данных при помощи точных указаний, применяющихся поэтапно. В принципе обычный кулинарный рецепт – это уже алгоритм, который содержит пошаговую инструкцию для достижения определенного результата. Правовая норма тоже алгоритм, содержащий набор данных, условий их применения в заданной последовательности также для достижения некоего результата (решения определенной проблемы). Выходит, право и алгоритм крайне близки по сути. Если отталкиваться от классических определений – право как система норм, регулирующих отношения между людьми в обществе, и алгоритм как совокупность инструкций, разрешающих проблему, – то понятие алгоритма оказывается более широким. В этом смысле право можно рассматривать как специфический алгоритм (юридический), объединяющий совокупность инструкций, разрешающих проблемы, возникающие из отношений людей в обществе²⁹.

Но развитие информационных технологий, успех науки информатики прочно связали понятие алгоритма с информационным обеспечением. Поэтому, произнося слово «алгоритм», мы переносимся в область программирования.

Оксфордский словарь английского языка определяет алгоритм как процесс или набор правил, которым необходимо следовать при осуществлении вычислений или других операций, связанных с решением задач, как правило, с помощью компьютера³⁰. В настоящее время под алгоритмом обычно понимают либо фрагмент кода, либо компьютерное приложение, которое может быть использовано в целях оказания содействия человеку в процессе принятия решений или для выполнения действий, не требующих его непосредственного участия³¹. Так, алгоритмы уже используются при вынесении приговоров и принятии решений об условно-досрочном освобождении; для прогнозирования «мест притяжения» криминальной активности в целях содействия органам правопорядка и рационального распределения ресурсов; при персонализации результатов поиска, электронных новостных лент и рекламы; для выявления мошенничества; определения кредитных рейтингов; облегчения набора персонала, а также оказания медицинских и юридических услуг и др. Используются алгоритмы и в сфере государственного управления. В этом смысле особого внимания требуют алгоритмы, которые применяются для поддержки принятия решений. Некоторые из наиболее известных примеров использования алгоритмов связаны с процессом принятия решений, что непосредственно оказывает воздействие на права человека. Один из наиболее часто приводимых примеров в связи с этим – использование алгоритмов для оценки степени риска при вынесении приговоров, учитывая, что такая оценка может иметь прямое отношение к праву человека на свободу и запрету дискриминации³². Подобный кейс будет рассмотрен нами ниже.

Доступность алгоритмов в совокупности с использованием оценки степени риска потенциально может повлиять на права человека, особенно в отношении тех, кто находится в уязвимом положении в ключевых областях жизни (пища, жилище, занятость). Прогнозная аналитика может применяться и для защиты детей. Например, London Council в сотрудничестве с частными поставщиками услуг использует алгоритмы, объединяя данные нескольких агентств, и применяет риск-ориентированный подход для определения вероятности жестокого обращения с ребенком или отсутствия заботы о нем. Сказанное вызывает к жизни вопросы конфиденциальности и защиты данных, а также вопросы, связанные с правом на уважение частной и семейной жизни и дискриминацией. В связи с этим прежде всего необходимо определить, можно ли использовать алгоритм для принятия решений или для содействия в его принятии, если речь идет о конкретной жизненной ситуации. Алгоритмы, управляющие большими данными, – искусственный интеллект или алгоритмы машинного обучения – обычно работают на основе корреляции и статистической вероятности. Однако природа таких алгоритмов, с одной стороны, заключается в генерации результатов, которые описывают поведение группы, но не адаптированы к конкретным людям внутри этой группы, а с другой – не зависит от размера или качества входного набора данных³³.

В целях настоящего исследования нельзя обойти вниманием отправной научно-методологический подход, связанный с правовым осмыслением цифровых технологий в целом и алгоритмов в частности. Если в отношении технологий право «колеблется» между киберлибертарианством (утверждающим, что технологии радикально изменят право и приведут к утрате его значения перед лицом программного кода) и консервативной позицией, считающей, что право с легкостью урегулирует любые цифровые технологии в традиционном ключе, то касательно алгоритмов право изначально занимало позицию регулятора, т. е. право относится к алгоритму как объекту регулирования. При этом в юридическом смысле правовой охране подлежали не сами алгоритмы, а программы. Причем, что особенно важно для государственного управления, происходило это в рамках гражданского права, которое, как известно, распространяется на отношения с участием государства в ограниченном объеме.

Программы для ЭВМ в целях охраны авторским правом в силу указания ст. 1261 ГК РФ и в соответствии с закрепленными на международном уровне подходами условно приравниваются к произведениям литературы. Аналогичное правило предусмотрено в п. 1 ст. 1 °Cоглашения по торговым аспектам прав интеллектуальной собственности, согласно которому компьютерные программы, которые могут быть выражены на любом языке и в любой форме, включая исходный текст и объектный код, подлежат авторско-правовой охране как литературные произведения. Однако необходимо учитывать специфику программ для ЭВМ, которая вытекает из их предназначения – обеспечивать функционирование компьютерных устройств, осуществление определенных алгоритмов и процессов, достижение результатов, имеющих по своей сущности технический характер. Перед литературными произведениями такой задачи не ставится³⁴.

Алгоритм как последовательность операций является основным компонентом программы, отражая ту главную идею, согласно которой должен работать компьютер. Однако в соответствии с п. 5 ст. 1259 ГК РФ авторские права не распространяются на идеи, концепции, принципы, методы, процессы, системы, способы решения технических, организационных или иных задач, открытия, факты, языки программирования. В итоге алгоритм как таковой лишен правовой защиты, охраняется лишь его реализация в виде последовательности операций и действий над этими операциями³⁵. Это обстоятельство имеет перспективное значение, если иметь в виду использование алгоритмов в государственном управлении в качестве «замены» человека, принимающего решения. В этом смысле алгоритм как бы становится стороной управленческого отношения и «несет обязанности» в отношении граждан, в том числе по соблюдению прав человека.

Тем не менее согласно директиве 91/250/СЕ от 14 мая 1991 г. «О правовой охране компьютерных программ» такая защита предоставлялась только самим программам, но не идеям и принципам, лежащим в основе алгоритма³⁶. Это правило сохранилось и в новой директиве 2009/24 от 23 апреля 2009 г.³⁷Суд Европейского союза подтвердил изложенную позицию, указав, что защите авторским правом подлежат код-источник (исходный текст) и объектный код компьютерной программы³⁸.

Между тем не только в зарубежных странах, но и в России на практике осуществляется патентование алгоритмов (в качестве изобретений (способа))³⁹. Программные алгоритмы могут быть запатентованы в качестве изобретений в виде технических решений, относящихся к способу (п. 1 ст. 1350 ГК РФ). Но для этого разработчикам необходимо добиться соответствия решения требованию изобретательского уровня и определить ожидаемый материально-технический результат, которого предполагается достичь за счет данного решения⁴⁰.

Таким образом, алгоритмы хорошо знакомы праву в качестве объектов регулирования, но праву гражданскому, частному. Для полноценного использования алгоритмов в государственном управлении необходимо публично-правовое регулирование возникающих отношений, что позволит обеспечить защиту прав граждан посредством публично-правовых механизмов.

Широкое распространение ИКТ и в особенности цифровых технологий, их применение в государственном управлении дали основание для введения алгоритмов в поле публичного права. Любопытно, что понятие «алгоритм» в российских нормативных правовых актах почти не употребляется в его техническом значении, а используется для обозначения порядка действий (например, алгоритм (порядок) взаимодействия заинтересованных органов государственной власти при выявлении противоправного контента в сети Интернет, принятый Роскомнадзором).

В Европе тоже избегают понятия «алгоритм». С 1981 г. используется термин «автоматизированная обработка данных», который напоминает алгоритм по содержанию (совокупность действий): автоматизированная обработка включает следующие операции, осуществляемые полностью или частично с помощью автоматизированных средств: хранение данных, осуществление логических и/или арифметических операций с этими данными, их изменение, уничтожение, поиск или распространение (Конвенция Совета Европы о защите физических лиц при автоматизированной обработке персональных данных от 28 января 1981 г.)⁴¹.

Нетрудно заметить, что сфера применения автоматизированной обработки данных ограничена персональными данными, т. е. публично-правовая защита сконцентрирована на человеке с его частной жизнью и персональными данными. Собственно, так и произошло право на защиту персональных данных и была заложена традиция «сопротивления» индивидуальным автоматизированным решениям. Так, Регламент № 2018/1725 Европейского парламента и Совета Европейского союза «О защите физических лиц при обработке персональных данных» (п. 43) определяет, что субъект данных должен иметь право не подчиняться решению, которое может включать принятие мер, оценивающих личные аспекты, относящиеся к нему или к ней, которое основывается исключительно на автоматизированной обработке и результатом которого являются юридические последствия в отношении его или ее или которое сходным образом может значительно повлиять на него или на нее, такое как практики электронного подбора кадров без вмешательства человека⁴².

В русле европейских правовых позиций выстроен и российский закон. Согласно ст. 16 ФЗ от 27.07.2006 г. «О персональных данных»⁴³ субъект персональных данных имеет право отказаться от принятия в отношении него решения на основании исключительно автоматизированной обработки персональных данных. К признакам такого решения относится то, что оно порождает юридические последствия в отношении субъекта персональных данных или иным образом затрагивает его права и законные интересы. Отметим, что в данной нормативной установке центр тяжести принятия решения (право выбора) лежит на субъекте персональных данных, гражданине. Действия государства данная норма не ограничивает.

При этом имеется в виду самый широкий круг решений – как управленческих, так и любых иных. Обработка персональных данных, осуществляемая в частном секторе, порождает вопросы при заключении и исполнении «договора в онлайн-среде в полностью автоматизированном режиме, например при размещении заказа на приобретение цифрового контента, который становится доступным для загрузки по факту оплаты»⁴⁴.

Но вернемся к публичному праву, которое интересуют управленческие решения, принимаемые органами власти на общем уровне – в отношении неопределенного или значительного круга лиц (в отношении охраняемых законом ценностей) и на индивидуальном уровне – в отношении граждан на основе автоматизированной обработки данных. Если в первом случае нарушения прав человека могут иметь место в обобществленном и массовом виде (официальное утверждение нормативного порядка предоставления льгот на дискриминационной основе), то во втором – будет иметь место нарушение права человека как субъективного права, защитить которое можно уже только в индивидуальном порядке. Любопытно, что внедрение алгоритмов, по сути, нивелирует это разграничение и, к примеру, дискриминационная практика реализации алгоритма в отношении конкретных лиц одновременно является массовой (что будет подробнее показано ниже).

Нужно учитывать, что сама идея алгоритма как совокупности инструкций, позволяющих решить проблему и достичь определенного заданного результата, как нельзя лучше отвечает концепции надлежащего, качественного государственного управления, нацеленного на достижение заранее запланированных, ожидаемых результатов, ведь результат управленческой деятельности можно легко заложить в алгоритм принятия управленческого решения. Это дает основания полагать, что в ближайшие годы государство активно займется подобной автоматизацией управленческих решений, а потому необходимо заранее изучить возможные риски. Во всяком случае положение о совместимости алгоритмов и концепции надлежащего государственного управления выдвигается нами в качестве гипотезы настоящего исследования.

Первым делом нужно понять, в каких государственных сферах такая автоматизация может произойти в первую очередь. Поскольку алгоритм – последовательность заранее определенных действий, их наибольшая эффективность прогнозируется в сферах, где не приветствуется широта действий органов власти, проще говоря, где нет (и не должно быть) дискреционных полномочий.

Эта логика нам хорошо знакома по мероприятиям административной реформы, заложившей основы для предсказуемости действий органов власти. С одной стороны, органы власти «связывались» административными регламентами как шаблонами (алгоритмами) действий, а с другой – свобода дискреционного усмотрения сокращалась на уровне регламентирующих актов, например путем антикоррупционной экспертизы. До настоящего времени проявляет себя концептуальный «разлом» в отношении дискреции органов власти – если управленческая наука многих европейских стран (в частности, считающаяся классикой французская) одобряет дискреционные полномочия, усматривая в них возможность наилучшим образом нивелировать недостатки законов и применить их на благо граждан, то в России дискреционные полномочия стали условием коррупционных проявлений и, напротив, нарушения прав граждан.

Вернемся к административной реформе, в результате которой гражданин или юридическое лицо при наличии необходимых оснований, подтвержденных документами, получили возможность рассчитывать на предсказуемый, ожидаемый результат (а не «сюрприз») своих административных демаршей.

Интерфейс такого взаимодействия власти с населением хорошо знаком каждому из нас по порталу государственных услуг, где по ячейкам разложены разделы: требуемые документы, куда обратиться, сроки и результаты. Таким образом, сфера оказания государственных услуг уже подверглась электронизации, показавшей общественную эффективность; логичным следующим шагом является автоматизация принятия индивидуализированных решений.

Казалось бы, автоматизация принятия решений в области государственных услуг несет сплошную пользу для всех, как государства, так и граждан – удобство, быстрота, экономия. Однако за этим фасадом скрывается та цена, которую граждане платят за удобство, – их персональные данные.

Известно, как легко эти данные «утекают» в сеть и используются в самых разных, в том числе криминальных, целях. Соответственно угроза персональным данным является одним из рисков при автоматизированном принятии решений. Но не единственным.

Алгоритмические процессоры (в частности, технологии микротаргетинга, представляющие собой маркетинговую стратегию, которая использует персональные данные пользователя и демографические данные для выявления интересов конкретных людей или очень маленьких групп единомышленников с целью повлиять на их отношение и поведение⁴⁵) используются для манипулирования социальным и политическим поведением, что вызывает особую озабоченность Комитета министров Совета Европы⁴⁶. Кстати, применение алгоритмов именно в деятельности публичной власти расценивается Рекомендацией CM/Rec (2020)1 Комитета министров Совета Европы о влиянии алгоритмических систем на права человека как наибольшая угроза правам человека, поскольку у людей часто нет возможности уклониться от вступления в такого рода отношения с государством⁴⁷.

С учетом вышеизложенного закономерно возникает ряд вопросов: каковы пределы проникновения технологий в правовую ткань? как определить ту степень влияния, которое оказывают технологии на человека, принимающего решения? может ли использование алгоритмов в государственном управлении привести к нарушению прав человека и повлиять на существующую систему обеспечения прав человека? Попытаемся на них ответить.

Пределы проникновения технологий в право

Возможность использования информационных технологий в праве обсуждается с 60-х годов прошлого века. Например, академик Д. А. Керимов еще в 1962 г. указывал на то, что «роль кибернетических машин будет состоять в выполнении наиболее трудоемких механических работ… Следовательно, кибернетическая машина не конкурент человеку, а великолепный исполнитель его воли, надежный помощник, значительно усиливающий преобразовательную силу разума…» Он говорил, что в действительности «компьютер и человек остаются тем, что они есть, и ни один из них не заменяет и не в состоянии заменить другого. В их взаимодействии один может «усилить» другого, но никак один не может превратиться в другого»⁴⁸.

Нам представляется, что данный тезис можно применить и к «отношениям» между технологией и правом, в рамках которых, во-первых, одно усиливает другое, а во-вторых, как алгоритм выступает подспорьем человеку при принятии решений, так и технология всего лишь инструмент, а не альтернатива праву. В противном случае мы можем прийти к механическому пониманию права, в рамках которого «правовая система рассматривается как машина, применяющая иерархически организованный свод норм к конкретным фактам жизненной ситуации в предсказуемом и постоянном режиме без творческой интерпретации»⁴⁹… «Эта идеология заставляет обывателей думать о праве почти как об инструкции по эксплуатации какого-то потенциально опасного прибора…»⁵⁰, т. е. рассматривается в качестве инструмента, а не как достижение человеческой цивилизации, суть ценности.

Пределы влияния алгоритма на человека, принимающего решения

Исследования предполагают, что людям не свойственно и достаточно сложно пренебрегать алгоритмическими рекомендациями⁵¹. Поведенческие экономисты используют термин «якорение» в качестве описания общераспространенного явления, в рамках которого последующие решения принимаются на основе имеющихся доказательств независимо от их слабости⁵². Подобная система использования алгоритмов распространена в США при назначении судьей уголовного наказания – если судье будет представлена оценка, отражающая более высокий уровень риска совершения рецидива, чем им прогнозируется, то такая оценка может увеличить срок наказания. При этом «якорение» не будет приниматься в расчет⁵³.

Когда алгоритмы помогают человеку принимать решения, трудно определить степень влияния результатов алгоритмической обработки данных на окончательное решение, а также уместность «почтительного» отношения к алгоритму. Кроме того, в дополнение к воздействию алгоритма мы не можем исключить ни существование когнитивных искажений, ни влияние на формирование суждений истощения эго (феномен, при котором усилия воли или самоконтроль утомляют человека и сказываются на его дальнейших решениях)⁵⁴.

Так, в исследовании, опубликованном в The Proceedings of the National Academy of Sciences, «участниками эксперимента стали восемь израильских судей, принимающих решения об условно-досрочном освобождении. Авторы исследования построили график доли одобренных заявлений относительно времени предыдущего перерыва на еду. После каждого приема пищи эта доля возрастает до 65 %»⁵⁵. Осознавали ли судьи влияние голода и усталости на их суждения? Представляется, что нет. Полностью свести на нет значительное внешнее и внутреннее давление невозможно.

Отметим также, что присутствие человека-оператора не гарантирует, что меры предосторожности будут эффективными. Например, возникают вопросы относительно способности оператора осмысленно понимать процесс принятия алгоритмических решений (в кейсе, который будет рассмотрен ниже, отмечается что судьи не понимают, как алгоритм принимает решение)⁵⁶, определять, были ли затронуты какие-либо права человека и в какой степени они автоматически или неосознанно подчиняются алгоритмическому решению. Различия могут возникать, например, из-за представлений о нейтральности и точности технологии и опасений идти вразрез с выводами данной технологии.

Это создает риск того, что алгоритмы станут фактически единственным «лицом», принимающим решения, даже если останется некоторое участие со стороны человека⁵⁷. Данный поворот существенно влияет на понимание государственного управления и его субъектов, каковыми принято считать органы власти и их должностных лиц. В некоторых работах ставится вопрос о признании новых субъектов права – роботов, ИИ, с соответствующим кругом прав и обязанностей, ответственностью. В российской доктрине эта проблема до сих пор изучается недостаточно.

Пределы использования алгоритмов в контексте прав человека

Одним из главных принципов правового государства является всеобщее равенство, при этом «за «парадной» стороной равенства как принципа стоит необходимость равного обращения со всеми, или запрет дискриминации… Если алгоритм обеспечивает равенство, то речь идет скорее о равенстве арифметическом, о беспристрастном рассмотрении частных ситуаций, но без учета особенностей каждого случая⁵⁸. Получается, что юридическое равенство алгоритм не обеспечивает⁵⁹.

Современные алгоритмы, основанные на технологиях больших данных, вызывают вопросы относительности бесправия, поскольку:

– решения могут основываться на характеристиках группового уровня (т. е. X членов группы, вероятно, будут вести себя определенным образом) в отличие от индивидуально ориентированных характеристик (т. е. конкретный индивид, вероятно, будет действовать определенным образом из-за факторов, специфичных для этого индивида);

– решения часто основаны на корреляции, а не на причинно-следственной связи.

Два упомянутых фактора взаимосвязаны. Они указывают на то, что анализ вероятного будущего поведения правомерен только на групповом, а не на индивидуальном уровне и что предсказания не являются определяющими в отношении того, как будет действовать конкретный индивид. Обе модели не учитывают индивидуальную свободу действий и значимость индивидуального выбора, что, в свою очередь, вызывает озабоченность в связи с тем, что алгоритмические решения, применяемые к отдельным лицам, в некоторых случаях могут быть внутренне несовместимы с запретом произвольного вмешательства в права и свободы человека, поскольку такое вмешательство уже заложено в сам алгоритм.

Изложенные опасения позволяют предположить, что, хотя алгоритмы могут использоваться в рамках принятия решений, они не могут служить единственной основой для принятия решения, которое непосредственно затрагивает права человека: необходимы определенная форма участия со стороны человека или человеческий надзор⁶⁰. Кроме того, ученые предупреждают, что алгоритмические оценки часто маскируют явную дискриминацию по признаку демографического и социально-экономического статуса⁶¹.

Таким образом, алгоритмы выступают хорошим подспорьем в процессе принятия решений человеком, однако невозможно полностью исключить влияние результатов работы алгоритма на окончательное решение, принимаемое человеком. Сказанное еще более остро высвечивает вопросы соотношения права и алгоритма, степени и масштабов воздействия алгоритма на принимаемые человеком решения, а также способности алгоритма к нарушению прав человека, в том числе дискриминации.

1.2. Равенство и дискриминация при обработке данных

Одной из фундаментальных проблематик, дающих начало целому спектру научно-методологических подходов в области обработки данных в контексте соблюдения прав человека, является выработка недискриминационных способов обработки данных. Именно возможная дискриминация является наиболее часто упоминаемым риском в разнообразных исследованиях – правовых, управленческих, политологических.

В теории прав человека равенство и недискриминация являются основополагающими ценностями. В обоих случаях речь идет о равенстве прав с тем отличием, что право на недискриминацию имеет более узкое содержание и в этом смысле производно от права на равенство.

Концепт равенства можно считать центральным принципом правового государства; в основе системы естественных прав человека лежит представление о том, что люди рождаются свободными и равными в своем достоинстве и правах⁶². Разумеется, в юридическом смысле речь идет о формальном равенстве как равенстве возможностей, обусловленных личными усилиями и личной волей субъектов права⁶³.

Дискриминация посягает на равенство, представляя угрозу для правового государства. Дискриминация – это не просто различие в обращении. Не каждое различие незаконно и представляет собой дискриминацию. Также дискриминация не просто неравное обращение. Различие в обращении может быть незаконным, но не представлять собой дискриминацию. Дискриминация имеет место в тех случаях, когда неблагоприятное различие в обращении является незаконным и основано на критерии, на основании которого закон запрещает проведение юридических различий⁶⁴.

В современный период дискриминация, осуществляемая людьми в отношении других людей, не искоренена, но уже выработаны определенные критерии ее установления, доказывания и привлечения виновных к ответственности. Однако с распространением автоматизированной обработки данных, в особенности на базе технологий больших данных, возникла другая проблема – дискриминации людей со стороны искусственного интеллекта. Вторгаясь в существующее правовое поле, искусственный интеллект затрагивает целый спектр имеющихся норм (защита данных, транспарентность, информационное самоопределение), а также создает новые риски принятия ошибочных решений в отношении конкретных лиц, в основе которых часто лежит дискриминация. Все перечисленные проблемы входят в спектр научных исследований по вопросам обработки данных.

Нормативный контекст преодоления дискриминации как посягательства на равенство

Не будет преувеличением утверждение, что проблемам дискриминации посвящен целый массив нормативных актов, в особенности на международном уровне. Подходы к дискриминации могут базироваться как на общих параметрах (что характерно для более ранних актов общей направленности), так и на более специфических характеристиках, некоторые из них возникли только в последние годы (как, например, генетическая дискриминация). Рассмотрим это подробнее.

Статья 2 Всеобщей декларации прав человека⁶⁵ устанавливает общий принцип недискриминации: каждый человек должен обладать всеми правами и всеми свободами, провозглашенными настоящей Декларацией, без какого бы то ни было различия, как-то: в отношении расы, цвета кожи, пола, языка, религии, политических или иных убеждений, национального или социального происхождения, имущественного, сословного или иного положения. Кроме того, не должно проводиться никакого различия на основе политического, правового или международного статуса страны или территории, к которой человек принадлежит, независимо от того, является ли эта территория независимой, подопечной, несамоуправляющейся или как-либо иначе ограниченной в своем суверенитете.

Всеобщая декларация прав человека, провозглашая равенство перед законом и право на равную защиту со стороны закона, запрещает в связи с этим какую бы то ни было дискриминацию и подстрекательство к ней (ст. 7)⁶⁶.

Другой вид дискриминации связан с оплатой труда, которая должна быть равной за равный труд (ст. 23)⁶⁷. Таким образом, равенство образует и общий принцип, и самостоятельное право человека, а также служит базой для образования другого права – права на недискриминацию.

Контекст дискриминации в области занятости получил широкое развитие в актах Международной организации труда, основополагающим актом которой является Конвенция о дискриминации в области труда и занятий 1958 г. (Конвенция 111)⁶⁸. В ее трактовке термин «дискриминация» включает:

1) всякое различие, недопущение или предпочтение, проводимое по признаку расы, цвета кожи, пола, религии, политических убеждений, национального происхождения или социальной принадлежности, приводящее к уничтожению или нарушению равенства возможностей или обращения в области труда и занятий;

2) всякое другое различие, недопущение или предпочтение, приводящее к уничтожению или нарушению равенства возможностей или обращения в области труда и занятий, определяемое соответствующим членом по консультации с представительными организациями предпринимателей и трудящихся, где таковые существуют, и с другими соответствующими органами⁶⁹.

Расовая и гендерная дискриминация также получила разнообразную правовую поддержку – Конвенция Организации Объединенных Наций о ликвидации всех форм дискриминации в отношении женщин⁷⁰, Международная конвенция о ликвидации всех форм расовой дискриминации⁷¹. Активное проникновение новых технологий в общественные отношения «освежило» тематику дискриминации, повлияв на формирование нового направления – генетической дискриминации. Назовем Международную декларацию ЮНЕСКО о генетических данных человека (16 октября 2003 г.)⁷², в которой закреплено стремление к тому, чтобы генетические и протеомные данные человека не использовались в целях, которые носят дискриминационный характер, в силу того что они нарушают или приводят к нарушению прав человека, основных свобод или человеческого достоинства отдельного лица, и чтобы они не использовались в целях, ведущих к стигматизации того или иного лица, семьи, группы или общины (ст. 7 (а))⁷³. Всеобщая декларация ЮНЕСКО о биоэтике и правах человека от 19 октября 2005 г. (Декларация ЮНЕСКО о биоэтике 2005 г.) также запрещает дискриминацию и стигматизацию на любых основаниях⁷⁴.

Стандарты международных актов повторяются или конкретизируются в региональных документах, целью которых также является обеспечение защиты от дискриминации. К их числу относится Американская конвенция о правах человека, которая защищает от дискриминации по признаку расы, цвета кожи, пола, языка, религии, политических или иных убеждений, национального или социального происхождения, экономического положения, рождения и других признаков⁷⁵. На Европейском континенте общее недопущение дискриминации выражено в Конвенции о защите прав человека и основных свобод (Совет Европы)⁷⁶, ст. 14 которой устанавливает, что пользование правами и свободами, признанными в конвенции, должно быть обеспечено без какой бы то ни было дискриминации по признаку пола, расы, цвета кожи, языка, религии, политических или иных убеждений, национального или социального происхождения, принадлежности к национальным меньшинствам, имущественного положения, рождения или по любым иным признакам⁷⁷. Нужно сказать, что ст. 14 Конвенции Совета Европы о защите прав человека и основных свобод запрещает дискриминацию только в отношении тех прав и свобод, которые гарантированы в Конвенции и Дополнительных протоколах к ней. В этом смысле ст. 14 Конвенции не является самостоятельной гарантией⁷⁸. Чтобы расширить действие ст. 14 и установить общий запрет дискриминации, 4 ноября 2000 г. был принят Протокол № 12 к Конвенции (который Россией подписан, но не ратифицирован). Однако странным образом этот общий запрет дискриминации распространен только на власть – «никто не может быть подвергнут дискриминации со стороны каких бы то ни было публичных властей». Заметим, что применение этой статьи создало богатую практику ЕСПЧ с разными нюансами.

В Европейском союзе дискриминация запрещена Директивой Совета 2000/43/ЕС от 29 июня 2000 г.,⁷⁹ закрепившей осуществление принципа равного обращения с лицами независимо от их расовой принадлежности или этнического происхождения, и в конкретном контексте занятости – Директивой Совета 2000/78/ЕС от 27 ноября 2000 г., устанавливающей общие рамки равного обращения при трудоустройстве⁸⁰. Определение дискриминации, содержащееся в обеих директивах 2000 г., имеет широкий характер, поскольку включает не только понятия прямой и косвенной дискриминации, но и концепцию преследования. В более прикладном плане, для Суда ЕС, дискриминация может состоять в применении разных норм к сравнимым ситуациям или одной и той же нормы к разным ситуациям⁸¹.

Что представляют собой дискриминация и право на недискриминацию, выводится из судебной практики. Прежде всего принцип равенства образует фундаментальный принцип права Европейского союза, как это подчеркивает Суд ЕС⁸². В решениях Суда ЕС сформировался подход к дискриминации как к применению разных правил в сопоставимых ситуациях или применению одного и того же правила к разным ситуациям⁸³. ЕСПЧ указал, что понятие дискриминации обычно включает случаи, когда лицо или группа лиц испытывают без надлежащего обоснования менее благоприятное обращение, чем другие лица или группы лиц⁸⁴. Это прямая дискриминация. Но есть и косвенная дискриминация, которая впервые была признана в деле «Тлимменос против Греции»⁸⁵, где суд установил нарушение ст. 14 в сочетании со ст. 9 в связи с тем, что заявителю было отказано в возможности работать бухгалтером, поскольку ранее он был осужден за отказ от службы в армии по религиозным мотивам. По мнению суда, дискриминация состояла в том, что греческое законодательство не проводило различия между теми, кто осужден по причине религиозных убеждений, и теми, кто осужден по иным причинам (§ 48). Тем самым имела место косвенная дискриминация, поскольку единые требования применялись ко всем лицам одинаково, тогда как ситуация заявителя значительно отличалась от других лиц. В целом косвенную дискриминацию можно также охарактеризовать как отказ в особом обращении⁸⁶ при наличии на то оснований.

В некоторых национальных юрисдикциях закреплена общая антидискриминационная система защиты прав в их конституционных рамках. Например, в Конституции Бразилии ст. 3 IV называет одной из основных целей республики содействие благосостоянию всех людей без ущемления по причине происхождения, расы, пола, цвета кожи, возраста и любых других форм дискриминации, а ст. 7 запрещает любую дискриминацию в отношении заработной платы и критериев найма работников-инвалидов⁸⁷. Кстати, в Конституции Российской Федерации тоже запрещена дискриминация относительно вознаграждения за труд (ст. 37), а также дискриминация в отношении социальной интеграции инвалидов (ст. 114). Общий запрет дискриминации сформулирован в ст. 19 российской Конституции⁸⁸.

В Канаде целый ряд документов (Канадская хартия прав и свобод, ч. I Конституционного закона 1982 г.) защищает от необоснованного обыска и захвата и вмешательства в жизнь, свободу и безопасность. На Кипре запрещена дискриминация по мотивам принадлежности к общине, расе, религии, языку, полу, политическим или другим убеждениям, национальному или социальному инакомыслию, рождению, цвету кожи, богатству, социальному классу или любому другому основанию. Конституция Чешской Республики провозглашает равенство, Конституция Италии – равенство и недопустимость расовой дискриминации. Статья 14 Конституции Японии гарантирует равную защиту, ст. 7 Конституции Тайваня – равные права для всех граждан. Союзная Конституция Швейцарской конфедерации в ст. 8 трактует равноправие не только как равенство перед законом, но и как недопустимость дискриминации из-за происхождения, расы, пола, возраста, языка, социального положения, образа жизни, религиозных, мировоззренческих или политических убеждений или из-за физической, духовной или психической инвалидности. В Германии Общий закон о равном обращении (Allgemeines Gleichbehandlungsgesetz), вступивший в силу 26.08.2006 г., содержит широкий перечень антидискриминационных мер, действующих в отношении не только возраста, но и расы, пола, национальности, нетрудоспособности и т. д.⁸⁹

Наш нормативный экскурс имел целью не полноту, а, скорее, иллюстративность проблематики дискриминации. Мы выяснили, что данная тематика заняла самостоятельное место как на международном, так и на национальном нормативных уровнях, а также имеет «секторальные предпочтения». Тем, что право на недискриминацию базируется на равенстве, объясняется четкая прослеживаемость общего принципа равенства при анализе права на недискриминацию (т. е. рассмотрение аналогичных ситуаций одним и тем же способом и рассмотрение различных ситуаций по-разному), но большую долю занимают конкретные положения, разработанные специальным законодательством в области борьбы с дискриминацией, касающиеся определенных охраняемых законом оснований (например, возраст, раса, пол, религия, сексуальная ориентация и т. д.), а также конкретная область применения (рынок труда, профессиональная подготовка, образование, социальное обеспечение, здравоохранение, доступ к товарам и услугам, уголовная ответственность). Таким образом, право на недискриминацию – симбиоз, в котором каждый элемент имеет свое место и значение. При этом право на недискриминацию не абсолютно хотя бы потому, что закон правового государства может санкционировать дискриминацию, если предполагается ее необходимость для «выравнивания» прав и возможностей разных категорий лиц. Что меняют в проанализированном status quo цифровые технологии?

Всеобщее равенство является главным принципом правового государства. Если нет равенства, права и свободы теряют смысл – ведь тогда ими можно наделять одних и лишать их других. В равенстве выделяется несколько компонентов – равенство перед законом, перед судом, перед государственными органами, равенство в смысле притязания на государственную помощь. Впрочем, это не означает, что законодатель не может по-разному регулировать различные ситуации и даже в некоторых случаях поступиться равенством во имя публичных интересов (как, например, произошло во время пандемии коронавируса) или для защиты уязвимых либо перспективных групп населения (например, не будет являться дискриминацией государственная поддержка талантливых детей).

Разумеется, формальное равенство нарушается в повседневной жизни, но для его обеспечения выстроена вся система правового государства. В эпоху алгоритмов озвучивается надежда на то, что они облегчат бюрократическую работу и за счет своей технологической нейтральности обеспечат равенство в публичной деятельности.

Но так ли все однозначно? Смысл юридического равенства не только в том, что все подчинены закону одинаково, но и в том, что общая норма применяется к частному случаю индивидуализированно, т. е. с учетом всевозможных обстоятельств. Особенно наглядно это демонстрирует институт юридической ответственности, для которого индивидуализация наказания (ответственности) обретает исключительное значение в смысле достижения справедливости. В индивидуализации – смысл уголовного наказания, административных санкций, гражданско-правовой ответственности.

Управленческую практику индивидуализирует мотивация административных решений. Право на надлежащее государственное управление включает обязанность государственных органов мотивировать свои решения (ст. 41 Хартии фундаментальных прав ЕС)⁹⁰. А алгоритм формализует мотивацию решений, делает ее стереотипной. Поиск баланса между быстрым и эффективным решением на основе алгоритма и учетом индивидуальных обстоятельств дела ставит перед наукой новые задачи – выработать правила обработки данных, базирующиеся на подобном балансе. Выполнимая ли это задача? Верно замечено, что правоприменение по своей природе далеко не всегда способно осуществляться в рамках строгих алгоритмов. В праве существуют пробелы, а любое социальное взаимодействие бывает многоаспектным, допускает различные и порой неоднозначные оценки⁹¹.

В целом необходимо упомянуть, что случаи дискриминации, рассмотренные судами, редко касались автоматизированной обработки данных. Но легко спрогнозировать, что алгоритмы и в особенности искусственный интеллект способны так же дискриминировать людей, как и сами люди.

1.3. Дискриминационный потенциал искусственного интеллекта при обработке данных в государственном управлении

Алгоритмы лежат в основе многих технологий – искусственного интеллекта, распределенного реестра, поддержки принятия решений, Интернета, роботов. Стоит напомнить, что привлечение искусственного интеллекта к принятию решений не связано с цифровой эпохой – первые экспертные системы (юридические и медицинские) на основе искусственного интеллекта появились в 1970-х годах⁹².

Почему возникла идея не просто автоматически обрабатывать данные, а использовать искусственный интеллект? Система оценок позволяет квалифицировать склонность, но не помогает понять точно специфику, которая лежит в основании этой склонности. А смысл хорошего решения – в понимании специфики и контекста феномена⁹³. Глобальность статистического подхода и скоринга перевела ставки на искусственный интеллект как технологический подход.

В литературе называют следующие сущностные признаки искусственного интеллекта: способность автономной работы и обмена данными с окружающей средой; способность обучаться на основе полученного опыта и в процессе взаимодействия с окружающей средой; способность адаптировать свои решения под изменяющиеся обстоятельства⁹⁴.

Поскольку эти компоненты весьма напоминают свойства человеческого мозга, нет никаких объективных причин для того, чтобы искусственный интеллект избежал риска дискриминации людей по какому бы то ни было принципу. Более того, обучаемый на основе многочисленных данных в сети, происходящих от обычных людей, он легко становится и расистом, и фашистом, чему есть масса примеров.

Принятие решений – это когнитивный процесс, который приводит к окончательному выбору из ряда альтернативных вариантов. Но естественная ограниченность людей в исследовании приводит к субъективным решениям, оказывающимся дискриминационными по отношению к «невыбранным».

Искусственный интеллект, обучаемый на основании реальной коллекции человеческих решений, в большинстве своем неидеальных, может воспринять дискриминацию в качестве «нормального» элемента алгоритма. Причем дискриминация посредством алгоритма систематическая, что на деле намного вреднее, нежели разовый людской субъективизм⁹⁵.

Поскольку все зависит от того, каким алгоритмом руководствуется искусственный интеллект, в науке формулируется задача достижения беспристрастности классификации, положенной в основу алгоритма. Самый простой путь – усовершенствовать классификатор, удалив самые «чувствительные» параметры, наиболее очевидно свидетельствующие о дискриминации. Обратимся к примерам из «автоматизированной» кадровой политики частных компаний, которая применима и к конкурсному набору на государственную службу. Наем на работу основывается на отборе «лучших» параметров кандидатов, что в дальнейшем способно привести к дискриминации (если в качестве ориентира избраны лучшие работники с наиболее высокой зарплатой за определенный период, которые все оказались мужчинами, женщины-претенденты будут отсекаться автоматически). Такой, казалось бы, нейтральный параметр, как место жительства, может косвенно указывать на национальность или расу (не секрет, что во многих городах мира существуют кварталы компактного заселения по национальному признаку). Адрес проживания может свидетельствовать и о социальном положении лица, его достатке. Сложность состоит еще и в том, что механическое отсечение некоторых параметров не всегда приводит к недискриминации (посредством обработки больших данных можно извлечь даже ту информацию, которая кандидатами не предоставлялась)⁹⁶. Все эти случаи могут иметь место и при конкурсном отборе государственных служащих, и при распределении общественно значимых благ.

Упоминавшийся выше Регламент № 2018/1725 Европейского парламента и Совета Европейского союза «О защите физических лиц при обработке персональных данных» установил обязательность оценки воздействия на защиту данных (data protection impact assessment). Если тип обработки данных, в частности использование новых технологий с учетом характера, масштаба, контекста и целей обработки, может привести к возникновению высокой степени риска для прав и свобод физических лиц, контролер перед обработкой должен провести оценку воздействия предполагаемых операций по обработке на защиту персональных данных (ст. 39). Для оценки соблюдения основных прав могут использоваться большие данные, которые содержат потенциал выявления систематических предубеждений и дискриминации⁹⁷.

Углубленные исследования подтверждают, что суждение о нейтральности технологий, в частности алгоритмов, несколько преувеличено. Алгоритм составляется людьми. Они отбирают его составные части, преследуя определенную цель. Это означает, что в алгоритм уже закладывается предпочтение, связанное с определенным ожидаемым поведением или характеристиками⁹⁸. Получается, что выбор (в пользу заранее предполагаемого решения) может быть сделан уже на стадии разработки алгоритма.

В качестве нейтрализатора подобных рисков в публичной сфере обычно называют транспарентность. Поэтому транспарентность алгоритмов относят к первичному «барьеру» на пути дискриминации.

В изученной нами литературе различают также нюансы дискриминации в процессе обработки данных. Так, дискриминация может быть хорошо скрытой и едва различимой для людей. В таких случаях человек, который подвергается алгоритмической оценке, не сможет распознать дискриминацию, даже если ему была представлена информация о функциональных возможностях системы и обоснование решения. Также было замечено, что алгоритмы образуют различные группы на основе широкого диапазона параметров, которые необязательно связаны с классическими типами дискриминации, но тем не менее приводят к несправедливому обращению с членами некоторых групп, на базе корреляций. Поскольку для этих случаев традиционные антидискриминационные правила не предлагают решения, было высказано предположение, что использование алгоритмических приложений в чувствительных областях необходимо подчинить независимым механизмам контроля, например, в отношении кода, спецификации процесса обучения, а в случае сложных приложений или обновлений для машинного обучения, возможно, необходим непрерывный контроль⁹⁹.

Другие авторы выявили прочие возможные стратегии, например предоставление активного выбора между услугами по сбору данных, оказание которых осуществляется за плату в виде персональных данных, в противовес тем услугам, которые оплачиваются деньгами¹⁰⁰. Упомянем также, что отдельным направлением является изучение возможностей ценовой дискриминации со стороны ИИ. Несмотря на то что это, казалось бы, не относится напрямую к правам человека, данное знание полезно с точки зрения поиска решения проблем. Специалисты предполагают, что алгоритмы могут способствовать дискриминационному ценообразованию либо приводят к другим антиконкурентным ценовым стратегиям. В ответ на предположение об алгоритмическом сговоре предлагается разнообразный набор решений. Самое консервативное – утверждать, что действующий закон достаточно широк, чтобы охватить технологическую эволюцию алгоритмического сговора. Подобная система предупреждения поддерживается чаще всего штрафами. Другие предлагают разработать специальное правило разумности, или систему для аудита алгоритмов. Альтернативный подход мог бы заключаться в усовершенствовании конфиденциальности потребителей или снижении ценовой прозрачности с целью «отключения» для системы возможности использовать преимущество на рынке¹⁰¹.