Kitobni o'qish: «Защита от злоупотребления искусственным интеллектом и нейротехнологиями в аспекте медиабезопасности»

* * *

© Галяшина Е. И., Антонян Е. А., Богатырев К. М., 2024

© ООО «Проспект», 2024

Авторский коллектив

Галяшина Елена Игоревна – доктор юридических наук, доктор филологических наук, профессор, заведующий кафедрой криминалистики Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – § 1.2 главы 1, главы 2–4 (совместно с К. М. Богатыревым).

Антонян Елена Александровна – доктор юридических наук, профессор, заведующий кафедрой криминологии и уголовно-исполнительного права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – § 1.1 главы 1.

Богатырев Константин Михайлович – кандидат юридических наук, преподаватель кафедры криминалистики Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – § 1.2 главы 1, главы 2–4 (совместно с Е. И. Галяшиной).

Введение

XXI век обещал стать временем прорывных технологий, кардинально повышающих уровень и улучшающих качество жизни всего человечества. Такого рода ожидания оправдались лишь отчасти: научно-технический прогресс действительно обеспечивает стремительное развитие технической компоненты нашей жизни, однако пока новые технологии являются обоюдоострым мечом, к тому же доступным далеко не всем. Системы национальной, региональной и глобальной безопасности находятся в критической зависимости от новых военных, транспортных, медицинских, промышленных и сельскохозяйственных технологий, однако едва ли не ключевую роль играют технологии информационные. Как было сказано еще в XIX в., «кто владеет информацией, тот владеет миром»; это в высшей степени справедливо и для дня сегодняшнего, когда в результате повсеместного внедрения средств массовой коммуникации в масштабах планеты сформировалась принципиально иная среда обитания человека – так называемая «новая информационная реальность»¹.

Вместе с тем эта реальность, сформировавшаяся на функционирующих в сети Интернет информационных ресурсах, не является раз и навсегда данной, находится в процессе постоянной трансформации (или в категориях диалектической логики – в становлении): от первоначальной текстовой формы – к поликодовой (сочетающей разные системы кодирования и каналы передачи информации) и далее к мультимодальной. Основным же драйвером развития в текущем десятилетии (2020-е гг.) уже общепризнанно стали большие языковые модели и иные системы генеративного искусственного интеллекта (далее – ИИ; последний понимается как комплекс технологических решений, позволяющий имитировать когнитивные функции человека, включая самообучение и поиск решений без заранее заданного алгоритма, и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека²), создаваемые по модели искусственных нейронных сетей.

Данная сфера показывает взрывной рост: за прошедшее с 2014 г. десятилетие во Всемирную организацию интеллектуальной собственности (ВОИС) было подано 54 000 патентных заявок на генеративный ИИ, четверть которых – за последние полтора года (после того, как компанией OpenAI в конце 2022 г. была представлена ChatGPT, ставшая «первой ласточкой» новой эпохи)³.

Перспективы и риски данной технологии пока не ясны в полной мере. По возможностям и эффективности применения в совокупности с количеством создаваемых угроз данную технологию допустимо метафорически сравнить с джинном, выпущенным из бутылки: самообучающийся ИИ способен выполнить любое наше желание, но результат может быть совсем не тем, что мы хотим получить; кроме того, никто не знает, что этот «джинн» наделает, когда станет «свободным». На вызывающие беспокойство обстоятельства обращают внимание отраслевые специалисты: так, генеральный директор ООО «Лаборатория Наносемантика» С. И. Ашманов применительно к ChatGPT описал, как обученная только лишь продолжать или дополнять текст нейросеть внезапно показала свойства, которые не только не закладывались, но даже и не ожидались от нее (например, навыки переформулирования текста, решения математических задач и т. д.)⁴.

Приводя в пример «слишком быстрое развитие» GPT, некоторые исследователи предлагают принять серьезные меры по управлению развитием ИИ: приостановить (ввести мораторий) или же отказаться от разработки подобных технологий вовсе, мотивируя подобные предложения угрозой выхода таких систем из-под контроля людей с возможным последующим уничтожением человечества⁵. Хотя подобные предположения кому-то могут показаться технофобской, неолуддистской паникой, факты использования таких технологий на экзаменах⁶, участия ChatGPT (как первого и наиболее показательного примера рассматриваемой технологии) в хакерских атаках⁷ или даже в выборах в качестве кандидата⁸ позволяют получить представления о негативной стороне технологии.

Нейросети, обученные для создания текстов, программ, изображений, видео и иного контента, могут не блистать качеством результата, однако их сильная сторона заключается в его большом объеме и низкой цене (на этом фоне имеет место волнение представителей творческих профессий, особенно в свете заявлений разработчиков ИИ о том, что такие профессии изначально не были нужны⁹).

Такой «творческий потенциал» уже запустил, а затем серьезнейшим образом повлиял на процесс трансформации Интернета (в первую очередь в плане содержания – произошла его фейковизация¹⁰): площадки наводнил информационный шум (мусор) – низкокачественный, недостоверный контент, количество которого растет в геометрической прогрессии (что особенно критично для поисковых сервисов, торговых площадок и средств массовой коммуникации, таких как почтовые сервисы, соцсети, мессенджеры и т. д.)¹¹. Если рассуждать в понятиях Томаса Гоббса, современный Интернет стал полем информационной войны всех против всех¹² (людей и ИИ друг с другом и между собой), ключевым оружием в которой является навык проверки достоверности информации (фактчекинга).

О том, что генеративный ИИ является продуктом двойного назначения, пригодным для использования в военных целях, свидетельствует пересмотренная Стратегия НАТО в области искусственного интеллекта, в которой отмечается, что для НАТО жизненно важно задействовать генеративный ИИ (способный практически в неограниченном объеме создавать сложный текст, компьютерный код, реалистичные изображения и аудио- и иной контент, все больше неотличимый от созданного человеком) везде, где это применимо, как можно скорее¹³. Вместе с тем подчеркиваются и проблемы для безопасности, такие как дезинформация и информационные операции с использованием ИИ, которые могут повлиять на результаты выборов, посеять разногласия и смятение в Альянсе, демобилизовать и деморализовать общество и военные силы во время конфликтов, а также снизить доверие к институтам и властям, имеющим важное значение для НАТО.

Сами технологии ИИ достоверность информации оценивать пока не способны (точнее – эта способность напрямую зависит от данных, на которых был обучен лежащий в основе ИИ нейросетевой алгоритм, и сформировавшейся на их основе «картины мира»; к примеру, на некоторую тематику может быть в целом наложен запрет, который, впрочем, может быть легко обойден злоумышленником при формулировании запроса), при этом они уже вплотную приблизились к черте, когда их возможности позволят им сформировать «второй», фейковый интернет, полностью состоящий из создаваемых ими недостоверных информационных продуктов и способный занять место «оригинального» Интернета. В этой связи не следует удивляться возникновению таких «культурных феноменов», как «теория мертвого Интернета» (согласно которой он уже давно является безлюдным пространством, наполненным ботами, создаваемым и размещаемым ими контентом)¹⁴.

Какие-то из рассмотренных выше проблем являются реальными, какие-то – пока гипотетическими ситуациями, представляющими широкий простор для дискуссий, размышлений и мысленных экспериментов. Вместе с тем следует помнить о том, что в калейдоскопе связанных с нейросетями угроз и рисков по-прежнему имеет место и человеческий фактор: с момента своего создания генеративные ИИ стали активно использоваться злоумышленниками и представителями криминального мира: мошенниками, хакерами, плагиаторами, террористами-экстремистами и иными нарушителями закона.

Другим важным обстоятельством, заслуживающим пристального внимания, является проблематика аугментации человека – расширение и увеличение физических/когнитивных возможностей человека за счет использования достижений научно-технического прогресса¹⁵. Создание киборгов, восстановление утраченных и получение сверхспособностей, программирование человека, влияние на антропогенез и управление им – все эти явления постепенно переходят из области научной фантастики в нашу жизнь и превращаются из умозрительных экспериментов в конкретные технические задачи¹⁶; это требует выработки взвешенного подхода к ним с позиций гуманитарных наук, в первую очередь – в плоскости биоэтики.

Развитие технологий еще в прошлом веке позволяло осуществлять приспособление или даже вживление искусственных компонентов (кардиостимуляторов, хрусталиков глаза, искусственных органов и протезов) в человеческий организм. Теперь же данное направление получило дополнительный импульс с развитием вычислительной техники нанометрового масштаба, полимерных материалов и нейропротезов (устройств, которые могут заменить моторные, сенсорные или когнитивные функции, поврежденные в результате болезни или травмы)¹⁷. Если в 2000-х гг. попытки расширить (пусть и в художественных целях) собственные возможности за счет добавления цифровой электроники оканчивались неудачей¹⁸, то уже сейчас, в 2020-х гг., получили развитие и распространение нейростимуляторы мозга (внедряемые чипы, компенсирующие некоторые дисфункции мозга, вызванные повреждениями естественных нейронных связей, например, при болезни Паркинсона, эпилепсии и проч.) и бионические протезы (ведущим разработчиком и производителем которых в России является ООО «Моторика»¹⁹, не только осуществляющее протезирование в соответствии с Федеральным законом от 24 ноября 1995 г. № 181–ФЗ «О социальной защите инвалидов в Российской Федерации», но и самостоятельно разрабатывающее нейроинтерфейсы для своих протезов, проводя соответствующие научные исследования).

Активные работы по созданию нейроинтерфейса, который позволит подключить мозг человека к компьютеру, ведутся компанией Neuralink Илона Маска: в 2023 г. Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) выдало разрешение на проведение первых клинических испытаний на людях²⁰, а уже в июле 2024 г. успешно проведена вторая имплантация²¹ (несмотря на то, что опыт первой имплантации, осуществленной в январе 2024 г., не был до конца удачным²²). Вживление имплантов, помимо Neuralink, за последний год также смогли осуществить Blackrock Neurotech, Synchron, Braingate и ряд других²³. Все это свидетельствует о том, что появление у человека возможности быстро и эффективно взаимодействовать с компьютером напрямую через нейроинтерфейс «мозг – компьютер» является лишь вопросом времени.

Исследования в области ИИ и нейротехнологий тесно связаны между собой, так как разрабатываются на материале исследований человеческого мозга. Параллельная работа над этими направлениями дает синергетический эффект: исследования мозга позволяют разрабатывать самообучающиеся нейронные сети, в перспективе (при должном объеме и продолжительности обучения) способные обрести разум, сравнимый с естественным, или даже превзойти его²⁴; с другой стороны, анализ нейросетей и процесса их функционирования²⁵ при наличии нейроинтерфейса «мозг – компьютер» открывает возможности для непосредственного влияния на человеческий разум извне (при наличии доступа гипотетически возможны дистанционное перепрограммирование личности, стирание/изменение памяти и т. д.). Все эти действия являются (или могут являться) частью информационно-коммуникативной деятельности, осуществляемой в цифровой медиасреде.

Настоящая монография посвящена анализу возможных злоупотреблений ИИ и нейротехнологиями в процессе медиакоммуникации; с криминалистических и криминологических позиций анализируются возможные нарушения, их причины и механизм осуществления, а также возможные направления их предупреждения и, шире, профилактики. Это в числе прочего позволит определить концептуальные подходы к уголовно-правовому регулированию таких общественных отношений.

Глава 1. Нейротехнологии и искусственный интеллект как элемент современного информационного пространства россии

§ 1.1. Основные направления приложения нейротехнологий и ИИ

Нейротехнологии и ИИ являются одними из самых динамично развивающихся направлений науки и техники, которые способны радикально изменить представление о человеческих возможностях, улучшении качества жизни и развитии технологий. Эти области исследования объединяют достижения, прежде всего, в нейробиологии, информатике и машинном обучении. Рассмотрение основных направлений применения нейротехнологий и ИИ, возможность оценить их потенциал для решения актуальных задач, стоящих перед обществом, позволяет выявить те изменения, которые могут оказать наибольшее воздействие на общество, и предложить возможные пути их дальнейшего развития.

При рассмотрении нейротехнологий и ИИ следует отметить, что существует множество подходов к их внедрению, каждый из которых предполагает свой взгляд на развитие человеческого мозга и его поведение²⁶.

Тенденция внедрения нейротехнологий и ИИ проявляется повсеместно: ИИ анализирует угрозы безопасности для финансовых организаций, а нейросети – кредитную историю клиентов банковских структур; нейроинтерфейсы позволяют медицинским работникам проводить сложнейшие операции; университеты мира используют нейротехнологии для адаптивного обучения студентов; в московском метрополитене применяется система распознавания лиц для оплаты проезда, а Организация Объединенных Наций (ООН) исследует миграционные потоки с помощью автоматизированного анализа данных о геолокации мигрантов по всей планете²⁷.

Нейротехнологии и ИИ активно развиваются благодаря достижениям в области машинного обучения, глубоких нейронных сетей и анализа данных и все чаще используются в различных отраслях. Ежегодно рынок нейротехнологий и ИИ расширяется, предлагая новые возможности их применения как в медицине, так и в автоматизированных сложных производственных процессах. Такие корпорации, как Tesla и Google, уже активно применяют ИИ в целях повышения конкурентоспособности, что подтверждается достижениями в инновациях и коммерциализации внедряемых технологий. Нейротехнологии и ИИ становятся очень востребованными, о чем свидетельствует увеличение числа связанных с ними стартапов, а также объема инвестиций в них.

Воспользоваться результатами исследований в первую очередь стремятся государства, выступающие основными выгодоприобретателями. Они используют ИИ и нейротехнологии с целью решения самых разных задач, среди которых выделяются такие, как защита национальных интересов, улучшение ситуации, связанной с обеспечением кибербезопасности, и внедрение технологических разработок в экономику, что позволяет оптимизировать внутреннюю управленческую деятельность, а не только обеспечить защиту данных своих граждан и решить проблемы социального неравенства в доступе к новым технологиям. В современных условиях глобальной конкуренции ряд стран (США, Китай) ведут буквально технологическую гонку за лидерство, подчеркивая тем самым значимость нейротехнологий как некоего стратегического орудия. Искусственный интеллект оказывает сильное влияние на общественные институты; автоматизация большого количества рабочих мест приводит к необходимости переобучения сотрудников, адаптации бизнеса к изменениям рынка труда.

Используя ИИ и нейротехнологии, государства решают самые разные задачи – от обороны и разведки до управления экономикой (прогнозирования экономических кризисов, оптимизации самостоятельных систем и поддержки принятия решений). Большое внимание уделяется вопросам обеспечения информационной безопасности (противодействию взлому и неправомерному доступу к данным, использованию ИИ в ущерб государственным интересам).

Искусственный интеллект – комплекс технологических решений, имитирующий когнитивные функции человека (обучение, анализ информации, поиск решений, адаптация к новым условиям). Его отличие от традиционных программных решений заключается в способности самостоятельно обучаться и адаптироваться к меняющимся данным без использования заранее заданного алгоритма, что позволяет достигать тех результатов, которые либо сопоставимы с интеллектуальной деятельностью человека, либо даже превосходят ее. Искусственный интеллект представляет собой программу, с помощью компьютера имитирующую процесс мышления человека.

Основными компонентами (составляющими) ИИ являются:

• информационно-коммуникационная инфраструктура, представляющая собой совокупность программных средств, обеспечивающих сбор, хранение, обработку и передачу данных, что служит основой функционирования самых разных ИИ-систем;

• программное обеспечение и алгоритмы, которые ориентированы на методы машинного и углубленного обучения, позволяющие системе извлекать закономерности из данных и использовать их для принятия решений;

• сервисы по обработке данных и выработке решений, позволяющие интегрировать ИИ-системы в разнообразные процессы (анализ больших данных, автоматизацию бизнес-процессов, прогнозирование, оптимизацию).

Можно выделить следующие виды ИИ:

• ANI (узкий ИИ) – предназначен для решения конкретных задач (распознавания образов, перевода текста, игр и др.) и активно используется как в повседневной жизни (в виртуальных ассистентах [Siri, Alexa]), так и в рекомендательных системах (YouTube) и в автопилотных транспортных средствах;

• AGI (общий ИИ) – предполагает, что такие системы смогут выполнять любую интеллектуальную задачу, на которую способен человек;

• ASI (сверхинтеллект) – концепция, в соответствии с которой ИИ не только сравняется с разумом человека, но и сможет превзойти его по всем интеллектуальным способностям (возникает вопрос этики и безопасности в случае создания сверхинтеллекта).

Искусственный интеллект не только заменяет ручной труд или упрощает задачи, но и создает новые варианты развития общества и технологий, предоставляя возможности, ранее не доступные, для создания более эффективных интеллектуальных и автоматизированных систем. Так, ИИ активно используется при диагностике заболеваний на ранних стадиях, при разработке новых методов лечения. С помощью ИИ автоматизация обработки данных, прогнозирование рыночных тенденций и оценка рисков компании могут оптимизировать бизнес-процессы и увеличить доходы. Использование роботизированных систем с ИИ на производственных линиях повышает точность и уменьшает ошибки. Интеллектуальные транспортные и автопилотные системы, логистика с применением ИИ делают транспортные потоки эффективными и наиболее безопасными.

Нейротехнологии – технологии, которые используют или помогают понять работу мозга, мыслительные процессы и высшую нервную деятельность²⁸. Сюда относятся как методы изучения функционирования мозга, так и разработки, направленные на усиление когнитивных способностей. В настоящее время нейротехнологии применяются в различных сферах: медицине, образовании, ИИ и др. Среди всех нейротехнологий можно выделить нейроинтерфейсы, которые позволяют напрямую взаимодействовать с устройствами через мозговую активность, систему обучения, анализирующие нейронные паттерны, и нейростимуляцию, используемую, например, в медицине при лечении различных форм расстройств (депрессии и др.). Технологии нейровизуализации (МРТ, ЭЭГ) дают возможность узнать работу мозга в реальном времени.

Таким образом, происходит объединение двух видов работ с мозгом: записи мозговой активности («чтения») и стимуляции определенных областей мозга для изменения его активности. Нейронная запись основана на технологии мониторинга электрической активности мозга при помощи электродов или других датчиков, что позволяет фиксировать и анализировать нейронные сигналы, давая возможность специалистам изучать, как мозг реагирует на внешние и внутренние стимулы. В свою очередь, стимуляция мозга обеспечивает воздействие на определенные нейронные сети с помощью электрических импульсов, что позволяет активировать или подавлять работу конкретных его участков. Если раньше нейронная запись и стимуляция применялись по отдельности, то сейчас многие интерфейсы «мозг – компьютер» (ИМК) способны не только считывать активность мозга, но и воздействовать на нее в режиме реального времени, позволяя тем самым создать замкнутую систему одновременного «чтения и записи», в которой мозг и устройство могут взаимодействовать с максимальной точностью и скоростью.

В связи с достаточно быстрым развитием нейротехнологий возникает вопрос об этических аспектах их использования, поскольку сам процесс вмешательства в работу мозга вызывает много вопросов относительно безопасности нейроинтерфейсов и возможных злоупотреблений. Возможна ли в будущем манипуляция сознанием человека или даже контроль над его действиями? Подобный вопрос требует разработки правовых норм, обеспечивающих баланс между использованием технологий и соблюдением прав человека. Тем не менее перспективы таких технологий обещают революционные изменения во многих сферах.

Нейротехнологии могут быть применены в самых различных областях деятельности человека, в значительной степени упрощая и улучшая результативность его работы. Развитие роботизированных сервисов, появление новых способов и методов машинного обучения, повсеместные внедрения ИИ приведут к исключению возможности появления ошибок, допущенных человеком, освободив его от рутинного труда, расширят возможности компьютерных систем и анализа данных (вычислительные возможности).

Нейротехнологии вместе с ИИ способны стать самыми передовыми технологиями современности, ценность которых заключается в том, что в эпоху развития ИИ они позволяют усилить естественный интеллект путем соединения его с искусственным в одно целое. Это открывает новые возможности для человеческой деятельности, где будет наблюдаться не только повышение производительности, но и улучшение качества жизни, что делает нейротехнологии и ИИ важным элементом будущего общества²⁹.

Группой сквозных технологий, которым отводится важное значение, признаны технологии ИИ. Важность ИИ подтверждается его возможностями в области автоматизации; его внедрение в производственные процессы способствует повышению производительности и улучшению качества продукции. Такие технологии открывают новые возможности для создания интеллектуальных систем, способных принимать решения и адаптироваться к изменениям в окружающей среде.

Создание Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации», стало важным шагом к формированию государственной комплексной политики в данной области. Стратегия нацелена на создание условий для инновационного развития, внедрения технологий ИИ в различные сферы деятельности человека и обеспечения конкурентоспособности Российской Федерации на международном уровне.

Значимым шагом к тестированию новых подходов и решений в актуальных условиях является принятие Федерального закона от 24 апреля 2020 г. № 123–ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве»³⁰. Закон определяет основные цели, задачи и принципы государственной политики в сфере технологий ИИ и, что не менее важно, устанавливает механизмы взаимодействия между государственными органами, бизнесом, научными учреждениями. Это позволило выявить лучшие практики и адаптировать их для дальнейшего применения в других регионах страны.

Внесение изменений в статьи 6 и 10 Федерального закона от 27 июля 2006 г. № 152 «О персональных данных» также подчеркивает важность защиты данных в условиях быстрого развития ИИ³¹. Только установление четких границ использования ИИ может обеспечить безопасность и конфиденциальность данных, задействованных системами ИИ.

Перечисленные нормативно-правовые акты положили начало формированию правового регулирования технологий ИИ в Российской Федерации. Они создали правовые границы, которые будут адаптироваться в зависимости от развития самих технологий. Если ИИ уже находится в поле правового регулирования, то другие сквозные технологии (блокчейн, квантовые вычисления) пока не обеспечены специальным правовым регулированием. Создание подобного правового вакуума может потенциально замедлить их внедрение в экономику и другие сферы страны.

В отношении большинства других сквозных технологий специальное правовое регулирование пока отсутствует. Вместе с этим Федеральный закон от 31 июля 2020 г. № 258 «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» предполагает создание правовых условий для ускоренного появления и внедрения новых продуктов и услуг применения цифровых технологий в разных сферах (технологий ИИ, нейротехнологий, цифровых двойников и т. д.). Данный Закон позволяет ввести экспериментальный правовой режим, то есть так называемое временное специальное регулирование в целях ускоренного внедрения результатов развития цифровых технологий на практике. Речь здесь идет в первую очередь именно о сквозных технологиях.

Такие сквозные технологии, как ИИ, большие данные, блокчейн (распределенные реестры), являются ключевыми элементами цифровой трансформации различных отраслей экономики и социальной сферы. Их потенциал для ускорения внедрения инноваций велик, однако в силу отсутствия постоянного правового регулирования могут возникать постоянные правовые и этические риски. В связи с этим введение экспериментальных правовых режимов позволит адаптировать существующие правовые нормы к новым условиям, подвергать тестированию инновационные технологии в реальных условиях без риска нарушения законодательства, а также создавать правовую базу для их дальнейшего полноценного внедрения.

Одной из важных задач такого подхода является обеспечение некоего баланса между балансом стимулирования инновационной активности и защитой прав участников рынка, включая и граждан, данные которых могут использоваться в ходе экспериментов. Введение временного правового регулирования направлено, с одной стороны, на поддержку бизнеса, а с другой – на защиту принципов безопасности и конфиденциальности данных.

Приведенный подход позволяет ускорить выход на рынок новых технологий, устраняя те преграды, которые связаны с бюрократическими и правовыми барьерами. Именно оптимизация способствует быстрому внедрению инноваций, что особенно важно в стремительно развивающейся сфере технологий ИИ. При этом необходимо учитывать, что ускорение выхода на рынок не должно влиять на снижение стандартов безопасности и защиты прав граждан. Здесь следует руководствоваться сохранением баланса между быстрым внедрением технологии и ее тщательной проверкой.

Безусловно, в будущем будет разработано более детальное правовое регулирование технологий, обеспечивающее гармоничное развитие ИИ с сохранением конкурентных преимуществ и соблюдением этических и правовых норм. Мы уже сейчас наблюдаем, как законодатель работает над созданием гибкой правовой среды, способствуя и инновациям, и защите интересов общества и отдельных его категорий граждан.

Развитие и использование технологий ИИ должны основываться на ряде ключевых принципов. В первую очередь речь идет о принципах, вытекающих из Национальной стратегии развития искусственного интеллекта: защиты прав и свобод человека, безопасности, прозрачности, технологического суверенитета, целостности инновационного цикла, наиболее эффективного использования технологий ИИ, поддержки конкуренции, открытости и доступности, преемственности, защищенности, достоверности исходных данных³².

Ключевыми целями развития технологии ИИ в Российской Федерации, определенными с учетом перечисленных принципов, являются³³:

• обеспечение роста благосостояния и качества жизни граждан. Технологии ИИ способны трансформировать различные отрасли экономики, делая услуги более качественными и доступными, что ведет к общему улучшению условий жизни, повышению уровня доходов и созданию новых возможностей для самореализации; это достигается за счет автоматизации процессов, повышения эффективности труда и улучшения доступа к таким жизненно важным услугам, как медицина, социальная поддержка и образование;

• обеспечение национальной безопасности и правопорядка. Технологии ИИ используются для повышения эффективности работы правоохранительных органов по предотвращению преступлений, обеспечению кибербезопасности и защите важных инфраструктур (современные технологии ИИ сегодня уже помогают выявлять потенциальные криминальные угрозы на самых ранних этапах, что способствует поддержанию стабильности и безопасности в государстве; успешно расследуются преступления прошлых лет). Внедрение ИИ в системы мониторинга, анализа данных и прогнозирования поможет минимизировать внешние и внутренние угрозы;

• достижение устойчивой конкурентоспособности в отечественной экономике. Инновационные технологии способствуют росту как уже сложившихся, так и новых отраслей экономики и стимулируют ее производительность. В будущем технологии ИИ могут стать двигателем экономического роста, помогая отечественным компаниям занимать лидирующие позиции на международном рынке, а само их развитие сможет укрепить позиции Российской Федерации как одного из лидеров в этой области, что положительно скажется на росте экспорта передовых решений и услуг. Со временем технологии на основе ИИ станут главным фактором роста экономика.

Включение нейротехнологий и ИИ в перечень важнейших, основных элементов цифровой трансформации отражает их исключительную роль в развитии национальной экономики и технологической независимости. Каждая из технологий, созданная на основе ИИ, направлена на решение критически важных задач, к числу которых относятся: обеспечение технологической независимости; развитие экспортного потенциала; достижение целей импортозамещения.

В 2019 г. была разработана Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект», в соответствии с которой выделяются семь субтехнологий, развитие которых и окажет высокий уровень влияния на технологическое лидерство³⁴.

Компьютерное зрение – технология ИИ, отвечающая за разработку систем, способных анализировать и интерпретировать визуальные данные. Компьютерное зрение находит применение в автоматизированных производственных процессах; диагностике, применяемой в медицине; при обеспечении безопасности и обороны; в системах автономного вождения на транспорте.

Рекомендательные системы и интеллектуальные системы поддержки принятия решений – технологии ИИ, оказывающие помощь в обработке больших объемов данных и предоставляющие пользователям или компаниям персонализированные рекомендации. Такие системы позволяют значительно повысить эффективность и точность принимаемых решений, например, при использовании онлайн-услуг, постановке диагнозов в медицине; в бизнес-аналитике.

Распознавание и синтез речи – технологии, отвечающие за создание технологий, позволяющих системам ИИ понимать и генерировать речь. Все чаще такие системы используются в виртуальных ассистентах, контактных центрах, устройствах с голосовым управлением и в различных интерактивных системах. Распознавание речи в нашей стране имеет особое значение в контексте развития технологий, поддерживающих национальные языки и культурные особенности.

Обработка естественного языка (NLP) – технологии, предназначенные для анализа, последующей интерпретации и генерации человеческой речи и текстов. В настоящее время они активно используются в чат-ботах, системах автоматизированного перевода, инструментах анализа больших объемов текстовой информации, что очень важно для улучшения взаимодействия между человеком и компьютером на естественном языке.

Современные технологии ИИ включают в себя разработку новых алгоритмов, подходов на основе моделирования в области машинного обучения и знание других технологий. Это содействует созданию таких технологических систем ИИ, которые будут способны решать самые сложные задачи.

Сегодня благодаря таким алгоритмам мы уже получили, например, технологии, которые направлены на разработку устройств, способных заменить или восстановить утраченную функцию организма (в медицине, например, благодаря таким технологиям созданы искусственные конечности с обратной связью, управляемые мысленными командами, что позволяет вернуть подвижность и качество жизни людям с инвалидностью).

Такие технологии, как нейроинтерфейсы, нейростимуляция и нейросенсинг, направлены на создание прямых связей между мозгом и внешними устройствами и предоставляют большие возможности в исследовании когнитивных процессов и даже в расширении человеческих возможностей путем мониторинга и анализа активности мозга в реальном времени.

Развитие технологий играет ключевую роль в создании инновационной экосистемы, которая способна будет обеспечить технологическую независимость Российской Федерации и продвижение ее на международный рынок, предоставит возможность занять на нем лидирующие позиции в области новых технологий. Что касается сквозных технологий, то они, обладая универсальными характеристиками, могут быть интегрированы в самые разные сферы экономики, медицины, образование, государственное управление. Наиболее активно используются технологии ИИ в государственном управлении, что объясняется необходимостью оптимизации процессов принятия решений в условиях координации действий различных органов. Самый низкий уровень использования сквозных технологий наблюдается в сфере строительства, что объясняется низкой активностью частного сектора и отсутствием инвестиций. При этом возможности технологий ИИ в сфере строительства имеются и могли бы быть направлены на улучшение управления проектами, автоматизацию процессов проектирования и строительства, повышение точности выполнения задач, что в итоге привело бы к сокращению затрат.

Основными заказчиками научно-исследовательских (НИР) и опытно-конструкторских работ (ОКР) в области сквозных технологий выступают государственные фонды и федеральные органы власти, что свидетельствует об активном участии государства в содействии переходу к цифровой экономике. Именно государственные инвестиции и поддержка призваны обеспечить стабильное финансирование ключевых направлений исследований и разработок, позволяющих России оставаться конкурентоспособной страной на международной арене. Такое государственное содействие осуществляется через различные программы и стратегии, включая Программу «Цифровая экономика Российской Федерации»³⁵ (далее – Программа), направленную на создание условий для развития цифровых технологий, на повышение уровня цифровой грамотности населения, укрепление позиций России в глобальной технологической гонке. Принятая Программа определяет своей целью обеспечение более активного использования сквозных технологий во всех отраслях экономики, включая и те, где уровень их применения остается заметно ниже (в строительной отрасли).

Широкие возможности и универсальность сквозных технологий позволяют им становиться уникальным и ключевым инструментом как для коммерческого, так и для государственного сектора, а активное участие государства в их развитии способствует переходу России к цифровой экономике, обеспечивая высокую конкурентоспособность на международном рынке и создавая условия для дальнейшего технологического прогресса.

Взаимосвязь ИИ и нейротехнологий находит свое выражение в их общей направленности, связанной с познанием и возможным моделированием интеллекта и работы мозга человека. Изучение и воспроизводство таких сложных когнитивных процессов, как восприятие, мышление, память и принятие решений, позволяет создавать технологии, применяемые для улучшения качества жизни и решения как технологических, так и социальных, медицинских задач.

Искусственный интеллект многими специалистами рассматривается как важный инструмент для изучения мозга. При этом современные ИИ-системы воспринимают результаты нейроисследований, так как обладают передовыми когнитивными и перцептивными способностями, максимально приближенными к возможностям биологических систем, что включает такие функции, как распознавание объектов, классификация данных и принятие решений. Примером здесь служит система распознавания лиц на базе машинного обучения и компьютерного зрения, позволяющая идентифицировать или подтверждать личность человека по его лицу.

Благодаря тесной связи ИИ и нейротехнологий появляются новые методы исследования мозга и технологические решения, которые помогают лучше понять когнитивные процессы человека. Развиваются нейроинтерфейсы, позволяющие осуществлять взаимодействие между мозгом человека и внешними устройствами: инвазивные (внедряемые непосредственно в организм) нейроинтерфейсы используются для управления протезами конечностей, лечения тяжелых заболеваний (эпилепсии, болезни Паркинсона), а неинвазивные (используемые без такого внедрения) – в создании систем управления компьютерными устройствами или роботами с помощью мозговых сигналов, что позволяет улучшить качество жизни людей с ограниченными возможностями.

Примером инвазивных технологий являются чипы-импланты, которые вживляются в мозг с целью прямого взаимодействия с нейронной сетью. Такие чипы-импланты³⁶ позволяют мозгу напрямую управлять внешними устройствами, используя нейронные сигналы. Примером неинвазивных методов являются очки виртуальной реальности (VR)³⁷, которые взаимодействуют с мозгом через визуальные и сенсорные стимулы. Они активно применяются, с одной стороны, в развлекательной индустрии, образовании, в спорте при тренировках, а с другой – в медицине, в частности в терапии. Так, VR-очки могут использоваться для реабилитации пациентов с двигательными нарушениями или лечения посттравматического стрессового расстройства.

Большое количество нейротехнологий в настоящее время охватывают много направлений, которые могут взаимодействовать с человеком на совсем новом уровне – от восстановления когнитивных функций до разработки интеллектуальных систем.

Под нейротехнологиями и нейроинтерфейсами традиционно понимают интерфейс «мозг – компьютер» (BCI) – устройство, с помощью которого используется нейронная активность мозга для установления прямой связи с внешними исполнительными механизмами. Основная идея такого интерфейса «мозг – компьютер» заключается в регистрации нейронных сигналов и их преобразовании в команды для управления различными устройствами: от компьютерных программ до роботизированных систем.

Нейротехнологии и ИИ представляют собой мощные инструменты, оказывающие в современном мире значительное влияние на различные сферы человеческой жизни. Их активное внедрение в образование, медицину, экономику открывает новые возможности для повышения эффективности, улучшения качества жизни и обеспечения безопасности государства и общества. Их применение не только помогает решать сложные задачи в области медицины, образования, экономики, но и открывает перспективы для создания новых форм взаимодействия между человеком и машиной.

Интерес к сквозным нейротехнологиям со стороны частных компаний и государства способствует проведению более профильных изысканий (что и делалось в последние несколько лет) благодаря, например, таким программам, как BRAIN Initiative, организованной в США в 2013 г. в рамках изучения мозга посредством инновационных технологий, или Human Brain Project, созданной странами Европейского союза. Подобные проекты позволяют внедрять нейротехнологии практически в любую сферу жизни общества. Их необходимость и популярность объясняется тем, что с каждым годом растет политическая воля различных субъектов государственного управления. Техногенные катастрофы, эпидемии новых вирусов, старение населения и другие факторы обуславливают повышенный интерес человека к цифровым технологиям как средству решения многих проблем.

Основными направлениями дальнейшего развития нейротехнологий и ИИ становятся их интеграция в социальные и экономические процессы и разработка стандартов, которые бы гарантировали безопасное и эффективное использование данных технологий. Технологиям ИИ придается особая значимость для разработки и внедрения механизма их правового регулирования на данный момент. По мнению представителей исследовательских центров США, Великобритании, Швейцарии, Франции, Италии, иных стран, этические и правовые последствия начинающейся революции в области нейротехнологий должны рассматриваться превентивно³⁸.

§ 1.2. Нейротехнологии и ИИ как часть информационно-коммуникационной инфраструктуры

Анализ происходящих трансформаций социального бытия является обязательным условием эффективной реакции на них. Результаты комплексного исследования парадигмальных изменений информационной сферы общественной жизни, осуществленного с юридической и экспертной позиций, были приведены в ранее написанной авторами монографии³⁹. Вместе с тем широта рассмотренной проблематики не позволила полностью сосредоточиться на вопросах изменения медиакоммуникации под влиянием ИИ и нейротехнологий; эти вопросы, на наш взгляд, заслуживают самостоятельного монографического исследования. Кратко изложим основные тезисы, описывающие цифровую медиасреду как часть информационного пространства, после чего сосредоточимся на предмете нашего исследования – влиянии вынесенных в заглавие технологий на информационно-коммуникативную деятельность, а также на ресурсы и инфраструктуру ее осуществления.

В настоящее время информационная деятельность главным образом осуществляется за счет использования технических средств (в первую очередь – обрабатывающих данные в цифровой форме), связанных друг с другом в сети и позволяющих распространять информацию среди неопределенного круга лиц. Элементы единой информационной среды (всей совокупности информации, информационных технологий и информационных систем) находятся в процессе постоянного преобразования и развития; возникают цифровая среда (часть информационной среды, представляющая собой совокупность информационных технологий и информационных систем, которые обрабатывают информацию, имеющую цифровую форму представления, а также содержащих такую информацию информационных ресурсов) и медиасреда (часть информационной среды, в которой информация вне зависимости от формы распространяется при помощи средств массовой информации и коммуникации, сокращенно – СМИ и СМК, реализованных на основе информационно-коммуникационных технологий – ИКТ).

Пересечение данных частей формирует цифровую медиасреду – наиболее динамичную и (к настоящему моменту) значимую с точки зрения эффективного осуществления информационной деятельности часть информационной среды, включающую в себя социальные сети (такие как «ВКонтакте», «Одноклассники» и др.), системы мгновенного обмена сообщениями – мессенджеры (Telegram, WhatsApp, Viber), иные ресурсы (форумы, видеохостинги, почтовые сервисы и т. д.).

Таблица 1

Медиасреда, ее составные элементы и основные акты ее нормативного правового регулирования

Большая скорость научно-технического прогресса в сравнении с прогрессом социальным приводит к тому, что у людей появляются технологии, к использованию которых они не в полной мере готовы, не полностью осознают все принципиально возможные последствия их применения. Взаимодействие через цифровые СМК чревато не только приятным времяпрепровождением, но и столкновением с агрессивной пропагандой, недостоверной информационной продукцией (фейками), диффамацией, мошенниками, неприятным и незаконным контентом; «сливом» персональных данных, «взломом» и кражей личных учетных записей (аккаунтов) и т. д. Поэтому вопрос информационной безопасности (и в особенности – медиабезопасности в цифровой среде) стоит достаточно остро.

Перечисленные выше элементы цифровой медиасреды – технологии Web 2.0, связанные с распространением в Интернете по сетевому принципу разнообразного по форме и содержанию пользовательского контента на бесплатных общедоступных платформах (в соцсетях, на форумах, хостингах и проч.)⁴⁰; все это в первую очередь подразумевает обеспечение понимания информации человеком.

Однако в результате информационной деятельности в цифровой медиасреде произошел экспоненциальный рост объема данных: если на рубеже 2010-х гг. объем всей информации в Интернете оценивался примерно в 1 зеттабайт (триллион гигабайтов)⁴¹, то к 2022 г. его объем возрос уже до 90 зеттабайт⁴². Исследователи отмечают, что около 90 % мировой информации, существующей сегодня, было создано за последние десять лет, и сохранение таких темпов приведет к катастрофическим последствиям: в масштабах нескольких столетий энергия, необходимая для поддержания процесса создания цифровой информации, сравняется со всей энергией, которая производится сейчас на Земле, а количество битов, созданных человеком, превзойдет количество атомов на Земле⁴³.

Для автоматизации работы с большими данными (будь то систематизированные датасеты или же просто совокупность пользовательских данных) хорошо подходят технологии самообучающегося ИИ, в основе построения которых – созданные в процессе машинного обучения искусственные нейронные сети. Вместе с тем данные технологии могут быть приложены к любой сфере, поэтому все, у кого есть такая возможность, занялись их внедрением (в немалой степени из-за боязни проиграть в конкурентной борьбе): к примеру, недавно в Японии разработали ИИ – цифрового посредника, который перерабатывает реплики разгневанных клиентов колл-центров, «подавляя» эмоции и делая их речь менее агрессивной⁴⁴. Разработка и внедрение таких средств является важной частью Web 3.0 (наряду с децентрализацией и внедрением блокчейн-технологий), в котором обеспечивается взаимодействие между собой и понимание данных компьютерными системами.

Позволить себе создание и дальнейшее поддержание работоспособности собственных функциональных ИИ пока могут только государства и компании с объемным финансированием, так как для этого необходимо дорогостоящее и дефицитное обеспечение:

• программно-аппаратное: значительные вычислительные мощности (включающие в себя нейронные процессоры, также называемые ИИ-ускорителями) и специализированные программные средства, многие из которых являются закрытыми (их исходный код известен только автору или иному правообладателю и недоступен иным лицам) и проприетарными (требующими приобретения лицензии);

• кадровое: квалифицированные программисты и специалисты по прикладной и математической лингвистике, способные организовать качественное обучение нейросетей обработке естественного языка, а также работе с иными данными;

• информационное: программирование либо обучение ИИ подразумевает формирование его онтологии (условно – «картины мира»), выраженной в сформированной в процессе его разработки базе знаний. Для этого необходим специальный (предназначенный для обучения ИИ под решение конкретных задач, например, создание изображений), самостоятельно собранный либо приобретенный, массив (база) данных, который будет использоваться при программировании/обучении.

Все это в комплексе может рассматриваться как фактор «цифрового неравенства»; а учитывая, что ИИ является продуктом двойного назначения стратегического характера, отставание и просчеты в его разработке и использовании являются серьезной угрозой для национальной безопасности любой страны.

По результатам проведенного исследования представляется возможным заключить, что в настоящее время ИИ в цифровой медиасреде используется в следующих качествах:

• как поисковая система, использующаяся для агрегирования, систематизации, обобщения и анализа информации с указанием источников ее получения либо без оного (так называемый виртуальный ассистент);

• как участник коммуникации – виртуальный собеседник (чат-боты, в задачу которых входит поддержание беседы с целью выполнения каких-либо функций: развлекательной, консультационной, коммерческой и т. д.);

• как инструмент, предназначенный для обработки существующих и создания новых информационных продуктов в любой форме (генеративный ИИ);

• как инструмент обеспечения межкультурной коммуникации (переводчики на базе ИИ, способные обрабатывать информацию в различной форме и осуществлять синхронный перевод).

Сложные и дорогие ИИ, обученные на большом массиве данных (такие, как ChatGPT), универсальны и могут использоваться для всех целей, перечисленных выше; более бюджетные проекты, как правило, имеют конкретную специализацию, однако ввиду этого могут лучше справляться с решением узких задач (например, с переводом).

Как любой инструмент, технологии ИИ могут быть использованы для достижения как благих, так и предосудительных целей. Хотя разработчики и предпринимают меры по ограничению возможностей их применения в противоправных целях (к примеру, для поиска и анализа информации, оборот которой ограничен законом), способность ИИ к самообучению и постоянный «творческий поиск» злоумышленников приводят к возникновению и обнаружению новых способов взлома, обхода подобных программных ограничений – так называемых джейлбрейков (от англ. jailbreak – побег из тюрьмы).

Кроме того, важно отметить, что использование средств ИИ для парсинга сайтов (автоматического сбора и обработки данных с них) позволяет создавать наборы данных, которые в дальнейшем используются как для машинного обучения, так и для аналитической работы. Вместе с тем при таком сборе данных может быть нарушен закон (в случае сбора и агрегирования конфиденциальной информации или информации, запрещенной к обороту), прямо либо косвенно затронуты интересы физических или юридических лиц. Эффективность же таких технологий заставляет задуматься о рисках, которые влечет возможность быстрого сбора информации, например персональных данных или финансовой документации.

Деяния, совершаемые с использованием ИИ (в том числе генеративных), могут быть квалифицированы как преступления в соответствии со статьями Уголовного кодекса Российской Федерации; преимущественно речь идет о корыстных преступлениях (в первую очередь – мошенничестве) и преступлениях, связанных с незаконным (ограниченным или запрещенным) оборотом недостоверной и иной информации. Как можно заметить, этот перечень весьма объемный, и это без учета того, что генеративные нейросети могут быть элементом механизма иных преступлений (например, использоваться при подготовке или сокрытии убийств, террористических актов и т. д.), а также административных правонарушений и гражданских деликтов.

Исследования в области ИИ и нейротехнологий тесно связаны между собой, так как и первые, и вторые разрабатываются на материале исследований человеческого мозга. Параллельная работа над этими направлениями дает синергетический эффект: исследования мозга позволяют разрабатывать самообучающиеся нейронные сети, в перспективе (при должном объеме и продолжительности обучения) способные обрести разум, сравнимый с естественным, или даже превзойти его⁴⁵.

Таким образом, проблематика разработки ИИ и нейротехнологий тесно переплетена. Анализ нейросетей и процесса их функционирования⁴⁶ при наличии нейроинтерфейса «мозг – компьютер» (делающего возможной нейрокоммуникацию; в основе этих технологий лежит принцип прямого информационного воздействия на мозговые центры в обход органов чувств⁴⁷) потенциально открывает возможности для непосредственного влияния на человеческий разум через цифровую медиасреду.

В различных прикладных научных исследованиях (в том числе связанных с созданием нейрокомпьютера⁴⁸) ведутся работы по составлению карты мозга (в частности, в России получили широкую известность работы С. В. Савельева⁴⁹); одним из возможных эффектов создания такой карты (в совокупности с моделированием нейропроцессов и анализом того, как информация кодируется и передается внутри естественных и искусственных нейросетей) может стать разработка искусственных каналов прямого взаимодействия мозга как с компьютером, так и с другим мозгом через сеть⁵⁰.

Поэтому следующим предполагаемым этапом после децентрализованного компьютерно-ориентированного интернета вещей Web 3.0 (деятельность которого напрямую связана с ИИ) является Web 4.0, иначе – Нейронет, в котором взаимодействие участников (человек – человек, человек – машина) будет осуществляться с помощью новых нейрокомпьютерных интерфейсов, в дополнение к традиционным методам, а сами компьютеры станут нейроморфными (похожими на мозг) на основе гибридных цифро-аналоговых архитектур; в 2015 г. Нейронет был включен в число ключевых рынков Национальной технологической инициативы⁵¹. В литературе отмечают, что ранее термин «Нейронет» был лишь калькой термина «нейросеть», однако теперь он обозначает коммуникационную среду следующего поколения, основанную на нейроинтерфейсах и новых протоколах опосредованного ими взаимодействия между людьми, коллективами, искусственными автономными агентами, системами работы с данными и объектами реального мира⁵².

Для построения такой сети необходимо решить проблемы понимания мозга, создания специальных интерфейсов и сетевых протоколов. Как отмечается в литературе, «психофизиология вида Homo sapiens (реакции человека на цвет, цветовую гамму, частотный диапазон подаваемых сигналов, форму и другие перцептивно-эстетические параметры машины) определяется единообразием, но этнические или мировоззренческие картины мира разнятся. <..> Машинное смысловое пространство должно быть максимально дружественным для пользователя с любым уровнем технической подготовки, любого возраста и религиозной принадлежности»⁵³. Решение инвариантности внутренней речи исследователи усматривают в гипотетически возможной «семантической паутине», представляющей собой некий единый, универсальный язык смыслов (с возможностью автоматизированного семантического перевода между этим языком и языком каждого отдельного мозга). Подобное предположение подразумевает необходимость установления семантических универсалий и их коррелятов в индивидуальных нервных системах.

Аналитики следующим образом описывают результаты разработки и внедрения таких технологий: «Главное отличие от нынешнего Интернета будет в том, что Нейронет начнет строиться на коммуникации уникальных нервных систем, по сути, без обязательного использования естественного языка. Скорее будут использоваться специальные уникальные языки, соединяющие „карты“ нервных систем – а значит, коммуникация станет происходить быстрее и точнее, в ней появится возможность „выражать невыразимое“, передавать непосредственно состояния. Можно будет „перегружать знания“ напрямую из одной нервной системы в другую, обмениваться не только вербальными, но и психоэмоциональными опытами и переживаниями, создавать друг у друга сложные и высоко реалистичные ощущения»⁵⁴.

Экономически, юридически и психологически к появлению Нейронета в описанном виде следует готовиться уже сейчас, так как понятно, что с высокой долей вероятности его возникновение является вопросом времени; даже названы приблизительные временные рамки этапов его развития⁵⁵:

1. Первый этап (2015–2020 гг.) подразумевает неравномерное проявление отдельных эффектов и технологий с началом появления основных субъектов. До 2020 г. ожидается появление первых ростков будущей сети (пример – НейроЧат, социальная сеть на основе интерфейсов «мозг – компьютер» для людей с тяжелыми нарушениями речи и опорно-двигательного аппарата⁵⁶), неравномерно возникающих в разных отраслях, проявления отдельных эффектов и технологий. Основные изменения сосредоточены и реализуются в таких областях, как медицина, безопасность и развлечения.

2. Второй этап (2020–2030 гг.) – этап параллельного и, вероятно, не связанного друг с другом проявления двух прототипов Нейронета. Во-первых, это пролог Нейронета – «биометрический веб»: «интернета биометрических вещей» (устройств, считывающих физиологические параметры человека) и Web 2.0+ практик, использующих биометрическую инфраструктуру. Во-вторых, речь о «коллаборационном Вебе» – системе взаимосвязанных порталов открытых сообществ, специализирующихся на разработке и использовании инструментов и практик коллективной деятельности; такая организационная модель способна вовлечь в упорядоченную целенаправленную коммуникацию человека с любыми компетенциями. Ключевыми игроками в первой отрасли с высокой вероятностью станут медицина, спорт, сферы развлечений, образования и услуг. Ключевыми игроками во второй – профессиональные сообщества, сообщества практик, сообщества практик на территориях. Кроме того, произойдет насыщение технологической линейки интерфейсов.

3. Третий этап (2030–2040 гг.) – полноценная реализация локальных прототипов Нейронета в статусе очагов, привязанных к отраслям или отдельным типам деятельности. Коммуникативная среда, основанная на протоколах прямого взаимодействия нервных систем (типа протокола «передачи мыслей» HTTP–2) и подразумевающая создание нейроколлективов, может появиться уже в ближайшие 10–15 лет. Важную роль в возникновении таких коллективов будет играть технология «экзокортекса» («внешнего мозга») – искусственных частей психики, поддерживаемых машинами и синхронизируемых с естественной психикой. Это могут быть, например, дополнительная внешняя память, «расширения» сенсорно-эффекторной системы, вспомогательные ментальные функции типа проведения сложных вычислений. По сути, нейроколлективы есть не что иное, как несколько человеческих психик, связанных экзокортексом в единый коллективный субъект. Техническая инфраструктура развивается в сторону прямой синхронизации живых систем, что позволяет моделировать и создавать «виртуальных сиамских близнецов». В нейроколлективах становятся возможны прямая передача опыта через сонастройку людей, создание искусственного опыта.

4. Четвертый этап (после 2040 г.) – Нейронет, выйдя за пределы очагов его использования, охватывает область коммуникаций целиком и превращается в массовый инструмент и цивилизационную инфраструктуру.

Таким образом, нейротехнологии и ИИ тесно взаимосвязаны, а их разработка и повсеместное внедрение приводят к невиданным ранее трансформации информационно-коммуникационной деятельности, совершенствованию инфраструктуры и появлению новых способов передачи информации. На порядки возросли объем и скорость обработки информации; появились искусственные субъекты информационной деятельности (пока не наделенные правосубъектностью ввиду недостаточного развития) – ИИ. Если ранее и сейчас основным инструментом коммуникации является речь, то в перспективе возможно возникновение средств невербальной коммуникации, буквально позволяющих обмениваться мыслями.

Хотя подобные перспективы способны вызывать энтузиазм, они также представляются поводом для серьезного беспокойства за конфиденциальность, мировоззренческую безопасность и когнитивный суверенитет пользователей. Анализ уже существующих информационных угроз медиабезопасности демонстрирует высокую степень их распространенности, разнообразия и общественной опасности; поэтому уже сейчас информационное оружие является эффективным и обязательным средством ведения текущих социально-политических конфликтов. Надо полагать, что с появлением доступа непосредственно к нервной системе пользователей данные угрозы еще более усугубятся (перспективы цифровой утопии и бессмертия могут обернуться цифровым заточением и рабством – более чем реальными).

Глава 2. Регулирование нейротехнологий и ии в контексте обеспечения национальной безопасности российской федерации

Создание принципиально новых технологий, существенно меняющих социальную реальность, всегда было нетривиальной задачей. Ярким примером является история правового регулирования Интернета, некоторое время находившегося на периферии или же за пределами внимания законодателя ввиду своей новизны. И это притом, что, хотя в отечественном научном дискурсе принято говорить о телекоммуникационной сети Интернет как о новом, недавно сформировавшемся предмете, ему в его современном виде уже исполнилось тридцать лет; о продолжительности его существования свидетельствует хотя бы наличие доменного имени СССР – su⁵⁷. Да, повсеместное его внедрение в России произошло позже (на рубеже 1990–2000-х гг.), а тридцать лет в рамках фундаментальных научных исследований – не такой большой период времени, и все же Интернет существует уже достаточно долго для того, чтобы говорить о нем как о явлении изученном. Вместе с тем его динамичность, глобальный децентрализованный характер и сложное техническое устройство создавали проблемы для правильного определения границ возможного нормативно-правового регулирования и, собственно, его осуществления.

С повсеместной цифровизацией общественной жизни (которую дополнительно стимулировали сторонние факторы, такие как эпидемиологическая обстановка⁵⁸) в начале 2020-х гг. была проведена оптимизация нормативно-правового регулирования сети Интернет и осуществляемой в ней деятельности. Вместе с тем в 2022 г. произошел прорыв в области ИИ, связанный с развитием и распространением больших языковых моделей (пример – ChatGPT; результат – текст) и их мультимодальных вариантов (примеры – Midjourney, Runway Gen–2; позволяют создавать изображения, аудио-/видеозаписи и т. д.). Прорыв в области нейротехнологий (в первую очередь – нейроинтерфейсов) лишь предстоит, однако уже в обозримом будущем они полноценно присоединятся к ИИ и продолжат совместную трансформацию информационно-коммуникативной сферы. Имеется насущная потребность в правовом регулировании создания и использования данных технологий; такого рода регулирование должно конструироваться в опережающей логике, ведь в противном случае имеются высокие риски негативных последствий.

Как отмечает И. А. Филипова, среди общетеоретических вопросов, требующих урегулирования правом, главное место занимают следующие⁵⁹:

1) вопрос о статусе ИИ (объект или субъект в составе правоотношения);

2) вопрос об ответственности за решения ИИ;

3) вопрос о правах на результаты деятельности ИИ, носящей творческий характер;

4) вопрос о сохранении конфиденциальности данных, в первую очередь – персональных данных;

5) вопрос о правах человека в мире, который заполняется все более совершенными моделями ИИ;

6) вопрос о прозрачности принятия решения ИИ;

7) вопрос о возможной предвзятости, дискриминации со стороны ИИ;

8) вопрос о безопасности и о запрещении использования отдельных разновидностей ИИ;

9) вопрос о том, в какой степени закон должен защищать разумный ИИ (который сможет чувствовать удовольствие и боль).

Перечисленные выше вопросы активно дискутируются в отечественной и зарубежной юридической науке; идет процесс первичного формирования доктринальных подходов к их разрешению в условиях отсутствия четкого правового регулирования всего многообразия связанной с такими технологиями проблематики. Правовое регулирование данной сферы пока находится в зачаточном состоянии; сначала должна быть сформирована общая концепция, модель правового регулирования, и лишь затем следует принимать или изменять отдельные нормативные правовые акты. Тем важнее, ввиду сложности его предмета, проследить связь и соотношение с иными формами нормативного регулирования – этическим и техническим регулированием.

Этическое регулирование формирует концептуальную основу и ключевые подходы к ИИ и нейротехнологиям, которые в дальнейшем реализуются в правовом регулировании; поэтому ранее предлагалось на законодательном уровне разработать и утвердить систему этических принципов, которые должны соблюдаться при разработке и использовании систем ИИ⁶⁰. Техническое же регулирование, обязательное для безопасности и эффективности любой связанной с технологиями деятельности, учитывает реальные возможности ИИ и нейротехнологий и является более гибким, нежели правовое (характеризующееся определенной степенью консерватизма и в то же время жесткостью формулировок). Существует дилемма: если ввести жесткое регулирование (пусть и призванное минимизировать высокие риски злоупотреблений в данных областях), то такое решение приведет к снижению инвестиций и торможению развития технологий, дав серьезнейшие конкурентные преимущества тем, кто не стал ограничивать эту сферу. В данном контексте понятны опасения лидеров области, связанные с принятием регулирующих ИИ и нейротехнологии нормативных актов. С другой стороны, отсутствие четких дозволений, ограничений и запретов создает правовую лакуну, не позволяющую адекватно и полноценно реагировать на общественно опасные деяния, связанные с разработкой и использованием указанных технологий.

В зависимости от предпочитаемой разновидности регулирования выделяют юридический и технологический подходы к регулированию ИИ и нейротехнологий⁶¹. Первый сложнее адаптируется к технологическим новациям и может им препятствовать, однако является антропоцентричным, следовательно – в большей степени отвечающим интересам социума; второй – наоборот. Оптимальным видится баланс правового и технического регулирования, основанного на сформированных ранее подходах к регулированию этическому. Путь развития первого – введение экспериментальных правовых режимов (разработанных по результатам аналитической работы и научных исследований); второго – разработка стандартов, учитывающих особенности и возможности упомянутых технологий; третьего – создание этических кодексов, содержащих взвешенную консолидированную позицию общества.

Прежде обратим внимание на формирующееся этическое регулирование как на имеющее основополагающее, принципиальное значение. Как отмечает Н. Бостром, потенциально возможный сверхразумный ИИ содержит в себе экзистенциальный риск для будущего всего человечества, а методы, помогающие людям его контролировать (включая сдерживание развития, замедление возможностей или сужение рабочего контекста и т. д.), не могут гарантировать того, что этот контроль сохранится и что ИИ не преодолеет их в будущем; поэтому для того, чтобы являться безопасным для человечества, сверхразумный ИИ должен изначально занимать его сторону, т. е. быть согласован с гуманистическими ценностями и моралью⁶². Потенциальные рамки нормативности дружественного ИИ включают в себя последовательное экстраполированное волеизъявление Юдковски (систему человеческих ценностей, улучшенных посредством экстраполяции), моральную правильность (требование делать то, что морально правильно) и моральную допустимость (требование следовать последовательному экстраполированному волеизъявлению человечества, за исключением случаев, когда это морально недопустимо)⁶³.

Таким образом, равно как и в случае с Интернетом, глобальный и всеобъемлющий характер функционирующих на его основе технологий ИИ подразумевает потребность в решении связанных с ними вопросов как на международном (в том числе – региональном) уровне, так и на уровне отдельных стран; это в равной степени применимо как для этики, так и для права.

На международном уровне в ходе 41-й сессии Организации Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО), проходившей в Париже с 9 по 24 ноября 2021 г., было утверждено первое в мире рамочное соглашение об этике ИИ – Рекомендация об этических аспектах искусственного интеллекта⁶⁴. Работа над проектом аналогичного документа, но касающегося уже этики нейротехнологий, ведется Специальной экспертной группой – AHEG ЮНЕСКО с 22 апреля 2024 г.; планируется, что к сентябрю 2024 г. государствам-членам будет представлен первый проект нормативного акта, а в ноябре 2025 г. на 43-й сессии Генеральной конференции на рассмотрение будет вынесен окончательный текст Рекомендации⁶⁵. При их создании учитываются положения доклада Международного комитета ЮНЕСКО по биоэтике 2021 г. «Этические проблемы нейротехнологий»⁶⁶; в нем в числе прочего сообщается об угрозах, которые нейротехнологии представляют для прав и основных свобод, таких как целостность церебральной системы и личная идентичность.

Рекомендация об этических аспектах ИИ включает положения о том, что изложенные в ней этические принципы выступают в качестве гибкой основы для нормативной оценки, а также методического руководства в вопросах применения технологий на основе ИИ, рассматривая человеческое достоинство, благополучие человека и недопущение нанесения вреда как целевой ориентир. Указано, что развитие систем на основе ИИ поднимает этические вопросы нового типа, касающиеся, в частности, их влияния на процессы принятия решений, проблему занятости и рынок труда, взаимодействие между людьми в обществе, медицину, образование, средства информации, доступ к информации, цифровое неравенство, защиту персональных данных и потребителей, окружающую среду, демократию, верховенство закона, обеспечение безопасности и правопорядка, двойное использование, а также права человека и основные свободы, включая свободу выражения мнений, неприкосновенность частной жизни и отсутствие дискриминации.

При этом подчеркнуто, что некоторые из этих проблем обусловлены способностью ИИ-систем выполнять задачи, которые раньше были под силу только живым существам, а в ряде случаев – только человеку. В долгосрочной перспективе ИИ-системы смогут соперничать с человеком в его уникальной способности оценивать свой опыт и самостоятельно действовать, что поднимает новые вопросы, касающиеся среди прочего самосознания и самопознания человека, его взаимодействия с социумом, культурным окружением и природой, а также вопросы автономии, свободы действий, ценности и достоинства человека.

Также перечислены масштабные этические последствия применения систем на основе ИИ в основных областях деятельности ЮНЕСКО:

• в сфере образования – жизнь обществ в цифровую эпоху требует внедрения новых методов обучения, этического подхода, критического мышления, ответственных методов реализации и новых практических навыков с учетом влияния на рынок труда, возможности трудоустройства и участия граждан;

• в сфере науки (в ее самом широком смысле) – в связи с тем, что технологии на основе ИИ открывают новые исследовательские возможности и подходы, влияют на наши концепции научного понимания и объяснения окружающего мира и создают новую основу для принятия решений;

• в сфере культуры – поскольку ИИ-технологии способны как обогатить индустрию культуры и творчества, так и стать фактором концентрации предложения культурного контента, данных, рынков и доходов в руках весьма ограниченного круга хозяйствующих субъектов, что потенциально негативно отразится на разнообразии и плюрализме языков, средств информации, форм культурного самовыражения, на возможностях участия и обеспечении принципа равенства;

• в сфере коммуникации и информации – поскольку технологии на основе ИИ играют все более важную роль в обработке, структурировании и предоставлении информации, а роботизированная журналистика, алгоритмизация новостного контента, модерирование и курирование содержания в социальных сетях и поисковых системах – и это лишь некоторые примеры – поднимают вопросы в отношении доступа к информации, распространения недостоверной и заведомо ложной информации, языка ненависти, появления новых форм социальных стереотипов, дискриминации, свободы выражения мнений, неприкосновенности частной жизни, медийно-информационной грамотности и т. д.

Для решения возможных проблем и перечисленных этических последствий предложены следующие ценностные установки и принципы деятельности, которые должны, прежде всего, соблюдаться всеми заинтересованными сторонами на протяжении жизненного цикла ИИ-системы и по мере необходимости и целесообразности поощряться путем внесения изменений в действующее законодательство и новые законы, нормативные положения и руководящие принципы предпринимательской деятельности:

Ценностные установки:

• уважение, защита и поощрение прав человека и основных свобод и человеческого достоинства;

• благополучие окружающей среды и экосистем;

• обеспечение разнообразия и инклюзивности;

• жизнь в мирных, справедливых и взаимосвязанных обществах.

Принципы деятельности:

• соразмерность и непричинение вреда;

• безопасность и защищенность;

• справедливость и отказ от дискриминации;

• устойчивость развития;

• право на неприкосновенность частной жизни и защита данных;

• подконтрольность и подчиненность человеку;

• прозрачность и объяснимость;

• ответственность и подотчетность;

• осведомленность и грамотность;

• многостороннее и адаптивное управление и взаимодействие.

Что касается Рекомендаций по этике нейротехнологий, то данный документ пока находится на стадии проектирования и в завершенном виде еще не представлен для широкого обсуждения, однако уже сейчас отмечается, что, признавая преимущества таких технологий, ЮНЕСКО также предупреждает о потенциальных этических вопросах и проблемах, особенно связанных с неинвазивным вмешательством (ведь, в отличие от многих других передовых технологий, нейротехнологии потенциально могут напрямую получать доступ, манипулировать и имитировать структуру мозга, а вместе с этим и получать информацию о нашей личности). Такие технологии и ИИ становятся все более взаимосвязанными; темпы инноваций в этой области ускорились, а их стремительная конвергенция создает новые проблемы, влечет за собой этические и правовые последствия. Нейротехнологии в сочетании с ИИ легко могут поставить под угрозу понятия личности человека, человеческого достоинства, свободы мысли, независимости, психической неприкосновенности и благополучия; вызывать когнитивные искажения, непрошеные реакции и эмоции. Следовательно, это социальная, а не технологическая проблема; поэтому вызывает беспокойство отсутствие надежной международной нормативной основы для регулирования в этой области.

Этическое регулирование ИИ, имеющееся в России, можно вполне справедливо охарактеризовать как передовое. В 2021 г. был принят первый в своем роде Кодекс этики в сфере искусственного интеллекта⁶⁷ (подготовлен Альянсом в сфере искусственного интеллекта, Аналитическим центром при Правительстве Российской Федерации и Минэкономразвития России), устанавливающий стандарты поведения, которыми следует руководствоваться участникам отношений в сфере ИИ, а также следующие этические принципы:

• главный приоритет развития технологий ИИ – в защите интересов и прав людей и отдельного человека;

• необходимо осознавать ответственность при создании и использовании ИИ;

• ответственность за последствия применения систем ИИ всегда несет человек;

• технологии ИИ нужно применять по назначению и внедрять там, где это принесет пользу людям;

• интересы развития технологий ИИ выше интересов конкуренции;

• важна максимальная прозрачность и правдивость в информировании об уровне развития технологий ИИ, их возможностях и рисках.

На момент июля 2024 г. у данного Кодекса насчитывалось 387 подписантов, в числе которых – федеральные и региональные органы государственной власти, российские организации, а также зарубежные участники. По его подписании в Совете Федерации не раз был поднят вопрос о правовом регулировании применения технологий ИИ на его основе, с закреплением его положений в законе⁶⁸.

В числе подготовленных Альянсом в сфере искусственного интеллекта материалов, помимо упомянутого Кодекса, заслуживают внимания Декларация об ответственной разработке и использовании сервисов в сфере генеративного искусственного интеллекта⁶⁹, Этические рекомендации по применению рекомендательных технологий и алгоритмов, основанных на искусственном интеллекте, в цифровых сервисах⁷⁰, а также Этические рекомендации в области создания и использования цифровых имитаций живущих, умерших и несуществующих людей⁷¹.

Что касается разработки этических рекомендаций в сфере нейротехнологий, то в настоящее время такого рода документы в России пока отсутствуют; можно предположить, что работу над ними серьезно простимулирует (хотя нет оснований полагать, что разработка этических документов в данной области в России уже не ведется) обсуждение проекта и принятие в завершенном виде Рекомендаций по этике нейротехнологий ЮНЕСКО.

Итак, этическая основа для осуществления правового регулирования ИИ и нейротехнологий (хотя по вторым – еще на стадии становления) имеется как на международном уровне, так и в России. В отдельных аспектах (в первую очередь – касающихся информационной и медицинской деятельности) уже имеются нормы, регулирующие связанные с применением таких технологий общественные отношения, однако очевидно, что многие вопросы разработки и использования таких технологий надлежащего законодательного осмысления пока еще не получили⁷².

Международно-правовое регулирование ИИ и нейротехнологий находится в активном становлении; существует ряд международных актов, устанавливающих как общее регулирование вопросов научно-технического прогресса в информационной сфере, так и посвященных собственно рассматриваемым технологиям.

К первой категории может быть отнесена Окинавская хартия глобального информационного общества (Okinawa Charter on Global Information Society) от 22 июля 2000 г.⁷³ «Большой восьмерки» (G8), посвященная в числе прочего необходимости формирования нормативной базы, содействующей использованию возможностей цифровых технологий и всеобщему участию в нем.

Вторая категория представлена такими актами, как заявление министров экономики стран – участниц G20 (G20 Ministerial Statement on Trade and Digital Economy)⁷⁴ от 9 июня 2019 г., в котором от имени государств-участников «Большой двадцатки» (G20) были поддержаны следующие принципы развития ИИ, взятые из Рекомендаций по искусственному интеллекту Организации экономического сотрудничества и развития – ОЭСР (OECD Council Recommendation on Artificial Intelligence)⁷⁵ от 22 мая 2019 г.:

• «инклюзивного роста, устойчивого развития и благополучия»;

• «ценностей, ориентированных на человека, и справедливости»;

• «прозрачности и объяснимости»;

• «надежности, безопасности и сохранности»;

• «подотчетности».

В мае 2024 г. Совет Европы принял первый в истории международный юридически обязывающий договор, касающийся систем ИИ, – Рамочную конвенцию Совета Европы об искусственном интеллекте, правах человека, демократии и верховенстве права (Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law)⁷⁶, которая в числе прочего содержит основанный на оценке рисков подход к проектированию, разработке, использованию и выводу из эксплуатации систем ИИ, а также требование к каждому подписанту о создании независимого надзорного механизма для контроля за применением конвенции, а также повышении осведомленности, стимулировании информированных общественных обсуждений и проведении консультаций с участием различных заинтересованных сторон по вопросу о том, как следует использовать технологию ИИ.

Первым документом международно-правового характера, формулирующим стандарты развития нейротехнологий, являются Рекомендации ОЭСР по ответственным инновациям в нейротехнологиях (OECD Council Recommendation on Responsible Innovation in Neurotechnology)⁷⁷, утвержденные 11 декабря 2019 г. В них, в частности, содержатся рекомендация и призыв продвигать и внедрять следующие принципы ответственных инноваций в области нейротехнологий:

• содействие ответственным инновациям в области нейротехнологий для решения проблем здравоохранения;

• приоритет оценки безопасности при разработке и использовании нейротехнологий;

• содействие инклюзивности нейротехнологий для здравоохранения;

• поощрение научного сотрудничества в области нейротехнологических инноваций между странами, секторами и дисциплинами;

• обеспечение общественного обсуждения нейротехнологий;

• обеспечение возможностей надзорных и консультативных органов для решения новых проблем в области нейротехнологий;

• защиту персональных данных мозга и другой информации, полученной с помощью нейротехнологий;

• содействие развитию культуры управления и доверия к нейротехнологиям в государственном и частном секторах;

• предвидение и контроль возможного непреднамеренного и (или) неправильного использования нейротехнологий.

В 2020 г. Парламентской ассамблеей Совета Европы были приняты одноименные Рекомендация № 2184 и Резолюция № 2344 – «Интерфейс „мозг – компьютер“: новые права или новые угрозы основным свободам?» («The Brain-Computer Interface: New Rights or New Threats to Fundamental Freedoms?»)⁷⁸. В них в числе прочего отмечен быстрый прогресс нейротехнологий (в том числе их возможности регистрировать и непосредственно стимулировать нейронную активность, что благоприятствует созданию все более эффективных интерфейсов «мозг – компьютер» – ИМК). Хотя способность создавать симбиотическую связь между мозгом человека и цифровыми вычислительными системами (включая Интернет и системы ИИ), остается далекой перспективой, эту потенциально достижимую цель уже ставят перед собой исследователи и предприниматели.

Более эффектные гипотетические виды применения ИМК еще не имеют ясного будущего, однако существующие успехи и выделяемые на дальнейшие исследования ресурсы указывают на необходимость прогнозирования и опережающего регулирования ситуации (исходя из принципа предосторожности). Хотя значительные потенциальные преимущества нейротехнологий таковы, что прогресс и инновации не должны сдерживаться, исследования следует направлять в сторону от предсказуемо вредных или опасных областей к позитивным разновидностям применения, которые не угрожают достоинству, равенству и свободе личности.

В связи с этим в отношении разработки и применения нейротехнологий в целом и технологии ИМК в частности указывается на необходимость применения следующих принципов:

• полезности и предотвращения вредоносного использования;

• безопасности (как для пользователя, так и для общества в целом с точки зрения их предполагаемых или непреднамеренных последствий) и предосторожности (безопасность должна быть обеспечена еще до начала применения новых технологий);

• приватности и конфиденциальности (нейроданные должны быть защищены);

• потенциала и автономии (нейротехнологии не должны использоваться против воли субъекта или таким образом, что субъект оказывается лишен возможности свободно принимать решения);

• свободы действий и ответственности человека (нейротехнологии не должны мешать человеку действовать свободно и нести ответственность за свои действия);

• равенства, добросовестности и инклюзивности;

• обеспечения доверия общественности за счет открытости, обсуждений и обучения/просвещения.

Также подчеркнуто, что при оценке целесообразности создания правовой базы применения ИИ следует учитывать потенциально уникальное и беспрецедентное воздействие на права человека использования ИИ в системах интерфейса «мозг – компьютер». Ввиду потенциальной возможности нейротехнологий радикально изменить отношения между личностью человека и внешним миром возникает вопрос об уникальных и беспрецедентных угрозах основным ценностям, таким как права и достоинство человека, в связи с чем предложено установление и обеспечение правовой защитой новой категории прав человека – нейроправ.

Завершая обзор имеющегося международного правового регулирования, следует отметить, что в ОЭСР Россия не входит, а в Совете Европы (и, соответственно, в его Парламентской ассамблее) свое участие прекратила⁷⁹, поэтому акты данных организаций в отношении нее не действуют. Вместе с тем их положения представляют интерес, могут и должны учитываться и использоваться при разработке и совершенствовании внутренних нормативных правовых актов, регулирующих ИИ и нейротехнологии.

Говоря об отечественном нормативном правовом регулировании данных технологий, следует отметить, что оно лишь формируется, однако уже имеет обширную систему. Искусственный интеллект и нейротехнологии охватываются нормами права, регулирующими общественную жизнь и ее технологическую компоненту в целом; принимаются законы, позволяющие осуществлять конструирование экспериментальных правовых режимов, и подзаконные нормативные акты, регулирующие собственно нейротехнологии и ИИ, определяющие концептуальные основы, стратегические перспективы и основные направления их разработки, развития и применения. Правовое регулирование обозначенных технологий является отраслевым и межотраслевым, федеральным и региональным; на текущем этапе определяются основные подходы к изменению существующей российской системы нормативного регулирования, а также осуществляется формирование основ правового регулирования новых общественных отношений, складывающихся в связи с разработкой и применением взаимосвязанных нейротехнологий и ИИ.

Приведем перечень и краткую характеристику нормативных правовых актов, регулирующих данные технологии:

• Федеральный закон от 24 апреля 2020 г. № 123–ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона „О персональных данных“»⁸⁰; данный акт, установивший на пять лет экспериментальный правовой режим в целях создания необходимых условий для разработки и внедрения технологий ИИ в городе Москве, стал первым федеральным законом, урегулировавшим связанные с ИИ общественные отношения;

• Федеральный закон от 31 июля 2020 г. № 258–ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации»⁸¹; закон определяет цели и принципы экспериментальных правовых режимов в сфере цифровых инноваций, круг участников экспериментальных правовых режимов в сфере цифровых инноваций, а также регулирует отношения, связанные с их установлением и реализацией, в том числе изменением, приостановлением, прекращением, мониторингом, оценкой их эффективности и результативности;

• Федеральный закон от 8 июля 2024 г. № 169–ФЗ «О внесении изменений в Федеральный закон „Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации“»⁸²; урегулирует порядок рассмотрения случаев причинения вреда жизни, здоровью или имуществу человека либо имуществу юридического лица при реализации экспериментального правового режима в результате использования решений, разработанных с применением технологий ИИ, а также вводит требование об обязательном внесении положения о страховании гражданской ответственности за такой вред в программу экспериментального правового режима;

• Указ Президента Российской Федерации от 9 мая 2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017–2030-е годы»⁸³; утвержденная им Стратегия определяет цели, задачи и меры по реализации внутренней и внешней политики Российской Федерации в сфере применения информационных и коммуникационных технологий, направленные на развитие информационного общества, формирование национальной цифровой экономики, обеспечение национальных интересов и реализацию стратегических национальных приоритетов;

• Указ Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации»⁸⁴; утвержденной им Национальной стратегией развития искусственного интеллекта на период до 2030 года (положения которой будут подробно рассмотрены с следующем параграфе) определяются цели и основные задачи развития ИИ в Российской Федерации, а также меры, направленные на его использование для обеспечения национальных интересов и реализации стратегических национальных приоритетов, в том числе в области научно-технологического развития;

• Указ Президента Российской Федерации от 7 мая 2024 г. № 309 «О национальных целях развития Российской Федерации на период до 2030 года и на перспективу до 2036 года»⁸⁵; технологии ИИ прямо упоминаются в числе целевых показателей, выполнение которых характеризует достижение национальных целей «Технологическое лидерство» и «Цифровая трансформация государственного и муниципального управления, экономики и социальной сферы»;

• Указ Президента Российской Федерации от 18 июня 2024 г. № 529 «Об утверждении приоритетных направлений научно-технологического развития и перечня важнейших наукоемких технологий»⁸⁶, в котором нейротехнологии переведены из разряда сквозных технологий в разряд критических, в то время как технологии ИИ по-прежнему относятся к первой категории; ранее они фигурировали как единая сквозная технология⁸⁷;

• Указ Президента Российской Федерации от 28 февраля 2024 г. № 145 «О Стратегии научно-технологического развития Российской Федерации»⁸⁸, в котором в качестве одного из приоритетов научно-технологического развития упомянут переход к передовым технологиям проектирования и создания высокотехнологичной продукции (в числе прочего – к основанным на применении результатов обработки больших объемов данных, технологиям машинного обучения и ИИ);

• Постановление Правительства Российской Федерации от 28 октября 2020 г. № 1750 «Об утверждении перечня технологий, применяемых в рамках экспериментальных правовых режимов в сфере цифровых инноваций»⁸⁹; к числу таких технологий, применяемых в соответствии с положениями Федерального закона от 31 июля 2020 г. № 258–ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации», отнесены нейротехнологии и технологии ИИ (в том числе технологии в области компьютерного зрения, обработки естественного языка, распознавания и синтеза речи, машинных рекомендаций и поддержки принятия решений, нейропротезирования, нейроинтерфейсов, нейростимуляции), а также технологии робототехники и сенсорики (в том числе в области приборных и цифровых компонент робототехники для человеко-машинного взаимодействия, нейросенсорики);

• Постановление Правительства Российской Федерации от 29 сентября 2017 г. № 1184 «О порядке разработки и реализации планов мероприятий („дорожных карт“) по совершенствованию законодательства и устранению административных барьеров в целях обеспечения реализации Национальной технологической инициативы и внесении изменений в некоторые акты Правительства Российской Федерации» (вместе с Положением о разработке и реализации планов мероприятий [ «дорожных карт»] по совершенствованию законодательства и устранению административных барьеров в целях обеспечения реализации Национальной технологической инициативы)⁹⁰;

• Распоряжение Правительства Российской Федерации от 30 марта 2018 г. № 552-р «Об утверждении плана мероприятий („дорожной карты“) по совершенствованию законодательства и устранению административных барьеров в целях обеспечения реализации Национальной технологической инициативы по направлению „Нейронет“»⁹¹; реализация утвержденного плана мероприятий направлена на обеспечение приоритетных позиций российских компаний на формируемых глобальных рынках продукции и услуг в сфере средств человеко-машинных коммуникаций; ключевыми сферами направления плана мероприятий «Нейронет» являются развитие и продвижение продуктов, основанных на передовых разработках в нейротехнологиях и повышающих продуктивность человеко-машинных систем, производительность психических и мыслительных процессов, планируемых сегментов «Нейронет»: «Нейромедтехника», «Нейрофарма», «Нейрообразование», «Нейрокоммуникации», «Нейроразвлечения и Нейроспорт», «Нейроассистенты и искусственный интеллект», а также смежных технологий – виртуальной и дополненной реальностей, медицинской робототехники, сбора и обработки больших данных.

При этом подчеркнуто, что нормативно-правовые ограничения в рамках реализации данного плана мероприятий состоят в отсутствии правового и технического регулирования, необходимого для правового обеспечения вывода на рынок новых продуктов и выхода на рынок субъектов новых видов предпринимательской деятельности, для реализации новых бизнес-моделей, в отсутствии норм, обеспечивающих условия для разработки и продвижения передовых технологических решений, а также в существовании и применении нормативных правовых актов и документов по стандартизации, положения которых не отвечают современным научно-технологическим вызовам и приоритетам научно-технологического развития и сдерживают вывод на рынок новых продуктов и услуг по направлению Национальной технологической инициативы «Нейронет»;

• Распоряжение Правительства Российской Федерации от 19 августа 2020 г. № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года»⁹²; целями утвержденной Концепции являются: определение основных подходов к трансформации системы нормативного регулирования в Российской Федерации для обеспечения возможности создания и применения таких технологий в различных сферах экономики с соблюдением прав граждан и обеспечением безопасности личности, общества и государства; создание предпосылок для формирования основ правового регулирования новых общественных отношений, складывающихся в связи с разработкой и применением технологий ИИ и робототехники и систем на их основе; определение правовых барьеров, препятствующих разработке и применению указанных систем;

• Приказ Минэкономразвития России от 29 июня 2021 г. № 392 «Об утверждении критериев определения принадлежности проектов к проектам в сфере искусственного интеллекта»⁹³; данным документом технологии ИИ и иные технологии, основанные на их использовании, признаны базовыми для соответствующих проектов; кроме того, в нем подробно изложены соответствующие технологические задачи;

• Постановление Правительства Москвы от 3 декабря 2020 г. № 2134–ПП «Об утверждении Положения о реализации в городе Москве экспериментального правового режима в сфере применения технологий искусственного интеллекта»⁹⁴; принятое Положение определяет условия и порядок разработки, создания, внедрения, реализации, оборота отдельных технологий ИИ и производства, реализации, оборота отдельных товаров (работ, услуг) на основе указанных технологий, а также требования к указанным технологиям и (или) товарам (работам, услугам), случаи и порядок использования результатов применения ИИ, случаи обязательного применения и (или) учета результатов применения ИИ в деятельности органов исполнительной власти города Москвы и подведомственных им организаций.

Растет число экспериментальных правовых режимов, установленных в соответствии с Федеральным законом от 31 июля 2020 г. № 258–ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации»: на июль 2024 г. их четырнадцать⁹⁵, однако в скором времени данный перечень может пополниться – с принятием Проектов Постановлений Правительства Российской Федерации «Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении программы экспериментального правового режима в сфере цифровых инноваций по предоставлению транспортных услуг с использованием высокоавтоматизированных транспортных средств (трамваев)» (подготовлен Минэкономразвития России, ID проекта 01/01/02–24/00145742; постановление подписано 25 июля 2024 г., № 1006) и «Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации беспилотных авиационных систем в Новгородской области» (подготовлен Минэкономразвития России, ID проекта 01/01/06–24/00148300). Искусственный интеллект и нейротехнологии в экспериментальных правовых режимах идут в тандеме (что соответствует подходу, представленному в Постановлении Правительства Российской Федерации от 28 октября 2020 г. № 1750 «Об утверждении перечня технологий, применяемых в рамках экспериментальных правовых режимов в сфере цифровых инноваций»).

С развитием законодательства положения, регулирующие ИИ и нейротехнологии, будут включаться в такие нормативные правовые акты, как Конституция Российской Федерации⁹⁶ (к примеру, это касается конституционного закрепления новой категории прав – нейроправ⁹⁷, значимость которых отмечается на международном уровне), Уголовный кодекс Российской Федерации⁹⁸ (в части новых составов преступлений), Гражданский кодекс Российской Федерации⁹⁹ (например, касательно прав на результат работы ИИ или их субъектности), Федеральный закон от 27 июля 2006 г. № 149–ФЗ «Об информации, информационных технологиях и о защите информации»¹⁰⁰ и т. д.

Нами рассмотрено формирующееся законодательное и подзаконное регулирование нейротехнологий и ИИ, этические основы такого регулирования; далее рассмотрим данные технологии в контексте актов стратегического планирования.

Глава 3. Обоюдоострый ии: новый фактор риска для современной медиасреды

§ 3.1. Искусственный интеллект: суть технологии и риски для медиабезопасности

С момента возникновения термина «искусственный интеллект», предложенного Дж. Маккарти в 1956 г., идут дискуссии по поставленному им же вопросу: «Что такое искусственный интеллект»? Сам Маккарти считал, что это область науки и техники, занимающаяся созданием интеллектуальных машин, в особенности – интеллектуальных компьютерных программ; при этом он подчеркивал связь этой области с использованием компьютеров для исследования человеческого интеллекта, однако указывал, что работа над ИИ не обязательно должна ограничиваться подражанием/воспроизведением биологических структур и механизмов, их функционирования¹⁰¹.

Основные подходы к исследованию и построению ИИ делятся на символический и коннекционистский. Символический стремится воспроизвести интеллект путем анализа познания независимо от биологической структуры мозга с точки зрения обработки символов – его суть заключается в обучении на основе последовательного демонстрирования символов или целей изучения. Второй подход предполагает формирование искусственных нейронных сетей, имитирующих структуру мозга¹⁰².

Можно привести иные определения данного термина, как дополняющие, так и отличающиеся по подходу от вышеизложенного.

Например, в Толковом словаре по искусственному интеллекту¹⁰³ приведены следующие словарные значения данного понятия:

1) научное направление, в рамках которого ставятся и решаются задачи аппаратного или программного моделирования тех видов человеческой деятельности, которые традиционно считаются интеллектуальными;

2) свойство интеллектуальных систем выполнять функции (творческие), которые традиционно считаются прерогативой человека.

Обобщение иных определений, имеющихся в литературе:

• искусственный интеллект (ИИ) – это область компьютерных наук, которая изучает создание интеллектуальных систем, способных выполнять задачи, которые требуют человеческого интеллекта¹⁰⁴ / имитировать и расширять человеческие когнитивные функции¹⁰⁵;

• искусственный интеллект – это способность искусственных интеллектуальных систем проявлять когнитивные функции: обучаться, в том числе на собственном опыте, подстраиваться под заданные параметры и выполнять задачи, которые ранее были доступны только человеку (или высшим животным)¹⁰⁶;

• искусственный интеллект – это полностью или частично автономная самоорганизующая (самоорганизующаяся) компьютерно-аппаратно-программная виртуальная (virtual) или киберфизическая (cyber-physical), в том числе биокибернетическая (bio-cybernetic), система (юнит), наделенная/обладающая способностями и возможностями: распознавания образов, символьных систем и языков, рефлексии, рассуждения, моделирования, образного мышления, анализа и оценки; саморегулирования, самоадаптирования под изменяющиеся условия, самоограничения; поддержки накопления информации и опыта; обучения и самообучения; самостоятельного проведения самотестирований и тестирований компьютерной и, при возможности, физической реальности; антропоморфно-разумного самостоятельного (в том числе творческого) принятия решений и решения задач и проблем¹⁰⁷;

• искусственный интеллект – это способность машины или компьютерной системы выполнять задачи, для которых обычно требуется человеческий интеллект¹⁰⁸.

Имеется и уже упомянутое нормативное определение ИИ, понимаемого как комплекс технологических решений, позволяющий имитировать когнитивные функции человека, включая самообучение и поиск решений без заранее заданного алгоритма, и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека¹⁰⁹. Данное определение вызывает дискуссии в научной среде (к примеру, под него попадает калькулятор, поскольку он выполняет когнитивные функции человека – арифметические и тригонометрические вычисления, причем при их выполнении калькулятор получает результаты, во много раз превышающие результаты интеллектуальной деятельности человека; попугай, имитирующий человеческую речь, и т. д.)¹¹⁰.

Таким образом, можно выделить подходы к определению содержания термина «искусственный интеллект»:

• как способность программно-аппаратных систем осуществлять когнитивные функции (обладать интеллектом);

• как область/направление исследований и практической деятельности по созданию осуществляющих когнитивные функции (обладающих интеллектом) программно-аппаратных систем;

• как обозначение программно-аппаратных систем, способных осуществлять когнитивные функции (обладающих интеллектом).

Приведенные подходы имеют широкое распространение в различных вариациях (на обыденном уровне чаще всего встречается их комбинация), подразумевают различные ответы на вопрос о возможности ИИ, способах его создания и критериях оценки. Так или иначе, сложности в формировании общего подхода обусловлены в числе прочего отсутствием единого подхода к установлению его сущностных характеристик и, как следствие, единства в его понимании¹¹¹. Дискуссии о данной технологии в конечном счете всегда сводятся к обсуждению наиболее общих, нуждающихся в философском и лингвистическом осмыслении понятий – вопросам о том, что такое интеллект, соотношения интеллекта и разума, сознания; последние, если анализировать актуальные словарные значения, являются синонимами:

• интеллект – мыслительные способности человека, разум, уровень умственного развития;

• разум – познавательная деятельность человека, способность мыслить; ум, интеллект; рассудок¹¹².

Не вдаваясь в дальнейшею дискуссию, мы согласимся с подходом И. А. Филиповой, рассматривающей интеллект как проявление когнитивных способностей/функций (высших функций мозга, связывающих человека с окружающим миром, позволяющих получать представление о нем и взаимодействовать с ним: мышления, речи, обучаемости, ориентирования в пространстве и т. д.), то есть свойство психики человека, позволяющее ему правильно интерпретировать получаемые извне данные и адаптироваться к новым ситуациям¹¹³.

С появлением последней версии большой языковой модели (Large Language Model, LLM) ChatGPT – GPT–4, прошедшей¹¹⁴ тест Тьюринга (основной метод исследования ИИ на его способность мыслить как человек, заключающийся в слепом собеседовании испытующего с человеком и компьютером в формате вопрос-ответ¹¹⁵), исследователи и практики уже задаются вопросом не о том, возможен ли ИИ как таковой, а о том, какой ИИ возможен. В результате суммирования различных подходов к ИИ сообщество его разработчиков пришло к выводу о возможности его дифференциации по уровню когнитивных способностей: появилось деление на Narrow AI (узкий ИИ) или Weak AI (слабый ИИ), способный решать одну конкретную задачу и не обладающий общими когнитивными способностями, и на AGI (Artificial General Intelligence, или общий ИИ) или Strong AI (сильный ИИ), а также являющийся их частным случаем HLAI (Human-Level Artificial Intelligence, или ИИ человеческого уровня), соответствующий или превосходящий человеческие способности в широком спектре когнитивных задач¹¹⁶. Сущность сильного ИИ выражена в следующем определении: ИИ – это способность системы к самостоятельному формированию навыков (алгоритмов) выполнения задач, к которым она не была подготовлена заранее, на основе имеющихся у нее ранее сформированных навыков, знаний и накопленного опыта¹¹⁷.

Создание таких технологий в настоящее время подразумевает использование машинного обучения – алгоритмов анализа, задействуемых для обучения компьютерных систем данных с целью найти в них закономерности. Описанный метод позволяет получать программные комплексы, не являющиеся явно запрограммированными, а их обучение для решения конкретных задач может давать побочные эффекты в виде новых, не запланированных ранее, функций. Его разновидностью является глубокое обучение, осуществляемое по более сложным алгоритмам на большем объеме данных, что позволяет осуществлять обнаружение сложных закономерностей, давать точные и обоснованные прогнозы, получать информационные продукты более высокого качества.

Яркий пример – упомянутая выше большая языковая модель ChatGPT компании OpenAI, основанная на архитектуре генеративного предварительно обученного преобразователя (Generative Pretrained Transformer – GPT)¹¹⁸. Будучи обучена на внушительном массиве текстовых данных (десятки терабайт), она справляется с широким спектром задач обработки естественного языка, включая поиск информации и ответы на вопросы, машинный перевод, генерацию и суммирование (обобщение) текста. Глубокое обучение ChatGPT в числе прочего сформировало у нее способность определения контекста ведущегося диалога. Кроме того, она может быть настроена для решения конкретных задач, отвечающих уникальным потребностям пользователей в различных сферах деятельности (можно получить в ответ литературное произведение, статью или реферат на заданную тему, базовый программный код, сформировать резюме статьи, составить алгоритм оптимальных действий для достижения обозначенной цели и т. п.)¹¹⁹.

Как утверждает И. А. Каляев, в настоящее время процессы создания ИИ на базе компьютерных технологий развиваются по двум основным направлениям – логическому и нейроморфному: первый, реализующийся методами классического программирования, направлен на создание компьютерных систем, предназначенных для решения одной или некоторого ограниченного множества «интеллектуальных» задач (то есть – слабого/узкого ИИ). Нейроморфный же подход направлен на создание компьютерных систем, имитирующих работу человеческого мозга, а в конечном итоге – на создание его искусственного аналога. Вместе с тем упомянутый исследователь считает второй путь тупиковым для разработки ИИ человеческого уровня, подчеркивая, что их функционирование требует огромных вычислительных мощностей, в то время как большинство достижений существующих ИИ связано не с повышением «интеллекта» машин, а с ростом их быстродействия и, как следствие, возможностями обработки все больших массивов данных за меньший промежуток времени¹²⁰.

Подчеркивая развитость формальной языковой компетенции ИИ (что делает их хорошим инструментом обработки естественного языка), исследователи указывают на отсутствие у них функциональной языковой компетенции (множества когнитивных способностей, таких как понимание, знание мира, анализ контекста и т. д.)¹²¹. У ИИ нет целеполагания, он работает и выдает результат по запросам пользователя (так называемым промтам, от англ. prompt – запрос, подсказка). Результаты не являются окончательными, не могут быть оценены ИИ на предмет достоверности (ввиду ограниченности его картины мира, сформированной в результате целенаправленного обучения на конкретной совокупности данных) и нуждаются в дальнейшей проверке и доработке пользователем. Сейчас ИИ могут использоваться как помощники, ассистенты, но не как основные исполнители, тем более в работе, требующей специальных компетенций (знаний и навыков) и профессионального опыта. Хотя существующие большие языковые модели в их текущей версии специалистами преимущественно считаются далекими по уровню когнитивных способностей от AGI (иногда даже тупиковой ветвью развития ИИ), они рассматриваются как его возможный элемент¹²²; дальнейшие попытки разработки ИИ такого уровня предлагается реализовывать путем создания модульной структуры, воспроизводящей мозг человека и включающей как нейросети для обработки естественного языка, так и нейросети, обеспечивающие иные когнитивные функции (восприятие, рассуждение и т. д.)¹²³.

Технологии ИИ могут быть приложены к любой сфере, поэтому все, у кого есть такая возможность, занялись их разработкой и внедрением (в немалой степени из-за боязни проиграть в конкурентной борьбе). Несмотря на критику подхода, все же пока большинство разработок в области ИИ идут по второму (нейроморфному) пути – создания нейросетей посредством машинного обучения. Прорывным этапом в развитии ИИ, как уже было отмечено ранее, стали большие языковые модели; именно они являются флагманом в процессе работы над генеративным ИИ (определяемым как система, которая при использовании технологий ИИ создает новые и оригинальные текст, изображение, аудио- или видеодокумент на основании конкретного пользовательского запроса¹²⁴) во всех его проявлениях. Приведем краткую классификацию генеративных моделей по функциональному признаку¹²⁵.

Таблица 2

Классификация генеративных моделей по выполняемой функции

Как любой инструмент, технологии генеративного ИИ могут быть использованы для достижения как благих, так и предосудительных целей. По данным системы мониторинга ОЭСР, за последние десять лет, с распространением систем ИИ, имеется устойчивая тенденция к увеличению числа связанных с ними инцидентов и угроз; после возникновения больших языковых моделей типа GPT их число резко возросло на порядки.

Рис. 1. Визуализация инцидентов и опасностей, связанных с ИИ¹²⁶

Согласно сводной статистике инцидентов и опасностей, связанных с ИИ, их общее количество за весь период наблюдений составило 12 289 (пиковое значение в 838 событий пришлось на февраль 2024 г.); данные о них были получены в результате автоматизированного анализа 67 534 публикаций авторитетных международных СМИ по всему миру (в среднем на один инцидент приходится 5–6 публикаций). Эти показатели наглядно свидетельствуют о распространенности и значении связанных с ИИ событий, способных привести к причинению различного вреда личности, обществу и государству.

С помощью генеративных технологий ИИ сегодня в мире совершается множество так называемых речевых преступлений (преступлений, совершаемых посредством речевых действий, криминализированных в национальном законодательстве), которые до недавнего времени не предполагали возможности подмены вербального продукта в рамках естественного человеческого общения ложным контентом, созданным ИИ, чат-ботами и прочими роботизированными устройствами. К числу таковых можно отнести большинство преступлений, совершаемых посредством речевых действий (вымогательство, шантаж, клевету, оскорбление, призывы к противоправным действиям, словесный экстремизм, призывы и подстрекательство к насилию, угрозы, оправдание и обоснование терроризма и т. п.).

Некоторые генеративные технологии ИИ изначально создаются для криминальной деятельности; яркий пример – не имевший этических границ или ограничений WormGPT, обученный на массиве данных, связанных с вредоносным программным обеспечением (ПО)¹²⁷. В научных обзорах, посвященных проблематике противоправного применения генеративного ИИ, отмечается, что после того, как технология WormGPT была закрыта для использования, преступники сосредоточились не на разработке собственных новых нейросетей (так как это долго, дорого и рискованно), а на использовании для совершения преступлений (преимущественно в рамках компьютерно-опосредованной коммуникации) возможностей уже существующих и широко доступных генеративных технологий ИИ (таких, как ChatGPT); выделяют следующие способы их использования преступниками¹²⁸:

• создание писем для фишинговых рассылок;

• создание глубоких подделок (дипфейков);

• обход систем идентификации человека по биометрическим данным;

• поиск опубликованных или получение новых персональных данных и иной конфиденциальной информации о человеке (доксинг); в том числе за счет решения генеративным ИИ диагностических задач, направленных на установление пола, возраста, местоположения и иных параметров¹²⁹;

• осуществление коммуникации между преступниками из разных стран и налаживание связей в рамках транснациональной преступности;

• создание пропагандистских, радикализирующих и экстремистских информационных материалов для их последующего распространения¹³⁰;

• поиск и обобщение противоправной информации (например, об изготовлении оружия и боеприпасов, тактике совершения террористических актов и т. д.).

Деяния, совершаемые с использованием генеративных ИИ, могут быть квалифицированы как преступления в соответствии со ст. 110–110.2, 119, 128.1, 135, 137, 138, 146, ч. 1 ст. 148, ст. 150, 158–159, 163, 183, 185.6, 205.1–205.2, 205.4–205.5, 207–207.3, 212, 221, 229, 230, 233, 239, 242–242.1, 272–273, 274.1, 275–276, 280–280.1, 280.3–280.4, 281.1, 282–282.2, 282.4, 283.1, 284.1–284.2, 288, 296–297, 298.1, 306–307, 310, 319, 336, 354–354.1, 361 Уголовного кодекса Российской Федерации; преимущественно речь идет о корыстных преступлениях (в первую очередь – мошенничестве) и преступлениях, связанных с незаконным (ограниченным или запрещенным) оборотом недостоверной и иной информации. Как можно заметить, этот перечень весьма объемный, и это без учета того, что генеративные нейросети могут быть элементом механизма иных преступлений (например, использоваться при подготовке или сокрытии убийств, террористических актов и т. д.), а также административных правонарушений и гражданских деликтов.

Хотя разработчики и предпринимают меры по ограничению возможностей применения генеративных моделей в противоправных целях (к примеру, для поиска и анализа информации, оборот которой ограничен законом), способность ИИ к самообучению и постоянный «творческий поиск» злоумышленников приводят к возникновению и обнаружению новых способов обхода или взлома подобных программных ограничений – так называемых джейлбрейков (от англ. jailbreak – побег из тюрьмы). Широкий функционал систем ИИ делает возможным злоупотребление, то есть аморальное или противозаконное использование их возможностей не предусмотренным разработчиком способом и (или) с обходом установленных ограничений. Можно привести следующие примеры таких злоупотреблений по сферам человеческой жизнедеятельности:

• в образовании: экзамены, домашняя и самостоятельная работа могут выполняться с использованием последних версий GPT (GPT–4), способных качественно перефразировать текст либо генерировать его по запросу, что ставит новые задачи по трансформации образовательной системой в части оценки текущего контроля успеваемости, промежуточной и итоговой аттестации;

• в науке: недобросовестное использование нейросетей может привести к увеличению числа публикаций низкого научного уровня, содержащих логические ошибки, недостоверные данные или необоснованные выводы; кроме того, использование ИИ облегчает плагиат чужих работ в части содержания;

• в искусстве: воспроизведение стиля автора/исполнителя/художника/композитора/любого иного творца с использованием систем ИИ, обученных на массиве его работ; плагиат, создание информационных материалов, нарушающих закон / понижающих общий культурный фон и (или) не соответствующих традиционным российским духовно-нравственным ценностям;

• в журналистике и массовых коммуникациях: дезинформирование, маскировка искусственной общественной поддержки и манипулирование общественным сознанием с использованием недостоверной информации (фейков); формирование предубеждений и неприятия альтернативных точек зрения с использованием эхокамер и туннелей реальности (погружение человека во внутренне непротиворечивую, однако искусственно созданную информационную среду, наполненную специально сгенерированными или подобранными информационными материалами определенной тематики, содержащими желаемую оценку фактов);

• в рекламе: осуществляемый с использованием ИИ скрытый/замаскированный сбор и анализ пользовательских данных для дальнейшего использования в маркетинговых целях (в числе прочего установление предпочтений потребителей позволяет продвигать среди них некачественные/незаконные товары и услуги);

• в экономике: мошенничество, поиск и анализ конфиденциальной (в том числе инсайдерской) информации, манипулирование рынком;

• в политике: дискредитация или распространение недостоверных сведений о политиках, государственных органах, политических институтах и институтах гражданского общества.

Итак, использование подобных технологий на государством, а также в политических или маркетинговых целях способно привести к качественно новому уровню манипуляций общественным сознанием на основе массированной генерации и доставки высокореалистичного текстового, аудио- и видеоконтента заданной направленности; превосходство в гибридных и информационных войнах окажется за тем, кто сможет и захочет превратить эти технологии в оружие¹³¹. Цифровые площадки наводнил информационный шум (мусор) – низкокачественный, недостоверный контент, количество которого растет в геометрической прогрессии (что особенно критично для поисковых сервисов, торговых площадок и средств массовой коммуникации, таких как почтовые сервисы, соцсети, мессенджеры и т. д.)¹³². Контент искусственного происхождения является основным фактором фейковизации медиасреды; если сейчас еще можно установить искусственный источник происхождения «на глаз», по артефактам и конфабуляциям («галлюцинациям») нейросети (недостоверной информации, выдуманной нейросетью, не входящей в корпус обучения и не подтверждающейся реальностью и иными источниками), то возможность решения подобных задач без специальных средств и знаний в будущем, с дальнейшим совершенствованием и глубоким рекурсивным обучением ИИ – под большим вопросом.

В этой связи сегодня приоритетными становятся криминалистические речеведческие знания, позволяющие не только выявлять в интернет-среде следы речевых преступлений, но и осуществлять их фиксацию, изъятие и исследование в целях установления обстоятельств, подлежащих доказыванию по уголовному делу или делу об административных правонарушениях.

Следует признать, что закономерности возникновения и распространения искусственно генерированных с помощью компьютерных технологий речевых сообщений в сравнении с естественными продуктами речевой деятельности человека в криминалистике изучены слабо. Научные публикации по данному вопросу носят либо сугубо технический, либо гуманитарный (в основном филологический) характер.

В то же время разработка новых криминалистических технологий, унификация и стандартизация научно-методических подходов криминалистического исследования речевых следов (и шире – следов информационно-коммуникативной деятельности в медиасреде) в условиях угрозы бесконтрольного распространения технологий ИИ жизненно необходимы для обеспечения безопасности любого национального государства и в целом мирового сообщества. Вопросы о сущности и значении речевого следа как материального носителя криминалистически значимой информации, специфики объектов речеведения, соотношения фоноскопической, автороведческой и лингвистической экспертиз, а также многие другие заслуживают самостоятельного глубокого изучения.

Поэтому необходимо разрабатывать научное обеспечение для противодействия злоупотреблениям ИИ и преступлениям, совершаемым с использованием таких систем. Криминалистика обладает объемным инструментарием научно-технических средств, позволяющих устанавливать факт использования ИИ при планировании, совершении преступления, заключающегося в информационно-коммуникативных действиях, и сокрытии его следов. Учитывая особую среду совершения (информационное пространство) и коммуникативный (мультимодальный) характер таких действий, наряду с техническими исследованиями (аудио- и видеозаписей, документов и т. д.) большое значение приобретают исследования следов подобной преступной деятельности, осуществляемые с позиций криминалистического речеведения. Последнее представляется частной криминалистической теорией, консолидирующей и развивающей положения уже существующих отраслей криминалистической техники (криминалистической фоноскопии, криминалистического автороведения и другие), а также, по необходимости, разрабатывающей новые положения относительно задач, которые в русле традиционной криминалистики ранее не ставились и не решались (наиболее показательный пример – лингвистические исследования, получившие широкое распространение в 1990-х гг.).

Речевые следы фиксируются на материальном носителе, в качестве которого может выступать любой материальный объект (аналоговый, электронно-цифровой), пригодный для запечатления речевых следов в буквенной, звуковой, поликодовой форме выражения передаваемой информации. Для криминалистики интерес представляет не только содержательная сторона (содержащаяся в речевом следе информация), но и формальная, отражающая языковую, функционально-стилистическую характеристику сообщения. Для криминалистического исследования речевых следов (в фоноскопической, автороведческой, лингвистической экспертизах) необходимы специальные речеведческие знания. Они также востребованы для поиска, обнаружения, фиксации, изъятия и исследования речевых следов в целях установления криминалистически значимой информации о преступлениях (правонарушениях), совершаемых в телекоммуникационной среде посредством информационно-коммуникативного действия с использованием языкового и иного семиотического кода.

Криминалистическое исследование речевых следов опирается на положение о том, что речь человека представляет собой значимый источник информации о разнообразных признаках, характеризующих говорящего или пишущего (печатающего текст на клавиатуре или ином устройстве ввода информации в компьютер), об условиях и обстоятельствах речепорождения, необходимых для раскрытия, расследования и предупреждения преступлений.

Приоритетная потребность криминалистики в речеведческих знаниях, позволяющих устанавливать факты и логические взаимосвязи расследуемого коммуникативного события, объясняется развитием информационных технологий, применение которых трансформирует продукты речевой деятельности человека в знаковые следы сложной человеко-машинной природы, изучение которых возможно только на основе синтеза естественно-научных знаний о речемыслительной деятельности человека, об алгоритмах машинного обучения, о закономерностях отражения в речевых следах свойств личности, динамической устойчивости, вариативной изменчивости признаков речевой индивидуализации человека. Знания в области криминалистического речеведения позволяют оптимизировать экспертные методики фоноскопической, автороведческой, лингвистической экспертиз, входящих в класс речеведческих экспертиз, особенно при изучении машинно-генерируемых речевых объектов, имитирующих естественную речь человека, для их диагностики.

Однако не все ученые и практики осознают сложность изучения речевой деятельности человека в аспекте ее криминальной имитации, в том числе с использованием современных компьютерных технологий. Зачастую криминалисты упоминают только технические аспекты выявления подделок изображения или голосового подлога, не отдавая должного отражению в речевых следах когнитивных навыков речемыслительной деятельности человека, наиболее сложных для подражания как другим человеком, так и с помощью ИИ.

Таким образом, речевые следы могут быть запечатлены на любом материальном носителе в виде письменного (печатного, электронного, рукописного) текста (в том числе поликодового), звучащей речи на аудио- или видеофонограмме.

Криминалистическое речеведение включает в себя систему знаний о продуктах речи в условиях естественного речепорождения и искусственной (машинной) генерации (синтеза) текста, а также об особенностях поиска, обнаружения, фиксации, изъятия и исследования речевых следов и генерированных ИИ, имитирующих естественную речь человека; как отрасль криминалистической техники, изучает закономерности механизма образования речевых следов преступной деятельности, на основании которых разрабатываются методы их исследования в целях раскрытия, расследования и предупреждения преступлений.

В структуру криминалистического речеведения, как отрасли криминалистической техники, входят основные разделы: 1) общие положения криминалистического речеведения; 2) криминалистическое исследование речевог о следа как продукта речевой деятельности человека; 3) криминалистическое исследование имитирующего речевой след человека продукта искусственного происхождения (синтезированной речи), в том числе генерированного с помощью технологий ИИ (генеративного ИИ).

Ввиду того, что совершаемые с использованием генеративного ИИ действия отражаются в информационных продуктах, распространяемых с использованием цифровой электроники среди неопределенного круга лиц через функционирующие на основе информационно-телекоммуникационных сетей (как отмечается в литературе, такие результаты использования генеративных ИИ, как дипфейк, вряд ли вообще можно представить вне сетевого пространства¹³³) средства массовой коммуникации (социальные сети, такие как «ВКонтакте», «Одноклассники» и др.; системы мгновенного обмена сообщениями – Telegram, WhatsApp, Viber и др.; иные ресурсы – форумы, видеохостинги, почтовые сервисы и т. д.), можно говорить о сходстве механизма данных преступлений, в том числе в части механизма следообразования. Исследование с позиций криминалистического речеведения содержащихся в сгенерированных ИИ информационных продуктах следов преступлений данной группы в числе прочего позволяет охарактеризовать источник их происхождения как искусственный (текст или аудио-, видео- или письменное сообщение, созданное (генерированное) самообучающейся компьютерной программой). В качестве примера можно привести следующие диагностические признаки текста, полученного в результате использования генеративного ИИ:

• повторы словосочетаний и слов;

• повторение одной и той же мысли в разных предложениях;

• отсутствие когерентности текста (нарушена его семантическая связность);

• пунктуационные ошибки;

• поверхностные (семантически опустошенные) примеры;

• искажение фактов, наличие недостоверной информации и т. д.

Ввиду наличия проблем, которые могут возникать при расследовании преступлений рассматриваемой категории из-за необходимости работать с нетипичными источниками криминалистически значимой информации, необходимо активное использование как специальных знаний в области речеведения (применение их носителями в предусмотренных законом формах), так и разрабатываемых на их основе / с их использованием криминалистических средств. К числу таких криминалистических средств, разрабатываемых субъектами применения специальных речеведческих знаний, можно отнести¹³⁴:

• методики и алгоритмы работы с информационными продуктами в цифровой форме;

• криминалистические диагностические комплексы (КДК)¹³⁵;

• средства распознавания копий (в том числе замаскированных) речевых продуктов противоправного характера (актуально для выявления материалов, внесенных в список экстремистских, фейковой информации и т. д.);

• программы, позволяющие осуществлять автоматизированное предварительное исследование источников криминалистически значимой информации (имеющих цифровую форму представления речевых и иных информационных продуктов);

• автоматизированные системы выявления преступлений, совершаемых в цифровой медиасреде (мониторинг – система постоянного наблюдения и парсинг – автоматизированный сбор и структурирование информации);

• автоматизированные системы цифрового профилирования лиц (определение их социально-демографических характеристик), в том числе совершающих преступления в цифровой медиасреде, на основе имеющейся в сети Интернет общедоступной информации;

• базы данных, связанные с перечисленными выше криминалистическими средствами;

• иные перспективные разработки.

В правоохранительной деятельности применение перечисленных средств может сочетаться с использованием инновационных криминалистических средств, в том числе специально разработанных ИИ (которые также активно внедряются в правоохранительную деятельность¹³⁶ и могут использоваться для обнаружения и противодействия преступлениям, совершаемым с использованием генеративного ИИ).

Криминалистика, будучи прикладной юридической наукой синтетической природы, агрегирующей и адаптирующей передовые достижения иных (в первую очередь естественных и точных) наук для решения своих задач по обеспечению эффективной правоохранительной деятельности, связанной с раскрытием, расследованием и предупреждением преступлений, находится на острие перспективных исследований и в настоящее время, в условиях меняющегося мира и связанных с его изменениями больших вызовов, способна выполнять для иных наук юридического цикла методологическую функцию по формированию концептуальных подходов к новым (или существенно трансформировавшимся) явлениям.

К такого рода новым явлениям, нуждающимся в подробном и основательном юридическом осмыслении, может быть в высшей степени обоснованно отнесен ИИ, в том числе генеративный ИИ, ставший прорывом, продемонстрировавшим всему миру, что ИИ – это уже элемент не столько научной фантастики, сколько реальной современной жизни. Данная технология имеет широкие возможности как для правомерного, так и для противоправного применения (в том числе потенциально независимо от человеческой воли). Риски причинения вреда охраняемым законом общественным отношениям в результате использования генеративного ИИ имеют место преимущественно в рамках компьютерно-опосредованной коммуникации; эти риски меняют ландшафт угроз и нуждаются в своевременном осмыслении. Представляется, что чаще всего данная технология используется для осуществления преступлений, совершаемых посредством обмана и манипулирования информацией – мошенничеств, распространения недостоверной информации, вовлечения в экстремистскую (в том числе террористическую) деятельность и т. д. Этому способствуют широкие возможности генеративного ИИ по созданию различных информационных продуктов с помощью компьютерных моделей (технологий): текстов, аудио- и видеозаписей, изображений, компьютерных программ и т. д., в том числе вымышленного (ложного) содержания.

Работа генеративного ИИ подразумевает специфический механизм следообразования при совершении преступлений в ходе компьютерно-опосредованной коммуникации и выражается в криминалистически (в первую очередь диагностически) значимых признаках (криминалистических диагностических комплексах). Установление этих признаков возможно за счет применения криминалистических знаний и использования криминалистических средств; представляется, что в качестве наиболее перспективного и релевантного источника данных ресурсов научно-технического обеспечения правоохранительной деятельности может выступать частная криминалистическая теория – криминалистическое речеведение. Вместе с тем средства выявления злоупотреблений и правонарушений с использованием ИИ вовсе не ограничиваются инструментарием криминалистических средств; активно ведутся и «гражданские» разработки, рассчитанные на широкую аудиторию.

Раз уж нейросети используются для нарушений этики и права, то закономерно для обнаружения и борьбы с такими нарушениями также использовать средства ИИ. К примеру, для той самой задачи установления искусственного происхождения информационного продукта разрабатываются так называемые ИИ-детекторы – как самими разработчиками больших языковых моделей¹³⁷, так и иными участниками рынка (например, отечественным разработчиком АО «Антиплагиат»¹³⁸). Вместе с тем данные инструменты пока далеки от совершенства, в связи с чем возможны как ложные срабатывания (за продукт генерации может быть принят текст, написанный человеком), так и пропуски цели (сгенерированные тексты не всегда распознаются); надо полагать, что эти проблемы в дальнейшем могут быть если не решены полностью, то минимизированы.

Еще одним заслуживающим внимание инструментом является недавно разработанная русскоязычная платформа для оценки генеративных нейросетей – LLM Arena¹³⁹, предлагающая бесплатный доступ к различным нейросетям (в том числе YandexGPT и GigaChat) и позволяющая пользователям сравнивать (как анонимно, так и с предварительным выбором модели) их текстовые ответы, формируя объективный рейтинг; в дальнейшем планируется добавить мультимодальную арену для еще более детальной оценки. Данный сервис сам по себе является исследовательским и позволяет как определить точность и фактическую верность результатов работы разных моделей, так и прощупать почву на предмет возможных злоупотреблений: в числе прочего он может генерировать оскорбительный контент, однако использовать его для любых незаконных, вредоносных, насильственных, расистских или сексуальных целей нельзя (на что прямо указано в условиях использования сервиса).

Итак, в данном параграфе было осуществлено подробное рассмотрение общих положений, касающихся подходов к пониманию ИИ, методик его создания и перспектив развития, а также анализа связанных с данной технологией рисков для медиабезопасности и средств противодействия им. В дальнейшем мы уделим внимание только специальным аспектам возможных злоупотреблений ИИ в контексте функционирования отдельных технологий, основанных на его использовании (таких, как обработка естественного языка, распознавание и синтез речи; интеллектуальная поддержка принятия решений; компьютерное зрение).

§ 3.2. Технологии компьютерной обработки естественного языка, распознавания и синтеза речи; злоупотребление ими

Согласно глоссарию Дорожной карты развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект», обработка естественного языка представляет собой систему решений, направленных на понимание языка и генерацию грамотного текста, а также создание более удобной формы взаимодействия компьютера и человека, в то время как распознавание и синтез речи представляют собой систему решений, позволяющих осуществлять перевод речевого запроса в текстовый вид, в том числе анализ тембра и тональности голоса, распознавание эмоций¹⁴⁰.

Описываемые в данном параграфе технологии – основные и в то же время наиболее значимые для работы современных систем ИИ, прямо либо косвенно используемых в медиакоммуникации. Получившие широкое распространение большие языковые модели (Large Language Models, LLM) изначально создавались для обработки и генерации речевых продуктов на естественном языке; их мультимодальные варианты (Multimodal Large Language Models, MLLM), имеющие более широкий функционал и работающие не только с текстом, но и с информацией в иной форме (изображениями, аудио- и видеозаписями и т. д.), также опираются на технологии обработки естественного языка, распознавания и синтеза речи (к примеру, именно они делают возможным создание изображения или видео по текстовому описанию).

Научная и практическая основа деятельности по их созданию – математика, информатика и программирование, а также прикладная и математическая лингвистика. Основной формой обработки информации является вербальная (во всяком случае пока не получили планируемого развития и широкого распространения технологии нейрокоммуникации). Информация, представленная в иной форме, при ее анализе всегда вербализуется (человеком – в формате естественного языка, компьютером – в формате искусственного языка программирования). Кроме того, активно развиваются решения в области голосовых интерфейсов, облегчающих взаимодействие человека с компьютером при вводе информации, осуществлении поисковых запросов и т. д. Именно по этой причине в основе современных ИИ зачастую лежат такие технологии, как обработка естественного языка, а также распознавание и синтез речи.

Обработка естественного языка (Natural Language Processing, NLP) – это общая проблемная область перечисленных выше наук и научных дисциплин, посвященная способности к устной и письменной речи, а также работе с речевыми продуктами в различной форме. Компьютеры, программная составляющая которых функционирует на разноуровневых искусственных языках программирования, изначально не способны к работе с естественными языками, являющимися основным средством для осуществления коммуникативной и когнитивной функций речевой деятельности человека. Взаимодействие человека с компьютером подразумевает необходимость либо продвинутого знания языков программирования (а еще лучше и физико-технических основ функционирования его аппаратной составляющей), либо наличия пользовательского интерфейса, адаптированного для использования человеком.

Основными направлениями обработки естественного языка являются¹⁴¹:

• распознавание речи (Speech Recognition);

• понимание естественного языка (Natural Language Understanding);

• генерация естественного языка (Natural Language Generation), т. е. синтез речи.

Первая и третья технологии в нормативных актах рассматриваются как самостоятельные и будут описаны ниже. Вместе с тем они тесно взаимосвязаны с описываемой технологией и в генеративных ИИ (в первую очередь больших языковых моделях) идут в тандеме.

Происходит своего рода аналогово-цифровое преобразование: информация, представленная человеком на естественном языке и содержащаяся в продукте устной/письменной речи (представляющем собой неструктурированные данные), конвертируется в машиночитаемую форму и алгоритмически обрабатывается для решения задач фиксации или поиска информации, ответов на вопросы, машинного перевода, генерации и суммирования (обобщения) текста и т. д. Иными словами, это позволяет компьютерным системам взаимодействовать с людьми на естественном языке и выполнять задачи, связанные с обработкой текста; и если ранее это приходилось решать путем написания сложной программы, то с распространением машинного (и особенно глубокого) обучения в этой области имеется серьезный прогресс, наглядно заметный на примере моделей типа GPT–3 (качество машинной обработки языка для некоторых задач приблизилось вплотную к человеческому уровню).

В «Перечне технологических задач, на реализацию которых может быть направлен проект в сфере искусственного интеллекта», являющемся приложением к утвержденным Приказом Минэкономразвития России от 29 июня 2021 г. № 392 Критериям определения принадлежности проектов к проектам в сфере искусственного интеллекта¹⁴², приводятся следующие задачи, связанные с обработкой естественного языка:

• классификация и кластеризация отдельных высказываний, коротких и длинных текстов;

• поиск и классификация различных типов сущностей в тексте, включая названия организаций и имена персоналий;

• извлечение фактов из текстов и их систематизация, в том числе автоматическое обучение онтологий;

• машинный перевод;

• задачи диалогового интеллекта, в том числе:

а) подбор следующей реплики в диалоге на основе контекста;

б) генерация следующей реплики в диалоге;

в) ведение контекстно зависимого диалога;

• задачи интеллектуального информационного поиска, в том числе:

а) поиск текстовых документов по аналогии или по смыслу, поиск трендов и будущих ориентиров научно-технологического развития, поиск скрытого содержания и смыслов;

б) поиск, выявление и классификация рекламы, информации, противоречащей действительности, запрещенной, идеологизированной, а также заведомо недостоверной общественно значимой информации, распространяемой под видом достоверных сообщений, и иной недостоверной общественно значимой информации, в том числе автоматически сгенерированной;

• сбор и аннотация данных для задач обработки и понимания естественного языка;

• распознавание лингвистических, в том числе орфографических, грамматических и речевых, ошибок, сленга и аббревиатур с учетом контекста, в том числе для улучшения текущих решений (включая создание чат-ботов и ассистентов);

• определение смысловых ошибок в тексте, в том числе логических и фактологических;

• группировка информации и построение блок-схем на основании текстовых данных и анализа возможных нарушений логики с учетом контекста (истории взаимодействия);

• распознавание различных литературных приемов и стилей, в том числе для использования в автоматических системах литературного, технического и делового перевода;

• динамическое распознавание смысла (распознавание до получения законченного предложения или абзаца), в том числе для внедрения в системы автоматического синхронного перевода на основе ИИ;

• выделение наиболее важной информации из контекста и синтез уникальных текстов, в том числе для автоматической и полуавтоматической суммаризации (аннотирования, реферирования) текстов, для создания ассистентов полуавтоматической генерации контента, для синтеза субтитров и сурдоперевода, аннотирования изображений и видеозаписей, включая распознавание эмоциональных оттенков и субэмоций речи и текста, в том числе в целях формирования психографического портрета.

Основные типы обработки естественного языка¹⁴³:

• машинный перевод (Machine Translation): перевод текста с одного языка на другой. Эта технология лежит в основе таких приложений для перевода, как Google Translate или «Яндекс Переводчик»;

• анализ настроений (Sentiment Analysis): извлечение данных из контекста (часто «большого текста», big text) и оценка того, являются ли эти данные эмоционально отрицательными или положительными;

• семантический поиск (Semantic Search): тесно связанная с распознаванием речи технология, которая позволяет задавать вопросы голосовым помощникам как при разговоре с другим человеком;

• программирование на естественном языке (Natural Language Programming): это инструменты, которые позволяют пользователям создавать приложения и программное обеспечение, используя команды на естественном языке (вместо программирования традиционным способом);

• аффективные вычисления (Affective Computing): использование NLP и других технологий для понимания и воспроизведения человеческих эмоций;

• распознавание речи (Speech Recognition): преобразование произнесенных слов в данные, которые может понять компьютер. Это NLP-технология, которая используется в голосовых помощниках типа Siri, «Алиса», Cortana, Echo или Google Assistant;

• синтез речи – вывод информации на естественном языке (Natural Language Generation): эта технология используется, когда «Алиса», Siri или Cortana отвечают на вопрос пользователя.

Перечисленные выше задачи рассматриваемой технологии в настоящее время реализуются преимущественно с использованием специально обученных нейросетей, лежащих в том числе в основании диалоговых систем ИИ; для них особенно значимы последние два типа обработки естественного языка, обладающие ярко выраженной спецификой и реализуемые посредством самостоятельных одноименных технологий ИИ.

Технологии распознавания и синтеза речи представляют собой систему решений, позволяющих осуществлять перевод продукта устной речи в письменную форму (Speech-to-Text, STT) и наоборот (Text-to-Speech, TTS). Сложности с распознаванием речи связаны с индивидуальностью строения речевого аппарата, особенностями артикуляции каждого говорящего, обусловленными его физиологией, языковой компетенцией, фонетическим строем родного для человека языка и иными факторами. Имеются и языковые трудности, к примеру, вызванные свободным порядком слов, словотворчеством, неоднозначностью смыслового понимания; одни и те же фонемы (звуки устной речи) или даже целые слова могут звучать по-разному; кроме того, напротив, существуют слова и формы слов, которые при одинаковом звучании имеют разное написание (омофоны) и значение (омонимы).

С обратным же преобразованием (TTS) возникают иные проблемы, связанные с потребностью в создании убедительно звучащего продукта устной речи – как в аспекте произнесения отдельных звуков и слов, так и в аспекте просодики (расстановки пауз и интонаций) и звукового окружения. Из числа методов синтеза речи наибольшее значение имеют две группы технологий: конкатенация («набор» озвучиваемого текста с использованием предварительно записанных звуков, слов и фраз) и параметрический синтез с использованием глубоких нейронных сетей¹⁴⁴. В первом случае может иметь место монотонность и прерывистость речи, во втором – речь может характеризоваться неестественным, «роботизированным» звучанием¹⁴⁵.

В упомянутом выше «Перечне технологических задач, на реализацию которых может быть направлен проект в сфере искусственного интеллекта», перечисляются следующие задачи, решаемые с использованием технологий распознавания и синтеза речи:

• создание мультизадачных разговорных ассистентов;

• проверка подлинности речи, в том числе для подтверждения личности говорящего;

• распознавание звуков и речи в сложных условиях (шумы, большое расстояние и т. д.), в том числе для использования в системах обработки и анализа переговоров;

• создание средств управления эмоциями и смысловыми конструкциями в синтезированной речи, в том числе для целей автоматического чтения художественных произведений;

• синтез речи на иностранном языке, в том числе для улучшения персональных синхронных переводчиков;

• распознавание сложных смысловых конструкций и сленга в речи для использования в системах поиска скрытого содержания и смысла, в том числе для улучшения текущих решений (включая создание персональных ассистентов);

• распознавание антропологических признаков на основе речи, в том числе для использования в системах идентификации социального статуса и других атрибутов человека;

• классификация и выявление взаимного расположения источников звука (музыки, бытовых шумов, звуков, сопровождающих опасные ситуации, и т. д.), в том числе для использования в системах анализа неисправности устройств на основе распознавания звука;

• распознавание эмоциональных оттенков и субэмоций речи, в том числе для улучшения существующих персональных голосовых помощников, переводчиков;

• сбор и аннотация данных для задач распознавания и синтеза речи.

Системы автоматического распознавания и синтеза речи, как правило, являются компонентом программных продуктов и используются для автоматизации процессов и упрощения взаимодействия между пользователем и информационной системой; примеры использования:

• голосовое управление;

• голосовой поиск;

• голосовой ввод текста;

• голосовые помощники/посредники;

• синхронный перевод;

• транскрибирование, стенографирование, создание субтитров;

• озвучивание текста, интерфейсов, субтитров и т. д.;

• создание цифровой копии голоса для дальнейшего использования.

Риски, связанные со злоупотреблением технологиями обработки естественного языка, распознавания и синтеза речи, очевидны уже сейчас. Если ранее скрытые шпионаж и слежка были возможны главным образом за счет использования специальных технических средств, предназначенных для негласного получения информации, то теперь таким образом злоумышленники потенциально могут использовать любое техническое средство, обладающее встроенным микрофоном и выходом в сеть – от повсеместно распространенных смартфонов до «умных» телевизоров и аудиосистем.

Развитие автоматизированных систем анализа и извлечения смысла из речевых продуктов¹⁴⁶ позволит осуществлять скрытый контроль настроений и убеждений широкого круга лиц даже в отсутствие их эксплицитного выражения в публичном пространстве. Это создает возможность злоупотребления в виде радикализации представителей отдельных социальных групп путем манипулирования предоставляемой им информацией (ее таргетингом и персонализацией для целенаправленных информационных атак).

Как отмечается в отчете Европола, современные большие языковые модели становятся опасным оружием в руках злоумышленников, предоставляя последним возможности получать в ответ на контекстуальные запросы пошаговые инструкции по совершению противоправных и иных нарушающих социальные нормы действий, генерировать вредоносный код, а также качественные и заслуживающие доверие тексты, в дальнейшем используемые для пропагандистских и мошеннических целей¹⁴⁷.

Использование ИИ получает все большее распространение в генерации противоправного и вводящего в заблуждение контента¹⁴⁸. Идет активная фейковизация медиасреды за счет ее насыщения ботами – полностью искусственными цифровыми личностями (имеющими собственные признаки внешности, голоса и проч.), не имеющими конкретного реального прототипа; если ранее их можно было выявить по отсутствию контентного наполнения персональных страниц, то теперь, с широким распространением генеративных алгоритмов, они становятся все более похожими на учетные записи реальных людей (по крайней мере в части размещаемых текстовых материалов). Это, в свою очередь, позволяет осуществлять маскировку искусственной общественной поддержки и манипулирование общественным сознанием с использованием недостоверной информации (фейков); формирование предубеждений и неприятия альтернативных точек зрения с использованием эхокамер и туннелей реальности (погружение человека во внутренне непротиворечивую, однако искусственно созданную информационную среду, наполненную специально сгенерированными или подобранными информационными материалами определенной тематики, содержащими желаемую оценку фактов).

Как мы указывали выше, искусственное порождение медиаконтента является одним из факторов фейковизации медиасреды, а потому возможность защиты от злоупотреблений ИИ без специальных криминалистических научно-технических средств в будущем с учетом дальнейшего совершенствования и глубокого рекурсивного обучения ИИ – под большим вопросом (к примеру, уже сейчас производятся большие языковые модели, решающие проблему конфабуляций и повышающие точность ответов методом самокоррекции ошибок¹⁴⁹).

Развитие основанных на технологиях обработки естественного языка больших языковых моделей (LLM), их способность создавать контент и адаптироваться к новым задачам приобретает социально-политический аспект. Генерация текстов на заданную тему с дальнейшим массированным распространением в социальных сетях может представлять угрозу для охраняемых общественных отношений, так как они обеспечивают формирование определенного информационного фона и выступают средством продвижения желаемой повестки в рамках планомерной стратегии по информационному воздействию на население для поддержания выбранной точки зрения или настроения, выбранных злоумышленником. Примером такой «скрытой» задачи может быть положительный или отрицательный окрас новости, создаваемой LLM, при упоминании определенного имени, брэнда или темы¹⁵⁰.

Следует упомянуть и о такой разновидности неправомерного использования ИИ, как воспроизведение индивидуального стиля автора (идиостиля) и производство выдаваемого за подлинник контрафакта, имитирующего оригинальные произведения. В медиакоммуникации имитация идиостиля может быть использована для рекламы и привлечения аудитории на информационный ресурс под предлогом эксклюзивного авторского контента от популярного лидера общественного мнения. Кроме того, использование авторского контента для обучения нейросети или для взаимодействия с ней может нарушать права интеллектуальной собственности (особенно если не используются открытые системы публичного лицензирования, такие как Creative Commons). Сбор и обработка речевой информации позволяет в числе прочего с определенной степенью погрешности воспроизвести языковую личность и осуществить ее «кражу», то есть без согласия создать цифрового двойника живущего/умершего человека (уже сейчас имеются наглядные примеры применения данной технологии¹⁵¹, что обусловило возникновение таких актов этического регулирования, как Этические рекомендации в области создания и использования цифровых имитаций живущих, умерших и несуществующих людей¹⁵²).

Все вышесказанное в полной мере справедливо и для нейросетевых сервисов, позволяющих создавать аудиозаписи по тексту (например, генерирующие музыкальные произведения Suno AI или Boomy), озвучивать текст голосами знаменитостей и популярных персонажей.