322
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
Список литературы
1. Волос А. А. Смарт-контракты и принципы гражданского права // Российская
юстиция. − 2018. − № 12. С. 5–7.
2. Горохова С. С. Технологии на основе искусственного интеллекта: перспек-
тивы и ответственность в правовом поле // Юрист. − 2021. − № 6. − С. 60–67.
3. Пржиленский В. И. Опыт математизации природы в цифровизации уго-
ловного судопроизводства // Актуальные проблемы российского права. − 2020. −
№ 6. − С. 125–132.
4. Emelianova T. V. (2021) Affect of Artificial Intelligence Technologies and
Digitalisation on Jurisprudence and Education. In: Dingli A., Haddod F., Klüver C. (eds)
Artificial Intelligence in Industry 4.0. Studies in Computational Intelligence, vol 928.
Springer, Cham. https://doi.org/10.1007/978-3-030-61045-6_12
5. Hermans T., Cools M. & Van den Abbeele A. The role of information accuracy
and justification in bonus allocations. J Manag Control (2021). https://doi.org/10.1007/
s00187-020-00312-1
С. А. Паламарчук,
старший преподаватель кафедры гуманитарных
и социально-экономических дисциплин,
Ростовский филиал Российского
государственного университета правосудия
СРАВНИТЕЛЬНЫЙ АНАЛИЗ ВНЕДРЕНИЯ СИСТЕМЫ СОЦИАЛЬНОГО
КРЕДИТА В РОССИИ И КИТАЕ: ПОСТРОЕНИЕ ОБЩЕСТВА
СПРАВЕДЛИВОСТИ ИЛИ УГРОЗА КОНСТИТУЦИОННОМУ ПРАВУ
НА НЕПРИКОСНОВЕННОСТЬ ЧАСТНОЙ ЖИЗНИ
Аннотация.
Целью статьи является исследование возможных перспек-
тив введения системы социального кредита (Social Credit System) в Российской
Федерации. В статье проанализирован аналогичный опыт в Китайской Народной
Республике. В коммуникационной среде IT-специалистов, исследователей кон-
ституционно-правовой науки и граждан нашей страны часто можно услышать
мнение, что огульная, лавинообразная, стремительная цифровизация всех сфер
общественной жизни и особенно таких важных для государства, как сферы здраво-
охранения и образования, приведет к тотальному контролю общества со стороны
государства, инструментом которого, в частности, выступит система социального
кредита. В статье методом сравнительного анализа китайского опыта и начальных
попыток внедрения этой системы в России предпринята попытка дать аргументи-
рованный ответ на эти опасения. Дополнительно учитывается влияние уже суще-
ствующих в Российской Федерации систем искусственного интеллекта, обрабаты-
вающих персональные данные.
Ключевые слова:
право, цифровизация, система социального кредита, кон-
ституционные права, персональные данные, искусственный интеллект, рейтинг,
доверие
323
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
COMPARATIVE ANALYSIS OF THE IMPLEMENTATION OF THE SOCIAL
CREDIT SYSTEM IN RUSSIA AND CHINA: BUILDING A SOCIETY OF
JUSTICE OR A THREAT TO THE CONSTITUTIONAL RIGHT TO PRIVACY
Abstract.
The paper deals with studying the possible prospects for the introduction
of a social credit system in the Russian Federation. The article analyzes a similar
experience in the People’s Republic of China. In the communication environment of IT
specialists, researchers of constitutional and legal science and citizens of our country,
one can often hear the opinion that the indiscriminate, avalanche-like, rapid digitalization
of all spheres of public life and, especially, such important for the state as health and
education, will lead to total control of society by the state, the instrument of which, in
particular, the social credit system will act. The article uses the method of comparative
analysis of the Chinese experience and initial attempts to introduce this system in Russia
to attempt to give a reasoned answer to these concerns. Additionally, the influence of
artificial intelligence systems already existing in the Russian Federation that process
personal data is taken into account.
Keywords
: Law, Digitalization, Social credit system, Constitutional rights,
Personal data, Artificial intelligence, Rating, Trust
Введение.
Проблема цифровизации современного общества сегодня вышла
на первый план. Совершенно очевидно, что объем информации, обрушивающийся
в наше время на человека всего за один год, сравним с объемом информации, обраба-
тываемым и усваиваемым человеком в эпоху Средневековья примерно за половину
жизни. С биологической же точки зрения человек изменился крайне незначительно,
что приводит к тому, что современному гражданину все труднее и физически, и пси-
хически выдерживать бесконечный поток информации XXI в. Поэтому в обществе
возникает страх потеряться в огромном цифровом мире, утратить свою значимость,
свободу, неотъемлемые конституционные права во множестве информационных по-
токов, сервисов, площадок. Этот страх является причиной для поиска точки опоры
в информационной сфере, для призывов ограничить, стабилизировать источники
информации, ввести цензуру и сохранить личную информацию.
С другой стороны, значительная «виртуализация» конституционных прав
человека, методов судебной защиты нарушенных прав, получение электронных
государственных услуг с очевидностью приводят нас к выводу о том, что совре-
менный человек сможет в полной мере реализовать свои конституционные права
и избегнуть печальной судьбы «объекта манипулирования» в цифровом простран-
стве – только если сможет ориентироваться как в современных правовых реалиях,
так и в их проекциях в виртуальное пространство.
Основная часть.
Следует подчеркнуть, что к 2022 г. информационные тех-
нологии проникли практически во все сферы жизни общества и государства.
Выполняются цели, сформулированные в федеральных целевых государствен-
ных программах, например, национальная программа «Цифровая экономика
Российской Федерации» утвержденная протоколом заседания президиума Совета
при Президенте Российской Федерации по стратегическому развитию и нацио-
324
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
нальным проектам от 4 июня 2019 г. № 7 (в том числе и в области внедрения ис-
кусственного интеллекта в механизм государственного управления, о чем не раз
говорил Президент России).
17 августа 2022 г. заместитель председателя правительства Российской
Федерации по вопросам цифровой экономики и инновациям Дмитрий Чернышенко
отметил, что поручение Президента РФ выполняется и показатель внедрения си-
стем искусственного интеллекта в отдельные отрасли уже достиг 20 %, а в пер-
спективе (к 2024 г.) должен достичь 50 % [8].
Такие значительные успехи использования искусственного интеллекта вы-
зывают дискуссии по поводу возможного использования в Российской Федерации
системы социального кредитования. Подобная система успешно внедряется
в Китайской Народной Республике с 2007 г. («Система социального кредита (до-
верия)» (шэхуй синьйон тиси /
社会信用体系
) [4. C. 74].
Смысл подобной системы состоит в присвоении каждому гражданину пер-
сонального рейтинга (числа) в зависимости от того, какие поступки он совершает:
общественно полезные или преступные. Соответственно, к гражданам с низким
социальным рейтингом применяются различные санкции, ограничивающие или
даже блокирующие их конституционные права, например, гражданин с низким
социальным рейтингом не может купить билет на поезд или самолет (ограничение
права на свободу передвижения), не может курить билет в кино на желаемый се-
анс, ему может быть отказано в праве на образование в престижном учебном заве-
дении, в выдаче кредита в банке (кстати, система кредитных банковских историй
как раз и заложила основу для системы социального рейтинга). Наконец, наиболее
серьезное ограничение – лишение возможности занимать высокооплачиваемые
должности на государственной службе и вообще полный запрет на нахождение
на государственной службе в принципе (напоминает вид санкции Уголовного ко-
декса Российской Федерации, когда налагается запрет занимать определенные
должности или заниматься определенной деятельностью (ст. 47 УК РФ)). Однако
санкция в соответствии с УК РФ применяется только судьей после соответствую-
щего судебного разбирательства, а в Китае для этого достаточно просто значения
рейтинга, фактически числа.
Мы попытаемся оценить плюсы и минусы введения социального рейтинга,
исследуя различные аргументы его сторонников и противников.
Сразу хочется отметить, что в самом Китае система социального кредитова-
ния хотя и не приобрела масштаб, охватывающий все территории Китая, но как
пилотный социолого-политический проект активно внедряется на местах уже
с 2014 г., т.е. уже более 8 лет. Учитывая различные точки зрения как зарубеж-
ных, так и китайских ученых, отметим, что в социологическом плане проводился
опрос самих жителей Китая. Оказалось, что порядка 80 % населения страны (а это
1,2 млрд человек) поддерживают систему социального кредита и убеждены в ее
справедливости [10. P. 1565–1596]. Более того, в провинции Жунчэн, где система
реально работает уже более 5 лет, наблюдается снижений споров и налоговых кон-
фликтов на 23 %, а удовлетворенность населения составила величину более 96 %
[11. P. 72–81].
325
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
Одним из аргументов противников системы социального кредита состоит
в том, что оценивать людей негуманно, люди пугаются низких оценок и почему-то
особенно ужасным видится факт оценки гражданина со стороны такого субъекта,
как государство. Здесь хотелось бы возразить тем, что с самого рождения в совре-
менном обществе человек так или иначе оценивается, причем как на бытовом, так
и на общественном и государственном уровнях: школьники получают оценки в шко-
ле, студенты получают оценки в высших учебных заведениях, существуют ключе-
вые показатели эффективности (Key
performance
indicators), которые применяются
для мотивации и стимулирования сотрудников в бизнес-проектах, в трудовой де-
ятельности применяется система поощрений в виде почетных грамот, благодар-
ностей, выговоров, присуждения государственных наград, награждение медалями
и т.д. Следовательно, мы видим, что вся жизнь современного человека пронизана
теми или иными оценками его деятельности и поведения (причем уже довольно дав-
но). Можно предположить, что противники систематизации и обобщения этих оце-
нок в цифровой форме опасаются, что привыкшие нарушать закон «по пустякам»
(а в некоторых социальных группах мелкие кражи, обман более доверчивых граж-
дан и т.д. не только не порицаются, а выступают своеобразным предметом гордости)
получат сильное снижение рейтинга и существенное ограничение в правах [6].
Единственной оговоркой, которую здесь можно сделать: в описанных нами
примерах происходит оценка человека человеком и в случае ошибок, которые не-
избежны в тех или иных процессах, предусмотрена возможность апелляции – ис-
правления несправедливо выставленной оценки.
Совершенно иное дело, если единственным субъектом оценивания выступит
искусственный интеллект либо нейронные сети. В этом случае о фактах оценивая
и изменения баллов или рейтингов не будет знать никто, кроме информационной
системы (для этого сегодня уже разработан целый спектр инструментов: в том же
Китае применяется огромное количество видеокамер с возможностью распозна-
вания лиц, а в некоторых случаях даже температуры тела гражданина). По неко-
торым оценкам к концу 2022 г. количество камер в Китае превысит 250 000 000
штук. Кстати, во время пандемии новой коронавирусной инфекции как раз в Китае
предлагалось на основе данных датчиков тепловизоров задерживать и направлять
в медицинские учреждения граждан, имеющих повышенную температуру тела.
Вероятность апелляции на решение искусственного интеллекта пока не
очень проработана, и, самое главное, даже в случае ее осуществления она займет
продолжительное время, как и любая известная на сегодняшний день апелляция,
в то время как ограничения и запреты на основе решения искусственного интел-
лекта налагаются мгновенно, и вот уже гражданин, идущий с хорошим настро-
ением на работу с удивлением обнаруживает, что он, например, не может снять
деньги с карты, его не пускают в транспорт и т.д. Например, уже известен случай,
к счастью, пока только в банковской сфере, когда на основе анализа кредитных
историй жителей района системами искусственного интеллекта высчитывался
«общий кредитный рейтинг района», на основании которого ко всем жителям это-
го района без учета индивидуальных обстоятельств применялась единая банков-
ская кредитная политика с условиями и предложениями, зависящими от рейтинга
326
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
целого района [9. P. 44]. Более того, более массовая практика анализа кредитных
историй показывает, что при отказе гражданину в получении кредита со стороны
кредитной организации решение принимает вовсе не человек (менеджер, топ-ме-
неджер), а искусственный интеллект, затрачивая на это менее одной секунды вре-
мени и к тому же внося факт отказа в глобальную кредитную историю клиента
по всем банкам, подключенным к ней. Для такого отказа не предусмотрено про-
цедуры апелляции, и получить кредит можно только лишь обратившись в другой
банк, который уже будет ориентироваться на испорченную кредитную историю,
что, конечно, существенно снижает вероятность нового одобрения.
Таким образом, видится совершенно необходимым предусмотреть механиз-
мы контроля за решениями искусственного интеллекта, в которых решающее сло-
во нужно оставить все-таки за контролером-человеком. В противном случае, как
бы странно это ни звучало, но гражданин может оказаться в ситуации, описанной
в романе-антиутопии Сергея Лукьяненко «Черновик», когда все его цифровые до-
кументы удалены, его никто не помнит, а те, кто помнит, очень быстро забывают.
Тем, кто посчитает такую ситуацию совершенно невозможной или же возможной
в очень отдаленном будущем, напомним, что еще недавно вопросы искусственно-
го интеллекта поднимались лишь на страницах научно-фантастических романов,
а сегодня утверждена Национальная стратегия развития искусственного интел-
лекта на период до 2030 г. [5].
Подтверждение сформулированному тезису находим в исследовании про-
фессора кафедры государственно-правовых дисциплин Высшей школы правове-
дения Института государственной службы и управления Российской академии
народного хозяйства и государственной службы при Президенте Российской фе-
дерации, профессора, д.ю.н. М.А. Липчанской, которая аргументированно доказы-
вает, ссылаясь на ст. 2 Конституции РФ, что именно человек, а не искусственный
интеллект или искусственный разум признается в Российской Федерации высшей
ценностью, и за человеком остается полное право обжаловать в судебном поряд-
ке решения государственных органов, органов местного самоуправления, долж-
ностных лиц и любых иных субъектов, которые своими действиями неправомерно
ограничивают его конституционные права и свободы [2. C. 83].
Российские эксперты по развитию и внедрению информационных техно-
логий справедливо отмечают, что «введение социального рейтинга в любых
видах ведет к дискриминации граждан в зависимости от уровня их рейтингов.
Фактически социальное рейтингование – это отказ от конституционного прин-
ципа равенства прав и обязанностей граждан (установленного ч. 2 ст. 6 и ст. 19
Конституции РФ)» [6].
Низкий социальный рейтинг, присвоенный гражданину, напрямую будет на-
рушать те или иные положения Конституции РФ, защищающие его конституци-
онные права.
Разделяя справедливость утверждений уважаемых экспертов, укажем тем не
менее, что приводимые аргументы не смущают граждан Китая. Такая терпимость
к введению социального рейтинга, на наш взгляд, объясняется высоким уровнем
доверия населения Китая своему государству [13]. Это положение сложилось по
327
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
двум причинам: первая – высшее руководство Китая по крайне мере задеклариро-
вало и по возможности постаралось следовать принципу, согласно которому го-
сударство Китая крайне серьезно оценивает глобальные вызовы XXI в. и перед
их лицом оказывает всемерную поддержку каждому гражданину и не бросает его
в случае трудностей; вторая – введение системы социального кредита аккуратно
легло на почву уже давно существующих инструментов контроля и поддержки го-
сударства, и эта система даже не воспринимается гражданами как какая-то «осо-
бенная» или «исключительная».
Эта точка зрения находит свое подтверждение и в материалах статистиче-
ских исследований, проводимых методом социологических опросов, согласно ко-
торым более 50 % китайских граждан испытывают доверие к государственным
органам и коммерческим организациям по вопросу того, как они используют пер-
сональные данные [4. C. 74]. При этом, конечно, нужно избегать крайностей в по-
нимании системы социального кредитования. Не следует сводить ее всего лишь
к чуть усложненной системе формирования банковских кредитных историй, но
не следует также абсолютизировать и демонизировать ее, сравнивая с демиургом
тотальной слежки по Дж. Оруэллу.
Совершенно иная ситуация (это представляется очевидным, но к тому же
также подтверждается данными статистики) складывается с уровнем доверия
гражданам государству в Российской Федерации. Так, порядка 60 процентов граж-
дан России признали, что не доверяют работу со своими персональными данными
государству и тем более частным компаниям.
С другой стороны, опрошенные респонденты в России горячо поддержали
идею опубликования так называемых «черных списков» в отношении преступни-
ков, лиц, не исполняющих обязательства по договорам, злостным неплательщи-
кам алиментов и т.д. (за это высказались чуть более 65% опрошенных). Здесь, мо-
жем предположить, такой результат в некоторой степени может быть обусловлен
особенностями национального менталитета (ведь каждый уверен на 100 %, что
в подобном списке никогда не окажется).
Поэтому можно сделать вывод о взаимосвязи уровня доверия в обществе
и возможности введения системы социального кредита – чем оно будет выше,
тем легче будет перейти на эту систему. Еще раз подчеркнем, что подобная систе-
ма действительно не является какой-то особенной. Те или иные рейтинги сегод-
ня активно применяются как для физических, так и для юридических лиц. Так,
например, пользователи, ведущие активную деятельность по покупке товаров
в электронных интернет-магазинах, даже не станут рассматривать товар, имею-
щий низкий рейтинг от пользователей либо на который написаны отрицательные
отзывы, что выражается в конкретном снижении прибыли для магазина.
Вообще любое юридическое лицо, имеющее собственный сайт в сети
«Интернет», может выступить объектом для оценивания. Это ярко прослежива-
ется сегодня на страницах сайтов высших учебных заведений: каждый сайт круп-
ного учебного заведения предоставляет открытую возможность посетителям как
выставлять оценки вузу, так и писать развернутые текстовые отзывы о работе вуза
или условиях обучения в нем.
328
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
Заключение.
Итак, проведя анализ введения системы социального кредита
в России и Китае, приходим к следующим выводам.
1. В Китае пилотные проекты введения системы социального кредита оправ-
дали себя и с успехом работают во многих провинциях. Такой эффект обусловлен
высоким уровнем доверия населения Китая государству и общим менталитетом
китайского народа. Попытки слепо скопировать этот опыт в российских поли-
тико-правовых условиях могут оказаться негативными как раз по обозначенным
причинам – достаточно низким уровнем доверия населения в России государству,
и особенно бизнес-сообществу, и опасностями усиления коррупционной состав-
ляющей в борьбе субъектов за «лучший» рейтинг.
2. Опросы граждан Китая показывают их удовлетворенность назначением им
социального рейтинга за счет автоматической обработки их персональных дан-
ных, однако поспешные решения в этом направлении в Российской Федерации
могут грубо нарушить конституционное право граждан на неприкосновенность
частной жизни. Как справедливо указывает судья Конституционного суда РФ,
д.ю.н., профессор Н. С. Бондарь, «информация, защита которой обеспечивается
в рамках конституционного права на неприкосновенность частной жизни, охва-
тывает все персональные данные» [1. C. 25–42]. Безусловное внедрение систем
искусственного интеллекта может лишить граждан полноценного права управле-
ния своими персональными данными и создать угрозу манипулирования и иных
злоупотреблений со стороны третьих лиц, включая коммерческие структуры.
3. Учитывая принятые государственные программы по внедрению искус-
ственного интеллекта, совершенно очевидно, что прогресс не остановить и он
будет охватывать все большее количество сторон общественной жизни. Но мож-
но пересмотреть концепцию контроля за результатами наблюдений систем искус-
ственного интеллекта, оставив решающее слово за человеком-экспертом.
4. Наиболее уязвимой категорией информации в третьей декаде XXI в. стано-
вятся персональные данные граждан. Поэтому нужно предусмотреть как дополни-
тельные поправки в ФЗ «О персональных данных», повышающие их защиту, так
и усилить возможности контроля за персональными данными со стороны самих
пользователей (по крайней мере, не принуждать их предоставлять информацию
о себе тогда, когда без этого можно обойтись).
Список литературы
1. Бондарь Н. С. Информационно-цифровое пространство в конституцион-
ном измерении: из практики Конституционного Суда Российской Федерации //
Журнал российского права. 2019. № 11. С. 25–42.
2. Липчанская М. А., Заметина Т. В. Социальные права граждан в условиях ис-
пользования искусственного интеллекта: правовые основы и пробелы законодатель-
ного регулирования в России // Журнал российского права. 2020. № 11. С. 78–96.
3. О развитии искусственного интеллекта в Российской Федерации (вместе
с «Национальной стратегией развития искусственного интеллекта на период до
2030 года»): Указ Президента РФ от 10.10.2019 № 490. URL: http://www.consultant.
ru/document/cons_doc_LAW_335184/ (дата обращения: 25.08.2022).
329
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
4. Рувинский Р. З., Рувинская Е. А., Комарова Т. Д. Общественное восприя-
тие практик цифрового профилирования и социального рейтингования: ситуация
в России и Китае // Социодинамика. 2021. № 12. С. 56–76.
5. Рувинский Р. З., Тарасов А. А. Система социального кредита: истори-
ческие предпосылки и доктринальные основания феномена / Р. З. Рувинский,
А. А. Тарасов // Национальная безопасность / nota bene. № 3. – С. 72–88.
6. Цифровая трансформация и защита прав граждан в цифровом простран-
стве: Доклад Совета при Президенте Российской Федерации по развитию граж-
данского общества и правам человека (декабрь 2021 г.). URL: president-sovet.
ru›docs/doclad_SPCh.docx (дата обращения: 25.08.2022).
7. Цифровизация общества и система социального кредита: проблемы, пер-
спективы: монография / колл. авт.; науч. ред. И. А. Ветренко. – СПб.: ИПЦ СЗИУ
РАНХиГС, 2022. С. 188.
8. Чернышенко рассказал о темпах внедрения искусственного интеллекта
в России. URL: https://iz.ru/1380790/2022-08-17/chernyshenko-rasskazal-o-tempakh-
vnedreniia-iskusstvennogo-intellekta-v-rossii/ (дата обращения: 25.08.2022).
9. Dixon P., Gellman R. The Scoring of America: How Secret Consumer Scores
Threat Your Privacy and Your Future. World Privacy Forum (2 April 2014). URL: www.
pogowasright.org/the-scoring-of-america-how-secret-consumer-scores-threaten-your-
privacy-and-your-future/ (дата
обращения: 25.08.2022).
10. Kostka G. China’s social credit systems and public opinion: Explaining high
levels of approval // New Media & Society. 2019. № 21(7). – Рр. 1565–1593.
11. Lee J. W. Your life is number // Psychology today. 2019. № 7–8. – Рр. 72–81.
12. Liang F., Das V., Kostyuk N., Hussain M. M. Constructing a Data
‐
Driven
Society: China’s Social Credit System as a State Surveillance Infrastructure // Policy &
Internet. 2018. № 4(10). – Рр. 415–453.
13. Yu Z. China turns televisions and mobile phones in villages into surveillance ter-
minals // Global Times. 27.06.2018. URL: https://www.globaltimes.cn/content/1108589.
shtml (дата обращения: 25.08.2022).
К. М. Паронян,
кандидат юридических наук, доцент,
Таганрогский институт (филиал) имени А. П. Чехова Ростовского
государственного экономического университета
МЕХАНИЗМ РЕАЛИЗАЦИИ ЦИФРОВОГО СУБЪЕКТИВНОГО ПРАВА
НА ЗАБВЕНИЕ (МЕЖДУНАРОДНЫЙ И ОТЕЧЕСТВЕННЫЙ ОПЫТ)
Аннотация.
Целью статьи является исследование особенностей механизма
реализации такого важного субъективного цифрового права, как право на забвение
сквозь призму зарубежной правовой доктрины и правоприменительной практики,
а также российского опыта. С помощью общенаучных методов, а также с исполь-
зованием сравнительно-правового подхода автор исследует механизм реализации
права на забвение в России в сравнении с западными аналогами и формулирует
