Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
426
4. Приходько Д. В., Белькова А. А. Киберпреступность как глобальная проблема
современности // Экономика и бизнес: теория и практика. 2021. №4-2. С. 90–93.
5. Шельменков В. Н., Гусев Д. А. Рецензия на монографию «Legaltech в сфере
предпринимательской деятельности» // Теоретическая и прикладная юриспруденция.
2023. № 2 (16). С. 113–116.
Н. И. Шумакова,
доцент кафедры конституционного и административного права,
Южно-Уральский государственный университет (НИУ)
НЕ ТОЛЬКО ДИПФЕЙКИ: ОБЯЗАТЕЛЬНАЯ МАРКИРОВКА СИСТЕМ
И ПРОДУКТОВ ГЕНЕРАТИВНОГО ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
КАК ЧАСТЬ ЭТИКИ ЕГО ИСПОЛЬЗОВАНИЯ
Аннотация.
Статья посвящена необходимости законодательного закрепле-
ния обязательной маркировки систем и продуктов генеративного искусственного
интеллекта. Анализируются результаты социологического опроса, целью которого
являлось выявление мнения о важности принятия данной меры для защиты законных
прав и интересов представителей творческих и культурных индустрий и потреби-
телей продуктов этих индустрий. Делается вывод о положительном и негативном
влиянии введения такой маркировки.
Ключевые слова
: цифровые технологии, право, этика искусственного ин-
теллекта, генеративный искусственный интеллект, регулирование искусственного
интеллекта, дипфейки, риски генеративного искусственного интеллекта
NOT ONLY DEEPFAKES: OBLIGATORY LABELING OF GENERATIVE
ARTIFICIAL INTELLIGENCE’S SYSTEMS AND PRODUCTS AS PART
OF THE ETHIS OF USING IT
Abstract.
The article explores the necessity of legal implementation of obligatory
labeling of general artificial intelligence’s systems and products. The author provides
an analysis of a sociological survey the goal of which was to study the opinion of those
involved in the creative and cultural industries as well as those who consume their products.
In conclusion, the author provides pros and cons of the implementation of this measure.
Keywords
: digital technologies, law, ethics of AI, generative AI, regulations of AI,
deepfakes, risks of generative AI
Рост использования систем искусственного интеллекта сегодня можно на-
звать беспрецедентным, но вместе с ростом их использования растет и количество
дискуссий о их негативном влиянии на те сферы, в которых они используются
[6]. Отдельное место в этих дискуссиях занимает генеративный искусственный
интеллект (далее – ГИИ), в число рисков применения которого входят засилие
плагиаризма и систематическое нарушение авторских прав [7]. Более того,
с развитием таких систем, как ChatGPT, Stable Diffusion, DreamStudio, DreamUp,
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
427
Midjourney и других ГИИ, все чаще вызывает обеспокоенность судьба творческой
и культурной индустрий, само существование которых оказалось под угрозой.
В частности, Комитет культуры, медиа и спорта Палаты общин Великобритании
в одном из своих последних отчетов заостряет внимание на огромном потенциа-
ле новых цифровых технологий, отмечая, что несмотря на очевидные плюсы их
развития, они становятся причиной новых рисков и проблем, требующих своевре-
менного урегулирования. При этом Комитет отметил как возможность негативного
влияния абстрактности формулировок в мерах регулирования использования ГИИ
на права и законные интересы представителей творческих профессий, выявленную
в рамках проведенного им расследования, так и очевидность причинения вреда
в случае, если данные пробелы в законодательстве не будут устранены. Комитет
также подчеркивает, что стремительное развитие ГИИ усугубляет так называемый
«кризис аутентичности», а именно – делает практически невозможным установить
происхождение подлинность онлайн-контента, в то же время призывая к стимули-
рованию использования новых технических средств в творческом секторе [5].
Собственное расследование провел и британский Комитет науки, инноваций
и технологий, также придя к выводу о том, что использование ГИИ может оказывать
негативное влияние на сферу труда, а также нарушать авторские и интеллектуаль-
ные права [10]. С этими отчетами перекликаются как с требованиями, пожалуй,
крупнейшей в истории Голливуда забастовки работников киноиндустрии [12],
так и с коллективными исками [1, 3].
Американская гильдия авторов среди своих требований по защите будущего
литературы и журналистики перечисляет получение разрешения на использование
авторских материалов для обучения ГИИ, введение компенсации за такое использо-
вание, а также обязательность маркировки работ и произведений сгенерированных
ГИИ. Интерес представляет и предположение зарубежных адвокатов о возможности
взыскания морального вреда за причинение моральных страданий путем обесценивая
художественных произведений. Обратить внимание стоит и на Китай. Так, Й. Ван
и Х. Лу, рассуждая о трансформациях, претерпеваемых творческой индустрией,
говорят о необходимости реформирования существующего законодательства и ссы-
лаются на судебную практику, существующую на сегодняшний день в Китайской
Народной Республике, согласно которой, выбор и порядок действий человека, уча-
ствующего в генерации произведения в определенных случаях приводят к тому, что
сгенерированные результаты становятся объектом авторского права [11].
Отдельного упоминания заслуживает влияние использования ГИИ на средства
массовой информации (далее – СМИ), а именно – на производство и потребление
новостей, где возможно не только распространение опасной дезинформации, по-
явление мошеннических СМИ, но и падение качества подачи новостного матери-
ала [7]. В то же время, если мы обратимся к мнению представителей российских
творческих и культурных индустрий, высказанному в рамках «Горький fest» ранее
в этом году, то заметим, что большинство из них пока не рассматривает ГИИ как
реальную угрозу существования их профессий в виду того что ГИИ, как и любое
вспомогательное техническое средство, не обладает способностью мыслить и чув-
ствовать, а значит – не является творцом в полном смысле этого слова [14].
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
428
Решение части этих проблем недавно предложила компания Twilio, разра-
ботавшая специальный инструмент маркировки продуктов систем ГИИ, где ко-
нечными целями являются повышение доверия и обеспечение прозрачности,
ответственности и подотчетности использования данных технологий, в том числе
возможности получения информации о том, какие материалы использовались для
обучения ГИИ и каков процент участия ГИИ в создании того или иного продукта
[4]. Аналогичное решение предлагает глобальная инклюзивная инициатива Open
Ethics Label [8] со ссылкой на Белую книгу Еврокомиссии «Об искусственном
интеллекте: Европейский подход к совершенству и доверию» от 19.02.2022, пред-
усматривающую добровольную маркировку [13]. В России же со схожей инициа-
тивой, хоть и преследуя несколько иные цели (защиту от возможных кибератак),
в этом году к Министерству цифрового развития обратились представители РТУ
МИРЭА, предложив маркировать специальным графическом знаком контент, соз-
данный нейросетями [15], им, в свою очередь, вторит заместитель председателя
Еврокомиссии В. Йоурова, рассматривающая обязательную маркировку продуктов
ГИИ как средство защиты от распространения дезинформации [2].
Для того чтобы выявить мнение представителей творческой и культурной
индустрий, а также потребителей продуктов этих индустрий, о необходимости уже
не добровольной, а обязательной маркировки продуктов ГИИ в рамках защиты их
законных прав и интересов, автором статьи был проведен социологический опрос,
являющийся частью комплексного исследования автора по этике использования
ГИИ в творческой и культурных индустриях.
Этика проведенного опроса
: опрос был проведен в социальных сетях и мес-
сенджерах с 1 июля по 30 августа 2023 г. на условиях полной анонимности, все
участники были предупреждены о возможности использования полученных ре-
зультатов в научно-исследовательской работе.
Программное обеспечение: опрос был произведен в Google Docs, статисти-
ческие данные автоматически подсчитаны в Google Docs, для анализа результатов
также было применено приложение Google Sheets.
География проведенного опроса:
1. Англоязычная аудитория: 109 человек из 17 стран (Великобритания, США,
Австралия, Новая Зеландия, Швеция, Германия, Италия, Канада Франция, Сербия,
Аргентина, Австрия, Нидерланды, Турция, Ирландия, ЮАР, Чехия).
2. Русскоязычная аудитория: 36 человек из 4 стран (Россия, Латвия, Молдова,
Польша).
Результаты и обсуждение. Абсолютное большинство англоязычной аудитории
(рис. 1), а именно – 87,2 % (95 человек), ответили, что продукты ГИИ должны под-
лежать обязательной маркировке, в то время как 8,3 % (9 человек) посчитали, что
продукты ГИИ в такой маркировке не нуждаются, а 4,6 % (5 человек) ответили, что
они не уверены в необходимости принятия таких мер. Среди русскоязычной ауди-
тории (рис. 2) большинство респондентов также заявили о необходимости введения
обязательной маркировки – 80,6 % (29 человек), в то же время здесь наблюдается
как больший процент несогласных – 13,9 % (5 человек), так и больший процент
неуверенных – 5,6 % (2 человека).
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
429
При этом количество англоязычных респондентов, непосредственно задей-
ствованных в культурной и творческой индустриях, составило 84,4 % (92 человека),
а русскоязычных представителей культурных и творческих профессий – 72,2 %
(26 человек).
Рис. 1. Распределение ответов англоязычных респондентов на вопрос
«Нуждаются ли работы, сгенерированные ИИ, в специальной маркировке?»
(на английском вопрос был задан как
“Should works generated with AI be labeled as such?”)
Рис. 2. Распределение ответов русскоязычных респондентов
«Нуждаются ли работы, сгенерированные ИИ, в специальной маркировке?»
Рис. 3. Распределение ответов англоязычной аудитории
«Являетесь ли Вы представителем культурных/творческих профессий?»
(на английском вопрос был задан как
“Do you work in the cultural or creative industry?”)
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
430
Рис. 4. Распределение ответов русскоязычных респондентов
«Являетесь ли Вы представителем культурных/творческих профессий?»
Анализ полученных данных позволяет заключить, что абсолютное боль-
шинство респондентов считает необходимым введение обязательной маркировки
продуктов/работ, созданных ГИИ. При этом данной точки зрения придерживаются
и потребители продуктов творческой и культурных индустрий.
В то же время результаты опроса демонстрируют, что около 30 % русскоязыч-
ных респондентов не считают необходимым введение данной меры. От части это
можно объяснить тем, что среди русскоязычных опрошенных выше и процент не
задействованных в творческой и культурных индустриях. Также можно предполо-
жить, что на результат повлияло распространенное в России отношение к ГИИ как
вспомогательному инструменту, неспособному к самостоятельному творчеству,
а значит – не представляющему угрозы.
Исходя из результатов проведенного исследования, можно заключить, что
законодательное закрепление обязательной маркировки систем и продуктов ГИИ
способно стать ответом на целый ряд вызовов, связанных со стремительным ростом
его использования. Данная мера повысит доверие как к производителям и владель-
цам систем ГИИ, так и непосредственно к самим работам, сгенерированным ГИИ.
При этом прозрачность, обеспечиваемая маркировкой, позволит понять процент
участия человека в создании того или иного произведения, установить, какие данные
и в каком объеме были использованы для обучения ГИИ, а также даст представ-
ление об алгоритмах его работы. В свою очередь, это создаст почву для решения
проблемы нарушения ГИИ авторских и интеллектуальных прав, дав возможность
введения компенсаций для авторов, чьи материалы были использованы в процессе
обучения систем ГИИ. Кроме того, обязательная маркировка должна снизить рост
создания и распространения дипфейков и дезинформации, повысив ответственное
отношение к использованию систем ГИИ и потреблению сгенерированных при
их помощи продуктов. Дополнительно, обязательная маркировка ГИИ обеспечит
защиту интересов потребителей, имеющих право на получение полной информа-
ции о приобретаемом/потребляемом продукте, либо же системе ГИИ, которую они
собираются приобрести или использовать в своей работе.
К гипотетическим минусам введения обязательной маркировки можно отнести
вероятность снижения интереса как к использованию ГИИ, так и его продуктов, что,
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
431
в свою очередь, неизбежно приведет к снижению прибыли компаний – производи-
телей систем ГИИ, а значит, и к снижению темпов развития данных технологий.
Список литературы
1. AI authors – what a US lawsuit could mean for UK IP law // The Trademark
Lawyer. URL: https://trademarklawyermagazine.com/ai-authors-what-a-us-lawsuit-
could-mean-for-uk-ip-law
2. AI generated content should be labelled, EU Commissioner Jourova says //
Reuters. URL: https://www.reuters.com/technology/ai-generated-content-should-be-
labelled-eu-commissioner-jourova-says-2023-06-05
3. AI Image Generator - Copyright Litigation: The Joseph Saveri Law Firm, LLP.
URL: https://www.saverilawfirm.com/our-cases/ai-artgenerators-copyright-litigation
4. AI Nutrition Fact Labels // AI Nutrition Facts. URL: https://nutrition-facts.ai
5. Connected tech: AI and creative technology: A House of commons report от
30.08.2023 № HC 1643 (ред. от 30.08.2023). URL: https://publications.parliament.uk/
pa/cm5803/cmselect/cmcumeds/1643/report.html
6. Díaz-Rodríguez, N., Del Ser, J., Coeckelbergh, M., de Prado, M. L., Herrera-
Viedma, E., & Herrera, F. Connecting the dots in trustworthy Artificial Intelligence: From
AI principles, ethics, and key requirements to responsible AI systems and regulation
Information Fusion. 2023. November. URL: https://www.sciencedirect.com/science/
article/pii/S1566253523002129
7. Irwin, P., Jones, D., & Fealy, S. What is ChatGPT and what do we do with
it? Implications of the age of AI for nursing and midwifery practice and education:
An editorial. Nurse Education Today. 2023. August. URL: https://www.sciencedirect.
com/science/article/pii/S0260691723001296?via%3Dihub
8. Open Ethics Label: AI nutrition labels // Open Ethics. URL: https://openethics.
ai/label
9. Sandrini, L., & Somogyi, R. (2023). Generative AI and deceptive news
consumption. Economics Letters. 2023. November. URL: https://www.sciencedirect.
com/science/article/pii/S0165176523003427
10. The governance of artificial intelligence: a House of commons report от
31.08.2023 № 9th Report Session (ред. 31.08.2023). URL: https://publications.parliament.
uk/pa/cm5803/cmselect/cmsctech/1769/report.html
11. Wan, Y., & Lu, H. (2021). Copyright protection for AI-generated outputs: The
experience from China. Computer Law & Security Review. 2021. September. URL:
https://www.sciencedirect.com/science/article/abs/pii/S0267364921000546?via%3Dihub
12. We’re Fighting for the Survival of Our Profession: SAG-AFRA strike
[Электронный ресурс]. URL: https://www.sagaftrastrike.org/why-we-strike
13. White Paper on Artificial Intelligence: a European approach to excellence and trust
от 19.02.2020 // European Comission. URL: https://commission.europa.eu/publications/
white-paper-artificial-intelligence-european-approach-excellence-and-trust_en
14. На «ГОРЬКИЙ FEST» обсудили проблему участия нейросетей в кино
// Бюллетень Кинопрокатчика. URL: https://www.kinometro.ru/photo/show/album/
review_ai_10072023
15. Минцифры предложили ввести маркировку контента, созданного с помо-
щью нейросетей // ТАСС. URL: https://tass.ru/ekonomika/17746919
