Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
167
Д. А. Казанцев,
кандидат юридических наук,
электронная площадка B2B-Center
ПРАВО НЕЙРОСЕТИ: ФИКЦИЯ ИЛИ НЕОБХОДИМОСТЬ?
Аннотация.
Статья посвящена специальному регулированию отношений,
реализуемых с использованием искусственного интеллекта, и необходимости ком-
плексного междисциплинарного подхода к формулировки соответствующих норм.
На примере проблематики определения авторского права при создании результа-
тов интеллектуальной деятельности с использованием нейросети раскрыта про-
блематика правовой субъектности искусственного интеллекта. Сформулирована
идея о том, что даже в условиях отсутствия правовой субъектности результаты
деятельности нейросети подлежат правовой охране, целью которой является со-
блюдение прав человека. Приведены доводы о необходимости специального ре-
гулирования отношений с использованием нейросети в рамках существующих
отраслей права, сформулированы ключевые особенности такого специального
регулирования. Предложен компромиссный подход к правовому регулированию
нейросетей, при котором невозможность признания за ними правосубъектности
не исключает их включения в правовые отношения, в том числе в части распро-
странения правовой охраны на результаты их деятельности.
Ключевые слова
: право, цифровые технологии, нейросеть, искусственный
интеллект, правовая субъектность, авторское право, правовая защита
NEURAL NETWORK LAW: FICTION OR NECESSITY?
Abstract.
The article is devoted to the regulation of relations implemented using
AI. An interdisciplinary approach is required to develop such legislation. Using the
example of the problems of determining copyright when creating results of intellectual
activity using a neural network, the problems of the legal subjectivity of artificial
intelligence are revealed. Even in the absence of legal subjectivity, the results of the
neural network’s activities are subject to legal protection, the purpose of which is
to respect human rights. There is a need for special regulation of relations using a neural
network within the framework of existing branches of law, and the key features of such
special regulation are formulated. The work proposes a compromise approach to the
legal regulation of neural networks, in which the impossibility of recognizing their legal
personality does not exclude their inclusion in legal relations, incl. in terms of extending
legal protection to the results of their activities.
Keywords
: law, digital technologies, neural network, artificial intelligence, legal
subjectivity, copyright, legal protection
Введение.
Проникновение технологий искусственного интеллекта во все но-
вые сферы жизни человека и общества ставит перед этим обществом вопросы об
актуальности и возможности применения регуляторных механизмов к использо-
ванию таких технологий. Однако для юридической науки неуместно установление
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
168
регулирования ради регулирования. Регуляторные нормы должны быть адекватны
как регулируемым отношениями, так и субъектам, реализующим такие отношения.
Этот подход ставит перед нами по меньшей мере два фундаментальных во-
проса. Хотя тематика перспектив правового регулирования технологий искус-
ственного интеллекта не ограничивается лишь этими вопросами, но в рамках дан-
ной статьи мы сфокусируемся именно на них:
Может ли нейросеть выступать в качестве правового субъекта?
Порождает ли деятельность нейросети отношения, регулирование которых
в полной мере невозможно в рамках существующих правовых конструкций?
И хотя эти вопросы очевидным образом взаимосвязаны, они пригод-
ны для обособленного исследования, а ответы на них не являются взаимно
детерминированными.
Основная часть.
Нейросеть де-факто действует как субъект отношений, де-
монстрирующий результаты обработки информации на уровне, превосходящем
уровень человека, и порождающий собственные результаты интеллектуальной
деятельности. И в качестве мыслящего и действующего субъекта она, на первый
взгляд, выглядит вполне уместным кандидатом на роль правового субъекта.
Однако важно помнить о двух факторах. Во-первых, право, как институт
всегда антропоориентировано. А во-вторых, подобие не означает тождества.
Проще говоря, право онтологически ориентировано на регулирование поведения
людей и отношений между людьми. И механистическое перенесение этого регу-
лирования на иные формы когнитивной деятельности не просто сомнительно,
но и невозможно.
В частности, правовая субъектность базируется на феномене правового со-
знания. Не отметая объективно существующие факты правового нигилизма, мы все
же презюмирует правового субъекта способным к правовому сознания и должным
поверять этим сознанием свое поведение. Однако можем ли мы требовать подоб-
ного сознания от нейросети? Не так уж сложно разработать алгоритмы, которые
позволят нейросети маркировать те или иные решения в качестве противоправ-
ных. Однако, как включить в эти алгоритмы осознание виновности поведения?
Применение категорий «сознание» и «мышление» к нейросети означает
упрощение ее деятельности путем придания ей антропоморфных черт. Это упро-
щение является естественной реакцией человека на то, что результаты обработки
информации роботом становятся одновременно непредсказуемыми для человека
и при этом тем самым все больше напоминают результаты мыслительной деятель-
ности самого человека. Но при этом ни в коем случае не стоит забывать о том, что
такая трактовка – именно упрощение.
Международные исследования ставят под вопрос корректность самого име-
нования нейросетей искусственным интеллектом в смысле признания за ней воз-
можности полноценного мышления и решения творческих задач [1]. Это ни в коем
случае не означает умаление возможностей нейросети по обработки информации.
Это свидетельствует лишь о том, когнитивная деятельность нейросети основана
не на мышлении человеческого типа, а на совсем иных принципах. Именно эти
принципы, кстати, обеспечивают результаты, в отдельных случаях превосходящие
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
169
результаты мышления человека. Но сами эти результаты свидетельствуют о том,
что человеческий тип мышления и сознания нейросети не свойственен.
За этим логичным образом следует проблема деликтоспособности нейро-
сети. Ей не только не свойственно чувство вины. К ней неприменимы и наказа-
ния, устоявшиеся в человеческих правоотношениях. На нейросеть не возложишь
штраф или обязанность компенсировать причиненный ущерб, ее не направишь
под арест или на исправительные работы.
Любая мера ответственности, которую гипотетический судья вздумал бы при-
менить к нейросети, в конечном счете станет мерой ответственности для конкрет-
ного человека или корпорации. В этих условиях именно вина «посредников ис-
кусственного интеллекта (разработчиков и пользователей) в случае нанесения
вреда системой искусственного интеллекта может быть вполне вероятной, юри-
дически и экспертно доказуемой» [2. P. 42]. Например, Р. Линес и Ф. Люсиверо
прямо говорят о том, что ответственность за вред, причиненный ИИ, несет лицо,
его программировавшее, либо лицо, ответственное за его эксплуатацию, в уста-
новленных законом рамках [3].
В силу изложенных выше и иных сопряженных с ними особенностей работы
нейросети приходится согласиться с выводом о том, что на сегодня нейросеть –
да и искусственный интеллект в целом – едва ли могу быть отнесены к субъек-
там права. С точки зрения достигнутого уровня развития техники на сегодняш-
ний день «очевидна несостоятельность предложения признания за искусственным
интеллектом правосубъектности, аналогичной правосубъектности физического
лица, и, несмотря на использование принципов работы человеческого мозга для
построения системы искусственного интеллекта, принципы правового регулиро-
вания статуса физического лица не могут быть применены к искусственному ин-
теллекту» [4. С. 33]. Наделение нейросети самостоятельной правосубъектностью
означает лишь механистическую экстраполяцию прав человека на действия ИИ
[5. P. 15.]. Остается лишенной внутреннего содержания.
Однако невозможность признания за нейросетью самостоятельной право-
вой субъектности не означает невозможности включения нейросети в правовые
отношения. Ведь даже признавая преждевременным положительное решение
вопроса о правосубъектности роботов, нужно согласиться с мыслью «о необхо-
димости сработать на опережение, нормативно закрепить обязанность разра-
ботчиков и других уполномоченных лиц предпринимать все необходимые меры,
обеспечивающие в процессе функционирования искусственного интеллекта ин-
тересы человека, и разработать систему норм, обеспечивающих исполнение этой
обязанности» [4. С. 33].
Несколько упрощая, в международной дискуссии можно выделить несколь-
ко ключевых подходов к решению этого вопроса: констатация отсутствия воз-
можности признания правосубъектности за искусственным интеллектом и воз-
ложения всех правовых последствий его деятельности на человека как субъекта
права [6. P. 1101], применение юридической фикции с установлением для искус-
ственного интеллекта правосубъектности, подобной правосубъектности юридиче-
ских лиц [7. P. 155, 161], или даже формирование новой отрасли законодательства,
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
170
посвященной специфическому регулированию статуса искусственного интеллек-
та и релевантной этой специфики [8].
Заслуживает внимание мнение российских исследователей о том, что сегод-
ня «наиболее рациональным, но не бесспорным видится использование концеп-
ции правосубъектности искусственного интеллекта по типу юридического лица
либо электронного лица; подход к правовому регулированию в рамках юридиче-
ской ответственности, связанной с пользователями, владельцами или производи-
телями систем искусственного интеллекта, а не с технологическими объектами»
[9. С. 46].
Важно подчеркнуть: речь идет не о распространении правового режима юри-
дического лица на нейросеть, а именно об использовании опыта правовой фикции
для регулирования работы важного участника правоотношений. Проще говоря,
правовой режим искусственного интеллекта должен быть отличен и от правосубъ-
ектности физического лица, и от статуса юридического лица. Однако наличие та-
кого правового режима представляется все более и более актуальной.
Эта актуальность обуславливается тем, что отношения, реализуемы с ис-
пользованием нейросети, хотя пока еще и регулируются нормами традиционных
институтов права, однако в таком регулировании все чаще и чаще применяется
аналогия. Это неизбежно, поскольку сами по себе отношения с привлечением тех-
нологий искусственного интеллекта представляют собой принципиально новый
объект регулирования. И этот объект требует новых регуляторных норм.
Невозможно в рамках одной статьи охватить все многообразие реальных
и потенциальных сфер применения технологий искусственного интеллекта.
Однако для иллюстрации вопросов правового порядка, сформулированных выше,
в достаточной мере наглядным примером представляется пока еще относительно
узкая сфера использования нейросети для создания объектов интеллектуальной
собственности.
На сегодня дискуссия о возможности признания авторства за нейросетью
остановилась на констатации того, что нейросеть является не субъектом, а ин-
струментом творческой деятельности. Однако при этом важно разделять посыл-
ку и вывод следующего экспертного суждения: «в деятельности искусственного
интеллекта по созданию результатов, похожих на объекты авторского права, от-
сутствует творчество, поэтому созданные им результаты не могут быть квалифи-
цированы в качестве объектов авторского права и не подлежат охране правом ин-
теллектуальной собственности» [10. C. 21]. Если мысль об отсутствии в работе
нейросети компоненты творчества в собственном смысле этого слова не вызывает
возражений, то отказ на этом основании в охране правом интеллектуальной соб-
ственности представляется сомнительным.
Невозможность признания авторства за нейросетью не исключает авторства
на результаты ее деятельности. Самым простым, хотя и не единственным, подхо-
дом к определению авторства в данном случае может служить признание автором
того физического лица, творческий импульс которого и послужил отправной точ-
кой для работы нейросети. Проще говоря, того, кто задал ей уникальную комби-
нацию ключевых слов или последовательность таких комбинаций. Здесь можно
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
171
вспомнить прецедент XIX в., когда фотоаппарат казался почти такой же иннова-
цией, какой сегодня для нас кажется нейросеть: в деле «Литографическая компа-
ния Берроу-Джайлз против Сарони» 17 марта 1884 г. Верховный суд Соединенных
Штатов Америки признал авторские права на конкретную фотографию не за фото-
аппаратом и не за его изготовителем, а за фотографом [11].
В этих условиях «введение права на результат деятельности искусственного
интеллекта может строиться по модели смежного права, однако оно явно теряет
свою связь с авторским правом, а потому уместно, на наш взгляд, в данном ключе
говорить о праве sui generis на цифровые результаты деятельности искусственного
интеллекта» [12. С. 82]. Причем такие результаты будут существенным образом
отличаться от привычных нам результатов интеллектуальной деятельности.
Во-первых, как уже было означено выше, творческий вклад человека хотя
и остается решающим фактором в создании текста, изображения или музыкаль-
ного произведения, но при этом творческие усилия автора при создании такого
произведения несоизмеримо меньше по сравнению с активностью нейросети по
обработке авторского запроса.
Во-вторых, при обработке такого запроса нейросеть не создает действитель-
но нового контента, а идет путем глубокой обработки уже существующих тек-
стов, изображений и музыкальных произведений. Это ставит перед нами вопрос
о необходимости формирования новых стандартов цитирования и заимствования,
но стандартов не для права интеллектуальной собственности в целом, а именно
для правового регулирования создания произведений с использованием нейросети.
Таким образом, произведения нейросети не должны оставаться вне рамок
правового регулирования и правовой защиты – но при этом и существующие пра-
вовые институты применять к ним все сложнее и сложнее. В данной парадигме
целесообразным представляется согласие с тезисом «о существовании предпосы-
лок для появления в праве интеллектуальной собственности нового правового ин-
ститута – института права на результаты деятельности искусственного интеллек-
та. Институт является sue generis в рамках права интеллектуальной собственности
и не сводится к традиционному авторскому, патентному праву, институту смеж-
ных прав и других, хотя в определенной части и основывается на конструкциях
таких традиционных институтов» [13. С. 28].
Заключение.
За рамками данной статьи остаются многие вопросы, свя-
занные с правосубъектностью искусственного интеллекта, такие как, например,
статус робота-водителя или робота врача и потенциальной ответственности за
причиненный ими вред. Этим вопросам посвящены специальные исследова-
ния, которые в основном склоняются к выводу о субсидиарной ответственности
[14. P. 453, 480] – а точнее, о матрице ответственности, на основании которой во-
прос о возложении неблагоприятных правовых последствий решается индивиду-
ально в каждом конкретном случае с учетом комплекса фактов [15. P. 81].
Однако и приведенного примера проблематики регулирования правового ре-
жима результатов интеллектуальной деятельности, созданных с участием искус-
ственного интеллекта, достаточно для понимания необходимости новых право-
вых институтов. Нейросеть заметным образом изменяет привычные отношения.
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
172
А значит, невозможность наделить нейросеть правами в существующем смысле
этого слова не может означать отсутствие правового регулирование для отноше-
ний, в которых участвует нейросеть.
Применение к работе нейросети существующих норм – например, норм
авторского права на производные произведения – возможно лишь по аналогии.
И по мере развития технологий нейросети эта аналогия с неизбежностью будет
становиться все более условной, требуя создания специальных норм, учитываю-
щих специфику работы технологий искусственного интеллекта.
Разработка таких норм требует широкой дискуссии экспертного сообщества
на междисциплинарной основе, поскольку выводы юридической науки в данном
случае с неизбежностью будут строго детерминированы реальностью информа-
ционных технологий. Но при этом уже сегодня ясно, что нормы права нейросе-
тей могут и должны быть созданы на основании модификации существующих
институтов.
Проще говоря, регулирование искусственного интеллекта не требует рево-
люции в праве. С точки зрения системы права нормы, посвященные искусствен-
ному интеллекту, могут применяться в качестве специальных норм в рамках уже
сложившихся институтов. Вот только формулировка самих этих норм потребует
принципиально нового взгляда на мир с учетом новых цифровых реальностей.
Список литературы
1. Lee J-.A., Hilty R., & Liu K-.C. (Eds.). Artificial intelligence and intellectual
property. Oxford University Press, 2020.
2. Bertolini A. Robots as Products: The Case for a Realistic Analysis of Robotic
Applications and Liability Rules // Law, Innovation and Technology. 2013. Vol. 5.
3. Leenes R., Lucivero F. Laws on Robots, Laws by Robots, Laws in Robots:
Regulating Robot Behaviour by Design // Law, Innovation and Technology. 2014. Vol. 6.
Iss. 2. Pp. 194–222.
4. Дурнева П. Н. Искусственный интеллект: анализ с точки зрения классиче-
ской теории правосубъектности // Гражданское право. 2019. № 5.
5. Nevejans N. European Civil Law Rules in Robotics: Study. European Union,
2016.
6. Calo R., Chizeck H. J., Joh E., Hannaford B. Panel 2: Accountability for the Actions
of Robots // Seattle University Law Review. 2018. Vol. 41.
7. Solaiman S. M. Legal Personality of Robots, Corporations, Idols and Chimpanzees:
A Quest for Legitimacy // Artificial Intelligence and Law. 2017. Vol. 25.
8. Cofone I. Servers and Waiters: What Matters in the Law of AI // Stanford
Technology Law Review. 2018. Vol. 21.
9. Ивлиев Г. П., Егорова М. А. Юридическая проблематика правового статуса
искусственного интеллекта и продуктов, созданных системами искусственного
интеллекта // Журнал российского права. 2022. № 6. С. 32–46.
10. Витко В. Анализ научных представлений об авторе и правах на результа-
ты деятельности искусственного интеллекта // Интеллектуальная собственность.
Авторское право и смежные права. 2019. № 3. С. 5–22.
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
173
11. Burrow-Giles Lithographic Co. v. Sarony. URL: https://www.law.cornell.edu/
supremecourt/text/111/53
12. Харитонова Ю. С. Правовой режим результатов деятельности искусствен-
ного интеллекта // Современные информационные технологии и право: монография
/ Московский госуниверситет им. М. В. Ломоносова, Юридический факультет / отв.
ред. Е. Б. Лаутс. М.: Статут, 2019.
13. Аникин А. С. К вопросу об охраноспособности результатов деятельности
искусственного интеллекта как объекта интеллектуальной собственности // Цивилист.
2022. № 2.
14. Duffy S. H., Hopkins J. P. Sit, Stay, Drive: The Future of Autonomous Car
Liability // SMU Science & Technology Law Review. 2013. Vol. 16.
15. Colonna K. Autonomous Cars and Tort Liability // Case Western Reserve Journal
of Law, Technology & the Internet. 2012. Vol. 4.
О. Г. Кирсанова,
кандидат экономических наук, доцент,
Финансовый университет
при Правительстве Российской Федерации
(Смоленский филиал)
ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИНСТИТУТА
КОММЕРЧЕСКОЙ ТАЙНЫ И ЕЕ ЗАЩИТА
В УСЛОВИЯХ ЦИФРОВИЗАЦИИ ЭКОНОМИКИ
Аннотация.
В статье рассмотрены актуальные проблемы защиты коммерче-
ской тайны в условиях цифровизации экономики. Проанализированы основные
подходы к определению содержания категории «коммерческая тайна», приводит-
ся правовая статистика в рамках рассмотрения дела, связанных с нарушением
коммерческой тайны. Выявлены основные угрозы и направления правового регу-
лирования института коммерческой тайны и ее защиты.
Ключевые слова
: коммерческая тайна, разглашение информации, конфи-
денциальность, информационная безопасность, защита
LEGAL REGULATION OF THE INSTITUTE OF TRADE SECRETS
AND ITS PROTECTION IN THE CONDITIONS OF DIGITALIZATION
OF THE ECONOMY
Abstract.
The article discusses the current problems of protecting trade secrets in
the conditions of digitalization of the economy. The main approaches to the definition
of the content of the category “trade secret” are analyzed, legal statistics are considered
and analyzed in the framework of the consideration of causes related to the violation
of trade secrets. The main threats and directions of legal regulation of the institute
of commercial secrets and its protection are identified.
