Регулирование
отношений
в
сфере
технологий
искусственного
интеллекта
и
робототехники
______________________________________________________________________________________________________________________
42
А.
А.
Карцхия,
доктор
юридических
наук,
профессор,
Российский
государственный
университет
нефти
и
газа
(национальный
исследовательский
университет)
имени
И.
М.
Губкина
ИСКУССТВЕННЫЙ
ИНТЕЛЛЕКТ
В
НОВОЙ
ПАРАДИГМЕ
Аннотация.
Переход
общества
к
новой
технологической
основе
через
внедрение
современных
информационно
-
коммуникационных
технологий
может
существенно
преобразовать
экономику
и
общественные
отношения.
Однако
уни-
кальные
возможности
передовых
цифровых
технологий,
таких
как
искусствен-
ный
интеллект,
большие
данные
и
облачные
вычисления,
несут
в
себе
риски,
способные
поставить
под
угрозу
общепринятые
ценности.
Эти
новые
цифровые
возможности
имеют
глобальное
значение
и
могут
значительно
изменить
обще-
ственную
жизнь.
Поэтому
особое
внимание
следует
уделять
вопросам
ответ-
ственности
и
безопасности
при
использовании
технологий
искусственного
ин-
теллекта,
а
также
защите
прав
и
интересов
людей,
включая
их
персональные
данные.
Ключевые
слова:
доверенный
искусственный
интеллект,
интеллектуаль-
ная
собственность,
ответственность,
безопасность
искусственного
интеллекта,
угрозы
и
риски,
связанные
с
технологией
искусственного
интеллекта,
устойчи-
вое
развитие,
интеллектуальная
собственность,
кибербезопасность
ARTIFICIAL INTELLIGENCE TOWARDS A NEW PARADIGM
Abstract.
The
transition
of
society
to
a
new
technological
basis
through
the
i
n-
troduction
of
modern
information
and
communication
technologies
can
significantly
transform
the
economy
and
social
relations.
However,
the
unique
capabilities
of
ad-
vanced
digital
technologies
such
as
artificial
intelligence,
big
data,
and
cloud
comp
u-
ting
carry
risks
that
can
compromise
conventional
values.
These
new
digital
opportuni-
ties
are
of
global
importance
and
can
significantly
change
public
life.
Therefore,
sp
e-
cial
attention
should
be
paid
to
issues
of
responsibility
and
security
when
using
artifi-
cial
intelligence
technologies,
as
well
as
the
protection
of
people's
rights
and
interests,
including
their
personal
data.
Keywords:
trusted
artificial
intelligence,
intellectual
property,
liability,
artifi-
cial
intelligence
security,
threats
and
risks
of
AI
technology,
sustainable
development,
intellectual
property,
cybersecurity
В
настоящее
время
приобретает
особое
значение
современное
понимание
искусственного
интеллекта.
Так
,
определение
основано
на
концептуальном
представлении
об
ИИ,
подробно
изложенном
в
книге
С.
Рассела
и
П.
Норвига
[
1],
где
«
искусственный
интеллект
представляет
собой
компьютерную
систему,
которая
может
для
достижения
заданного
набора
целей,
определенных
челове-
ком,
делать
прогнозы,
рекомендации
или
принимать
решения,
влияющие
на
ре-
Регулирование
отношений
в
сфере
технологий
искусственного
интеллекта
и
робототехники
______________________________________________________________________________________________________________________
43
альную
или
виртуальную
среду.
Системы
искусственного
интеллекта
предназна-
чены
для
работы
с
различным
уровнем
автономии».
Вместе
в
тем
по
мере
того
как
возможности
искусственного
интеллекта
становятся
все
более
мощными
растущее
использование
систем
искусственного
интеллекта,
по
мнению
аналитиков
[2
.
С.
3
–
5],
может
привести
к
определенным
изменениям
ландшафта
угроз,
которые
можно
классифицировать
следующим
образом,
разделив
на
три
сферы
безопасности:
–
цифровая
безопасность
,
характеризуемая
тем,
что
использование
искус-
ственного
интеллекта
позволяет
существенно
повысить
эффективность
проведе-
ния
кибератак,
что
создаст
новые
угрозы
с
использованием
уязвимостей
челове-
ка
виде
фишинга,
синтеза
речи
и
образов
(
deep fake
)
или
утечки
данных.
–
физическая
безопасность,
предполагающая
использование
беспилотных
летательных
(над
-
и
подводных)
аппаратов
и
других
автоматизированных
систем
(в
т.
ч.
автономных
систем
вооружения,
рой
микродронов
и
т.
п.),
а
также
атаки
на
киберфизические
системы
(на
транспорте,
в
промышленности
и
др.)
или
кри-
тически
важную
инфраструктуру.
–
политическая
безопасность,
при
использование
искусственного
интел-
лекта
для
сбора
и
анализа
данных
в
целях
целенаправленной
пропаганды
или
манипулирование
сознанием
и
общественным
мнением
путем
вторжения
в
част-
ную
жизнь
или
анализа
и
манипулирования
поведением,
настроениями
и
убеж-
дениями
людей
на
основе
имеющихся
данных.
Современные
базовые
модели
ИИ,
лежащие
в
основе
ChatGPT
и
подобных
систем,
работают
во
многом
так
же,
как
марковская
модель.
Но
ChatGPT
намного
больше
и
сложнее,
с
миллиардами
параметров,
обучен
на
огромном
объеме
дан-
ных,
по
большей
части
общедоступного
контента
в
Интернете.
В
этом
огромном
массиве
текста,
слова
и
предложения
появляются
в
последовательностях
с
опре-
деленными
зависимостями,
что
помогает
модели
ИИ
понять,
как
разбить
текст
на
статистические
фрагменты,
которые
обладают
некоторой
предсказуемостью.
ИИ
изучает
шаблоны
таких
блоков
текста,
используя
эти
знания,
чтобы
предло-
жить
определенное
решение
[
11].
Появляются
новые
модели
искусственного
интеллекта
–
агентский
искус-
ственный
интеллект,
который
является
более
гибкой
системой,
которая
может
обеспечить
более
высокую
автоматизацию
и
производительность
труда
в
опре-
деленных
отраслях
и
помочь
тем,
кому
не
хватает
цифровой
грамотности.
Агент
искусственного
интеллекта
может
взаимодействовать
с
приложениями
или
веб
-
сайтами,
добавлять
товары
в
корзину
и
оформлять
заказ
в
соответствии
с
пред-
варительно
зарегистрированными
предпочтениями
и
способами
оплаты,
запол-
нять
и
отправлять
форму
или
отвечать
на
приглашения
на
мероприятия
[
3.
С.
3].
В
последние
годы
генеративный
искусственный
интеллект
переживает
стремительный
рост,
который
сопровождается,
в
том
числе,
растущими
пробле-
мами
охраноспособности
результатов
деятельности
искусственного
интеллекта
в
сфере
интеллектуальной
собственности.
В
настоящее
время
в
разных
странах
ак-
тивно
идет
процесс
выработки
правового
режима
авторства
искусственного
ин-
теллекта
и
патентной
защиты
его
технологий
[4–
7].
Регулирование
отношений
в
сфере
технологий
искусственного
интеллекта
и
робототехники
______________________________________________________________________________________________________________________
44
Быстрое
развитие
генеративного
искусственного
интеллекта,
в
частности,
создало
целый
лабиринт
новых
проблем
с
авторским
правом.
Эти
вопросы
в
первую
очередь
касаются
способа
обучения
моделей
искусственного
интеллекта
и
того,
являются
ли
результаты
разработок
этих
моделей
самостоятельным
охраноспособным
объектом,
чтобы
давать
им
право
на
защиту
авторским
пра-
вом.
«
Основной
вопрос
в
сфере
авторского
права
заключается
в
том,
обладают
ли
произведения,
созданные
искусственным
интеллектом,
достаточно
творческим
началом,
чтобы
иметь
право
на
защиту
авторским
правом.
Одна
из
точек
зрений
заключается
в
том,
что
произведения,
созданные
с
помощью
текстовых
подска-
зок
и
не
требующие
какого
-
либо
дополнительного
творческого
вклада
пользова-
теля
-
человека,
как
в
случае
с
генеративными
инструментами
искусственного
ин-
теллекта,
не
защищаются
авторским
правом,
поскольку
эти
подсказки
больше
похожи
на
инструкции
для
художника,
получившего
заказ»
[
8.
С.
7
–
9].
В
этой
ситуации
возрастает
значение
комплексных
исследований
развития
искусственного
интеллекта,
его
новой
парадигмы
в
т.
ч.
по
правовым
вопросам
применения
технологий
искусственного
интеллекта
в
цифровой
экономике
[
9.
C
.
165;
10.
C
.
27
–
28].
Бурный
рост
цифровых
технологий
за
последние
годы
привел
к
резкому
увеличению
интереса
к
искусственному
интеллекту
и
другим
передовым
техно-
логиям.
Быстрая
эволюция
и
практическое
применение
технологий
искусствен-
ного
интеллекта
связаны
с
ожиданиями
значительного
увеличения
производи-
тельности
труда,
стимулирования
инноваций
и
предпринимательства,
а
также
решения
глобальных
задач,
включая
социальные
вызовы,
такие
как
улучшение
системы
здравоохранения
и
борьба
с
изменением
климата,
что
способствует
до-
стижению
целей
устойчивого
развития.
В
такой
ситуации
концепция
доверенного
(ответственного)
искусственно-
го
интеллекта
может
стать
базой
для
разработки
универсальных
международных
рекомендаций
по
созданию
и
использованию
технологий
и
моделей
искусствен-
ного
интеллекта.
Это
позволит
сформировать
правовые
нормы
в
рамках
нацио-
нальных
законодательств
различных
стран,
основываясь
на
принципах
защиты
прав
человека,
конфиденциальности
и
безопасности
данных,
а
также
прозрачно-
сти,
объяснимости,
справедливости,
подотчетности
и
безопасности
искусствен-
ного
интеллекта.
Важным
шагом
на
пути
к
достижению
этой
цели
станет
между-
народная
конвенция
против
использования
информационно
-
коммуникационных
технологий
в
преступных
целях,
проект
которой
был
согласован
специальным
комитетом
ООН
в
августе
2024
года.
Вместе
с
тем
этот
процесс
порождает
и
новые
угрозы
и
вызовы
для
чело-
века,
что
служит
особым
фактором,
который
необходимо
учитывать
при
стиму-
лировании
развития
искусственного
интеллекта.
Искусственный
интеллект
обладает
потенциалом
для
решения
наиболее
сложных
задач,
стоящих
перед
человечеством.
В
этом
контексте
особенно
важ-
ными
становятся
вопросы
ответственности
и
надежности
технологий
искус-
ственного
интеллекта
при
их
применении,
а
также
гарантии
защиты
прав
и
инте-
ресов
человека,
включая
защиту
его
персональных
данных.
Регулирование
отношений
в
сфере
технологий
искусственного
интеллекта
и
робототехники
______________________________________________________________________________________________________________________
45
Список
литературы
1.
Russell
S.,
Norvig
P.
Artificial
Intelligence:
A
Modern
Approach
/
3rd
edi-
tion.
–
London:
Pearson,
2009.
[Электронный
ресурс].
–
URL:
2.
Brundage
М.
[et
al.]
The
Malicious
Use
of
Artificial
Intelligence:
Forecas
t-
ing,
Prevention,
and
Mitigation,
2018
[
Электронный
ресурс].
–
URL:
https://www.eff.org/files/2018/02/20/malicious_ai_report_final.pdf
3.
Aggarwal,
Rohit
and
Singh,
Harpreet,
Overcoming
Limitations
of
Ai
Agents:
Integrating
Tacit
Knowledge
Through
Inferred
Latent
Themes
(May
27,
2024).
[
Электронный
ресурс].
–
URL:
https://ssrn.com/abstract=4843878
4.
Юридическая
концепция
роботизации:
монография
/
Н.
В.
Антонова,
С.
Б.
Бальхаева,
Ж.
А.
Гаунова
и
др.;
отв.
ред.
Ю.
А.
Тихомиров,
С.
Б.
Нанба.
–
М.:
Проспект,
2019.
– 240
с.
5.
Карцхия
А.
А.
Правовое
регулирование
и
возможности
современных
биотехнологий
//
ИС.
Промышленная
собственность.
–
2020.
–
№
8.
–
С.
33
–
46.
6.
Рожкова
М.
А.
Станет
ли
искусственный
интеллект
самостоятельным
субъектом
права?
//
Хозяйство
и
право.
–
2021.
–
№
6
.
–
С.
14
–
22.
7.
Харитонова
Ю.
С.,
Савина
В.
С.
Технология
искусственного
интеллекта
и
право:
вызовы
современности
//
Вестник
Пермского
университета.
Юридиче-
ские
науки.
–
2020.
–
Вып.
49.
– C
.
524–
549.
– DOI
:
10.17072/1995
-
4190
-2020-
49
-
524-
549
8.
Hill
M.,
Hackworth
A.
Copyright
in
the
Age
of
AI,
2023.
[Электронный
ре-
сурс].
–
URL:
https://www.charlesrussellspeechlys.com
9.
Доклад
НИУ
ВШЭ
«
Правовые
аспекты
использования
искусственного
интеллекта:
актуальные
проблемы
и
возможные
решения»
/
отв.
рук.
В.
Б.
Наумов,
С.
А.
Чеховская,
А.
Ю.
Брагинец,
А.
В.
Майоров.
–
М.:
Изд.
ВШЭ,
2021.
10.
Амелин
Р.
В.,
Чаннов
С.
Е.
Эволюция
права
под
воздействием
цифро-
вых
технологий.
Москва:
НОРМА,
2023.
11.
Zewe
A.
Explained:
Generative
AI.
MIT
News
Publication
Date:
Nove
m-
ber
9,
202
3.
[Электронный
ресурс].
–
URL:
https://news.mit.edu/2023/explained
