Юрист по ИИ (AI): защита интересов разработчиков и заказчиков

Способность нейросети обучаться на исходных данных и накапливать опыт создает предпосылки для нанесения вреда третьим лицам. Так, например, возможно нарушение прав на чужую интеллектуальную собственность, поскольку происходит обучение ИИ на большом массиве контента (изображений, текстов, музыки, видеороликов и др.) Кроме того, недобросовестные пользователи могут передавать нейросети чужие персональные данные, а недобросовестные операторы ИИ-сервисов – использовать полученные данные в собственных целях.
В связи с тем, что нейросети самообучаются в процессе их использования на основании данных, которые получены от пользователей, возникают риски несанкционированной обработки и последующего использования коммерческой и иной охраняемой законом тайны (особо чувствительная информация), что создает прямые угрозы для бизнеса и государства.
Генеративные нейросети систематически нарушают авторские права правообладателей, поскольку алгоритмы разработчиков без разрешения используют защищенные авторскими правами изображения для обучения своих моделей. Потенциально в зоне риска находятся и пользователи нейросетей: использование сгенерированных изображений в коммерческой деятельности (например, предприятием – при производстве товаров, работником – при разработке «уникального» дизайна) может повлечь, как минимум, блокировку товаров на маркетплейсах, а как максимум – судебный иск с требованием компенсации в размере до 5 миллионов рублей. Правообладатель может усмотреть в таких действиях пользователя нейросети переработку изображений или использование образа персонажа, охраняемого авторским правом или зарегистрированного в качестве товарного знака

Поскольку нейросети не обладают человеческим сознанием, они не могут руководствоваться этикой, социальными нормами и моралью при принятии решений, что может приводить к дискриминации и предвзятости по отношению к конкретному лицу или группе лиц (например, по половому или расовому признаку). В частности, имеются повышенные риски в следующих сферах: здравоохранении, судопроизводстве, кредитовании, приеме на работу.
Факторов, влияющих на принятие дискриминационных решений, может быть множество. Среди них: неполные или некорректные исходные данные, умышленное использование разработчиками предвзятой информации, использование исторических данных, отсутствие баланса (разработчики пытаются извлечь максимальную выгоду и производительность из нейросети, игнорируя социальные нормы и общественный интерес).
Пример: алгоритм «Amazon» при трудоустройстве обучался на резюме лиц мужского пола европеоидной расы, что привело к дискриминации при приеме на работу женщин. Критике подверглась и программа «COMPAS», применяемая в судах США для анализа биографии обвиняемых и оценки рисков рецидива – программа необоснованно записывала в группу низкого риска лиц мужского пола европеоидной расы и наоборот

В целях предотвращения негативных последствий алгоритмы ИИ должны обладать полной прозрачностью – разработчики обязаны раскрывать пользователям (особенно в таких наиболее чувствительных сферах как здравоохранение, финансы, судебная система) подробную информацию, в том числе:

1. Сведения, на основании которых проводится обучение нейросети (какие базы данных используются, откуда получен доступ, соблюдены ли права третьих лиц)
2. Агоритмы, на основании которых нейросети принимают решения, выраженные в понятной пользователю форме

Соблюдение таких требований повышает доверие пользователей и государства к работе нейросетей, а также ускоряет их внедрение в бизнес-процессы и работу государственных органов. Понимание работы алгоритмов помогает разработчикам гарантировать, что нейросети не усиливают предвзятость и дискриминацию в обществе

Помимо вышеуказанных рисков, ИИ способен манипулировать поведением людей, особенно в сферах торговли и услуг, например, посредством использования результатов бесед с пользователями для формирования персональных рекомендаций. Фактически, каждый пользователь, активно взаимодействующий с ИИ, раскрывает сервису множество чувствительных сведений, на основании которых может быть составлен подробный портрет пользователя. И такой портрет, в лучшем случае, будет использоваться для создания персонализированной рекламы, а в худшем – для формирования «социального рейтинга»

Следует учитывать и дополнительные обстоятельства:

1. Автором изобретения может быть только физическое лицо (при этом, правообладателем может являться компания)
2. Помимо использования патентных процедур, возможно депонирование программ для их защиты в качестве объектов авторского права, а также регистрация уникальных названий продукта или технологии в качестве товарных знаков
3. Программы для ЭВМ могут быть зарегистрированы в Роспатенте – это не подтверждает их актуальность, но позволяет подтвердить дату их создания определенным лицом и защитить софт от притязаний других лиц

Так, приказом Минэкономразвития РФ № 392 «Об утверждении критериев определения принадлежности проектов к проектам в сфере искусственного интеллекта» предусмотрены 3 основные критерия для отнесения ПО к категории ИИ: 

За рубежом