ИИ в бизнесе РК: Право, регулирование и ответственность

Правовые аспекты использования искусственного интеллекта (ИИ) в бизнесе: Ответственность, регулирование и мировой опыт

Внедрение систем искусственного интеллекта (ИИ) в бизнес-процессы — от автоматизированного принятия решений и скоринга до клиентского обслуживания и производства — открывает колоссальные возможности для роста эффективности. Однако эта технологическая революция порождает и беспрецедентные правовые вызовы, особенно в сфере ответственности и регулирования. Для Республики Казахстан, активно развивающей свою цифровую экономику и являющейся одним из лидеров в Центральной Азии по цифровизации госуслуг, понимание и минимизация этих юридических рисков является критически важным.

Компания «Закон и Справедливость» проводит анализ текущего законодательства РК (Гражданский кодекс, Закон о цифровых активах, Закон о персональных данных) и мировых трендов для обеспечения правовой защиты вашего бизнеса при работе с ИИ.

1. Регулирование ИИ в Республике Казахстан: текущий статус

На сегодняшний день в РК отсутствует единый, всеобъемлющий закон, посвященный исключительно искусственному интеллекту. Правовое регулирование осуществляется фрагментарно, опираясь на существующую законодательную базу:

Гражданский кодекс РК (ГК РК): Основной источник для регулирования договорных отношений и гражданской ответственности. ИИ-системы, будучи инструментами, не имеют самостоятельной правосубъектности. Ответственность за их действия лежит на собственнике или операторе.

Закон РК «О цифровых активах»: Устанавливает правовой статус некоторых цифровых технологий, но прямо не регулирует вопросы ответственности ИИ за ущерб.

Закон РК «О персональных данных и их защите»: Критически важен, поскольку большинство ИИ-систем обучаются и работают на основе больших массивов данных, включая персональные. Бизнес, использующий ИИ, обязан обеспечить согласие субъектов данных и их защиту (ст. 7, 10).

Регуляторные песочницы (МФЦА): Международный финансовый центр «Астана» (МФЦА) предоставляет специальный режим «регуляторной песочницы» (FinTech Lab), позволяющий тестировать инновационные технологии, включая ИИ, в контролируемой правовой среде.

Ключевой вызов РК: Ответственность за «Черный ящик»

Наибольшая сложность заключается в ответственности за автоматизированное принятие решений (АПР), когда ИИ-система принимает решение без прямого вмешательства человека. В случае ошибки, приведшей к ущербу (например, ошибочный скоринг, отказ в кредите, неправильный диагноз), ГК РК возлагает ответственность на:

Владельца источника повышенной опасности: Если ИИ-система признается таковым (аналогия с механизмами, транспортом), владелец отвечает независимо от вины (ст. 936 ГК РК).

Производителя/Разработчика: Если доказан дефект в самом программном обеспечении или алгоритме.

Для юристов  это означает необходимость тщательного аудита алгоритмов и прописывания договорной ответственности между разработчиком, оператором и конечным пользователем.

2. Мировой опыт регулирования ИИ (Сравнительный анализ 10 стран/регионов)

Мировые державы и регионы подошли к регулированию ИИ по-разному, что создает уникальный опыт, применимый и в РК:

1          Европейский Союз (ЕС)     Комплексный (EU AI Act): Регулирование на основе рисков. Запрет «неприемлемых» рисков (социальный скоринг), жесткое регулирование «высокорисковых» систем (медицина, транспорт).

2          Китай Контроль контента и этика: Жесткое регулирование контента, генерируемого ИИ (AIGC), с требованием обязательной маркировки, а также требование соответствия «социалистическим ценностям».

3          США   Секторальный и гибкий: Регулирование через существующие законы (антидискриминационные, финансовые) и создание добровольных рамок (NIST AI Risk Management Framework).

4          Сингапур       Ориентация на инновации: Создание «Модельного руководства по ИИ-управлению» (AI Governance Framework), направленного на повышение доверия и прозрачности без жесткого законодательного давления.

5          Бразилия       Права потребителей: Акцент на защите прав потребителей и граждан от дискриминации, вызванной ИИ. Активное обсуждение проекта закона о гражданской ответственности ИИ.

6          Канада           Ответственное использование: Проект Закона об искусственном интеллекте и данных (AIDA), фокусирующийся на прозрачности и объяснимости систем.

7          Великобритания      Регуляторная гибкость: Предпочтение секторальным регуляторам (финансы, здравоохранение) вместо единого закона, с акцентом на добровольные кодексы поведения.

8          ОАЭ (Дубай/Абу-Даби)      Инновационная среда: Использование свободных экономических зон для тестирования ИИ и фокус на этических принципах в государственном управлении.

9          Южная Корея           Акцент на отраслях: Регулирование, стимулирующее ИИ в определенных отраслях (полупроводники, телекоммуникации) при одновременном обсуждении авторских прав на ИИ-контент.

10        Япония           Авторское право и данные: Акцент на разрешении вопросов использования существующих данных для обучения ИИ (copyright exceptions) и развитие стандартов.

3. Ключевые правовые риски для бизнеса в РК

Дискриминация и предвзятость (Bias): ИИ, обученный на предвзятых данных (например, исключающих определенные этнические или социальные группы), может принимать дискриминационные решения. В РК это может стать основанием для административной или гражданской ответственности за нарушение конституционных прав.

Авторское право на контент, созданный ИИ: Чей контент — человека или ИИ? По текущему законодательству РК, автором может быть только физическое лицо (ст. 972 ГК РК). Контент, созданный ИИ, должен быть либо отнесен к общественному достоянию, либо права на него могут принадлежать оператору, который внес творческий вклад.

Несоблюдение конфиденциальности: Использование ИИ для анализа клиентских данных без их анонимизации или без получения информированного согласия является прямым нарушением Закона РК о персональных данных.

4. Стратегии минимизации рисков для компаний в РК

Для обеспечения правовой безопасности при внедрении ИИ, компаниям в Казахстане необходимо:

Проводить правовой аудит ИИ-систем: Анализировать, какие данные используются, как происходит АПР и какие риски (дискриминация, утечка) существуют.

Разрабатывать внутренние этические кодексы: Принятие правил, обеспечивающих прозрачность, объяснимость и справедливость работы алгоритмов.

Четко прописывать договоры: В контрактах с разработчиками ИИ необходимо фиксировать гарантии качества, ответственность за дефекты, а также регулировать вопросы интеллектуальной собственности на созданный ИИ-контент.

Соблюдать принципы «Privacy by Design»: Внедрять меры защиты персональных данных на этапе проектирования ИИ-системы.

Юристы «Закон и Справедливость» помогают бизнесу не только соблюдать существующие нормы РК, но и адаптировать лучшие мировые практики, готовясь к неизбежному ужесточению регулирования в области ИИ.

 

ТОП 10 Вопросов и ответов по Законодательству РК (ИИ в бизнесе)

Вопрос 1. Несет ли разработчик ответственность за ошибку ИИ, приведшую к убыткам клиента?

Ответ: Да, если ошибка произошла из-за дефекта программного обеспечения или нарушения гарантий качества, ответственность может быть возложена на разработчика по договору или в рамках ГК РК.

Вопрос 2. Кому принадлежат авторские права на текст, созданный генеративным ИИ в РК?

Ответ: По законодательству РК, автором может быть только физическое лицо. Права принадлежат оператору или лицу, которое внесло творческий вклад в создание контента с помощью ИИ.

Вопрос 3. Может ли ИИ-система считаться «источником повышенной опасности» в РК?

Ответ: Это спорный вопрос, но суды могут применить аналогию, особенно для автономных и потенциально опасных систем (например, в промышленности), что возложит объективную ответственность на владельца (ст. 936 ГК РК).

Вопрос 4. Какие требования по защите персональных данных наиболее критичны при использовании ИИ?

Ответ: Критичны требования к согласию субъекта данных, их анонимизации и обеспечению их безопасности в соответствии с Законом РК «О персональных данных».

Вопрос 5. Разрешено ли в РК использовать ИИ для автоматизированного принятия решений о найме или увольнении?

Ответ: Да, разрешено, но при этом необходимо исключить дискриминацию, а работнику должна быть предоставлена возможность оспорить это решение (принцип человеческого контроля).

Вопрос 6. Какой орган в РК осуществляет контроль за оборотом и использованием цифровых активов (к которым могут относиться некоторые ИИ-решения)?

Ответ: В зависимости от сферы, это может быть Агентство РК по регулированию и развитию финансового рынка (АРРФР), Министерство цифрового развития (МЦРИАП) или суды.

Вопрос 7. Как МФЦА регулирует ИИ в своей юрисдикции?

Ответ: МФЦА предоставляет возможность тестирования ИИ-проектов в рамках «регуляторной песочницы» и регулирует цифровые активы, используя принципы английского права, что обеспечивает большую гибкость.

Вопрос 8. Могут ли данные, полученные ИИ, использоваться в качестве доказательства в суде РК?

Ответ: Да, если соблюдены требования процессуального законодательства РК к электронным и цифровым доказательствам (подлинность, надлежащее получение и фиксация).

Вопрос 9. Существует ли в РК этический кодекс или руководство по использованию ИИ?

Ответ: Да, государственные органы разрабатывают и внедряют Концепции и Национальные стратегии по развитию ИИ, которые включают этические принципы и требования к прозрачности.

Вопрос 10. Что делать компании, если ИИ-система допускает дискриминацию?

Ответ: Немедленно прекратить использование дискриминирующего алгоритма, провести аудит предвзятости, уведомить пострадавшую сторону и быть готовым к гражданской ответственности за нарушение прав.

 

ТОП 25 Кейсов от Юристов Экспертов  (ИИ и Ответственность)

Ответственность за ошибочный скоринг: Защита банка от иска клиента, которому ИИ ошибочно отказал в кредите; доказательство того, что ошибка была вызвана недостаточными данными, а не дефектом алгоритма.

Взыскание убытков с разработчика: Взыскание с разработчика ИИ-системы, которая из-за программного дефекта привела к сбою в логистической цепи клиента.

Оспаривание решения ИИ о найме: Представление интересов кандидата, доказавшего, что АПР-система рекрутинга допустила косвенную дискриминацию по возрасту, что привело к отмене решения.

Защита авторства на ИИ-контент: Установление и юридическое закрепление прав клиента-оператора на логотип, созданный генеративным ИИ.

Конфиденциальность данных в обучении ИИ: Успешная защита компании от штрафа за использование псевдонимизированных персональных данных для обучения ИИ без прямого согласия, но с соблюдением требований анонимизации.

Дело о «глубинном фейке»: Защита репутации клиента от видео-«дипфейка», сгенерированного ИИ, включая обращение в правоохранительные органы и суд.

Нарушение GDPR (трансграничное): Консультирование казахстанского стартапа по приведению их ИИ-решения для европейского рынка в соответствие с требованиями GDPR.

ИИ как источник повышенной опасности: Урегулирование претензии к производственному предприятию, где автономный робот (ИИ) нанес ущерб оборудованию, с применением принципа объективной ответственности.

Оспаривание патента на ИИ-изобретение: Доказательство того, что изобретение, полученное с помощью ИИ, имеет творческий вклад человека, что позволило клиенту получить патент.

Аудит на предвзятость: Проведение юридического и технического аудита HR-алгоритма клиента для устранения потенциальной гендерной предвзятости.

Утечка данных через ИИ-чат-бота: Защита компании от коллективного иска после утечки клиентских данных, произошедшей через уязвимость в ИИ-чат-боте.

Разрешение спора о праве владения моделью: Установление прав собственности на обученную ИИ-модель после разрыва отношений между разработчиками.

Оспаривание автоматизированного налогового начисления: Представление интересов компании, оспаривающей налоговые начисления, сделанные ИИ-системой налогового органа.

Доказательство недобросовестности ИИ: Использование ИИ-экспертизы для доказательства того, что конкурент использовал заведомо ложную информацию для обучения своей системы.

Договорная защита от ошибок ИИ: Включение в договоры с поставщиками ИИ-решений четких положений о страховании гражданской ответственности за причинение ущерба.

Защита от трудового спора (ИИ-мониторинг): Урегулирование спора с сотрудником, уволенным на основе данных, собранных ИИ-системой мониторинга, с проверкой законности сбора этих данных.

ИИ в медицине (контракт): Разработка контракта для поставщика медицинских ИИ-систем, четко разграничивающего ответственность между ИИ-диагностикой и врачом.

Регистрация программы в МЦРИАП: Юридическое сопровождение регистрации ИИ-программного обеспечения в уполномоченном органе РК.

ИИ и антимонопольное право: Консультирование крупной торговой сети по использованию ИИ для ценообразования, чтобы избежать обвинений в ценовом сговоре.

Досудебное урегулирование (права потребителей): Урегулирование претензии потребителя, пострадавшего от неверной рекомендации, предоставленной ИИ-консультантом интернет-магазина.

Оспаривание решения МФЦА: Представление интересов финтех-компании в суде МФЦА по вопросам регулирования их инновационного ИИ-продукта.

Регуляторная песочница: Сопровождение заявки клиента на участие в Регуляторной песочнице для тестирования их ИИ-решения в области недвижимости.

ИИ-патентный троллинг: Защита клиента от патентных исков, связанных с использованием ИИ для генерации технической документации.

Контракт об использовании "чужих" данных: Разработка сложного лицензионного соглашения для ИИ-компании, использующей сторонние датасеты для обучения.

Обязанность объяснять решение (Right to Explanation): Успешное требование к крупной компании предоставить клиенту объяснение автоматизированного решения, принятого ИИ.

✅Позвоните нам прямо сейчас :   tel: 7 707 018 80 76 

✅Напишите в чат Юриту - Эксперту в области ИИ https://wa.me/77029788573

✅Стоимость консультации — от 10 000 ₸ (первичный разбор дела в подарок)

✅ Наша соц сеть  https://www.linkedin.com/in/anatoliy-bakhirev-ba620133b/