Минцифры предложило реестр доверенных моделей ИИ (ст. 8), а правительство сможет устанавливать случаи обязательного применения суверенного и национального ИИ (ст. 7). Бизнес смотрит на реестр как на гарантию. Юрист смотрит иначе: реестр создает новые договорные риски.

Реестр доверенных моделей ИИ — это не гарантия безопасной сделки. Статус «доверенной» можно потерять задним числом, ответственность за ошибку модели смещена в сторону разработчика, а обязанность проверять поставщика по реестру ложится на заказчика. Вывод для бизнеса: риски закрываются не реестром, а договором — штрафом за неуведомление об утрате статуса, правом на односторонний досудебный отказ и регулярной перепроверкой реестра.

1. Что делать с утратой статуса «доверенной модели»?

Следует отметить, что под доверенной моделью ИИ понимается модель (включая суверенные и национальные), которая одновременно:

• безопасна — имеет подтверждение ФСТЭК России и ФСБ России;

• локальна — работает только на серверах в России, данные не покидают страну;

• качественна — получила подтверждение от профильного ведомства (федерального органа, госкорпорации или Банка России) в своей сфере.

Статья 8 законопроекта называет три главных требования для включения в реестр. Следовательно, потерять статус можно, если:

• нарушена «кибер-безопасность»: если ФСБ или ФСТЭК выявят в модели критические уязвимости («дыры»), через которые можно взломать систему или украсть данные;

• нарушена локализация данных: если вдруг выяснится, что хоть часть пользовательских данных обрабатывается на серверах за пределами РФ;

• провалено «техобслуживание»: если модель перестала соответствовать отраслевым стандартам качества (например, у финансовой модели сбились настройки, и она начала давать неверные прогнозы).

И вот первая ловушка для заказчика. Вы заключили договор, когда модель была в реестре. Через полгода статус сняли, а вы об этом даже не узнали, потому что поставщик не обязан вам звонить. Если модель работает в государственной информационной системе или на объекте КИИ, где допускаются только доверенные модели, вы оказываетесь в зоне нарушения, не сделав ничего.

2. Кто отвечает за ошибку доверенной модели?

Статья 11 законопроекта устроена так, что разработчик доверенной модели несёт практически «безусловную» ответственность.

Оператор (госорган) может спокойно работать: его защищают части 3 и 6 (он может потом взыскать всё с разработчика).

Пользователь (человек) почти всегда не виноват.

Разработчик находится под презумпцией вины (ч. 2), и ему практически невозможно от неё уйти (ч. 3).

Практический вывод от этого не меняется: если вы разработчик или поставщик — вы в группе максимального риска. Если заказчик — ваша задача убедиться, что у поставщика хватит ресурсов отвечать по обязательствам, а не остаться с иском к компании-пустышке.

3. Как проверять поставщика по реестру?

Исходя из содержания законопроекта и учитывая то, как ведется взаимодействие с госорганами на практике, реестр не снимает риски. Их важно будет прорабатывать в условиях соответствующих договоров с поставщиками моделей ИИ. К примеру, прописать в договоре штраф за неуведомление и право на расторжение договора в досудебном одностороннем порядке при утрате статуса

Статья 8 устанавливает три обязательных условия, которым должна соответствовать доверенная модель. Таким образом проверка поставщика — это проверка наличия доказательств выполнения каждого из этих условий.

Можно вывести алгоритм процедуры проверки поставщика:

• запросить выписку из реестра (конкретная версия модели);

• запросить копии трёх «первичных» документов (ФСТЭК, ФСБ, локализация, отраслевой сертификат);

• проверить сроки действия всех заключений;

• убедиться в совпадении версий модели (в реестре и поставляемой);

• регулярно перепроверять статус в реестре (исключив риск аннулирования статуса «доверенной модели»).

Бизнесу, который хочет разрабатывать доверенные модели, нужно закладывать в бизнес-модель:

• существенные расходы на страхование профессиональной ответственности;

• создание резервного фонда под судебные риски;

• цены на доверенные модели, в 5-10 раз превышающие рыночные, чтобы окупить эти риски.

Несмотря на то, что законопроект не предписывает страхование и резервы, по его духу создаются риски ответственности, которые подводят к тому, что целесообразнее:

• страховаться (чтобы покрыть возможные иски),

• формировать резервы (для судебных издержек),

• закладывать кратный запас в цену (иначе проект может стать неокупаемым).

Сам законопроект можно отследить по ссылке.

Если нужно проверить конкретный договор на эти риски — обращайтесь к нашим юристам, разберём вашу ситуацию.

FAQ-блок

Юридический аутсорсинг/консалтинг

Подробнее о услуге →