ИИ под контролем: как новые требования ЦБ изменят цифровизацию банков

Банк России впервые выпустил подробные рекомендации по информационной безопасности при использовании искусственного интеллекта на финансовом рынке. Документ фактически формирует новую систему управления рисками ИИ для банковского сектора: от контроля данных и защиты моделей до обязательного участия человека в наиболее чувствительных процессах.
Эксперты считают, что регулятор не ограничивает внедрение искусственного интеллекта, а задаёт правила его безопасного использования. Однако вместе с технологическими рисками остаются нерешёнными вопросы ответственности, прозрачности решений и зависимости банков от поставщиков ИИ-решений.

От этических принципов к практическому регулированию

Российский финансовый сектор входит в этап более зрелого регулирования искусственного интеллекта. Если ещё год назад Банк России говорил преимущественно об этических принципах применения ИИ, то теперь речь идёт о конкретных механизмах управления рисками.
Основатель и генеральный директор Cloud X Денис Хлебородов отмечает, что опубликованные рекомендации стали логичным продолжением работы регулятора.
По его словам, в 2025 году ЦБ сформировал базовые принципы применения искусственного интеллекта на финансовом рынке - человекоцентричность, прозрачность, справедливость, безопасность и ответственное управление рисками. Новый документ переводит эти идеи в практическую плоскость.
Если банк использует ИИ в значимых бизнес-процессах, он должен понимать, какие риски возникают, кто за них отвечает, каким образом осуществляется контроль результатов, и на каких этапах необходимо участие человека.
Фактически регулятор даёт понять рынку: эпоха использования искусственного интеллекта в формате "чёрного ящика" заканчивается.

Почему банки больше не могут доверять ИИ безоговорочно

Главная проблема заключается в том, что искусственный интеллект нередко воспринимается как объективный инструмент принятия решений.
Однако, как подчёркивает Денис Хлебородов, ИИ всегда зависит от качества данных, логики разработчиков, ограничений модели и особенностей бизнес-процессов, в которые он встроен.
Схожую позицию занимает директор по аналитике "Инго Банка" Василий Кутьин.
По его словам, одной из наиболее серьёзных проблем остаётся непрозрачность решений современных моделей. Даже разработчики зачастую не способны детально объяснить, почему алгоритм принял то или иное решение.
Для банков это создаёт риски ошибок в кредитном скоринге, выявлении мошеннических операций и оценке клиентов.
Кроме того, серьёзной проблемой становятся так называемые галлюцинации ИИ - ситуации, когда система формирует убедительный, но фактически неверный вывод.
Для финансовой отрасли, где цена ошибки может исчисляться миллионами рублей, подобные сбои становятся критическими.

Новое поколение угроз: что пугает регулятора

Одной из главных особенностей рекомендаций Банка России стало описание угроз, характерных именно для искусственного интеллекта.
Если традиционная информационная безопасность сосредоточена на защите инфраструктуры и данных, то ИИ создает новые векторы атак.
Среди них:

отравление обучающих данных;
внедрение вредоносных инструкций через запросы пользователей;
скрытые уязвимости в моделях;
попытки извлечения конфиденциальной информации;
деградация качества модели;
атаки на принятие решений;
риски поставщиков и внешних сервисов.

Доцент Финансового университета при правительстве РФ Михаил Хачатурян добавляет, что к этому списку следует отнести

искажённые обучающие выборки,
кибератаки на ИИ-системы,
риск дискриминации клиентов,
чрезмерную зависимость от поставщиков технологий и
чрезмерное доверие сотрудников к алгоритмам.

По его словам, особую опасность представляет ситуация, когда сотрудники начинают воспринимать решения нейросети как безусловно правильные и перестают проводить дополнительную проверку. В таком случае ошибка модели автоматически становится ошибкой банка.

Человек остаётся последней линией защиты
Одной из наиболее обсуждаемых рекомендаций ЦБ стало требование сохранять участие человека в критически важных процессах. Речь идёт прежде всего о платёжных операциях и иных действиях с высоким уровнем риска. При этом эксперты подчёркивают, что регулятор не предлагает отказаться от автоматизации.
Как отмечает Денис Хлебородов, рекомендация касается только операций с высоким уровнем риска информационной безопасности и не означает обязательную ручную проверку каждого решения искусственного интеллекта.
Василий Кутьин также считает такой подход сбалансированным. По его мнению, ИИ способен эффективно выполнять аналитические функции: обрабатывать документы, выявлять подозрительные операции, помогать в обслуживании клиентов и формировать рекомендации.
Однако окончательные решения по вопросам кредитования, блокировки счетов, оценки спорных операций и управления крупными рисками должны принимать специалисты банка. Таким образом, искусственный интеллект становится помощником, а не самостоятельным субъектом принятия решений.

Информационная безопасность начинается не с технологий

Руководитель управления информационной безопасности "Свой Банк" Алексей Ахмеев обращает внимание на фактор, который часто недооценивается при обсуждении ИИ, - человеческие ошибки. По его мнению, большинство рисков возникает не из-за самих технологий, а из-за неправильного использования языковых моделей сотрудниками. Поэтому ключевой задачей становится обучение персонала.

Сотрудники должны понимать:

какие данные можно передавать нейросетям;
какие сведения являются конфиденциальными;
как работать с внешними сервисами;
какие риски несёт использование зарубежных моделей.

Дополнительную угрозу создают нелояльные сотрудники.

Для минимизации подобных рисков Ахмеев рекомендует использовать DLP-системы, инструменты контроля запросов к нейросетям и специальные промежуточные модели, способные автоматически удалять из запросов персональные данные и коммерческую информацию.
Особенно актуально это в условиях ужесточения требований к обработке персональных данных и трансграничной передаче информации.
По мнению эксперта, будущее банковского ИИ лежит не в ограничении технологий, а в сочетании технических средств защиты, грамотных процессов и цифровой культуры сотрудников.

Кто ответит за ошибку алгоритма

Несмотря на появление рекомендаций ЦБ, ряд принципиальных вопросов остаётся нерешённым.
Доцент кафедры финансового права РГУП им. В. М. Лебедева Мариам Давыдова считает, что одной из самых серьёзных проблем является юридическая неопределённость.
Если клиент получил отказ в кредите или столкнулся с блокировкой счёта по решению ИИ, возникает вопрос: кто несёт ответственность за ошибку?
Формально отвечает банк. Однако, если ошибка возникла из-за дефекта модели, некачественных данных или действий внешнего поставщика, установить источник проблемы оказывается значительно сложнее.
Ещё одной проблемой остаётся дискриминация клиентов. Алгоритмы способны воспроизводить и усиливать существующие предубеждения, а требования к объяснимости решений пока остаются достаточно размытыми.
По мнению Давыдовой, в таких условиях банку может быть сложно доказать объективность и справедливость принятого решения.

Риск монополизации ИИ становится новой угрозой

Эксперты также обращают внимание на системные риски. Сегодня многие финансовые организации используют ограниченное число крупных платформ и поставщиков ИИ. Это создаёт эффект концентрации риска.
Если критическая уязвимость будет обнаружена в одной популярной модели, последствия могут одновременно затронуть десятки банков.
Мариам Давыдова считает, что действующих рекомендаций по оценке поставщиков может оказаться недостаточно.
По её мнению, в будущем рынок может прийти к обязательной сертификации критически важных ИИ-компонентов, а также к дополнительным требованиям по аудиту используемых моделей.

Каким может стать следующий этап регулирования

Многие эксперты уверены, что нынешние рекомендации ЦБ РФ являются лишь первым шагом.
Михаил Хачатурян считает, что использование искусственного интеллекта следует не ограничивать, а более чётко регламентировать.
"В целом резонно предполагать, что использование ИИ должно быть не столько ограниченным, сколько более чётко регламентированным и контролируемым. Реализация такого подхода даст возможность и расширять спектр внедрения ИИ в бизнес-процессы банков, и выстраивать эффективную систему контроля и координации его использования", - отметил Хачатуря
Мариам Давыдова идёт дальше и предлагает рассмотреть обязательные требования для наиболее чувствительных направлений:

обязательное подтверждение человеком крупных платёжных операций;
право клиента на пересмотр решений кредитного скоринга;
специальные правила обработки персональных данных;
сертификацию внешних моделей и компонентов;
страхование ответственности за ошибки ИИ.

Пока эти предложения остаются предметом экспертной дискуссии, однако сама логика развития регулирования показывает, что требования к использованию искусственного интеллекта в финансовой отрасли будут постепенно усиливаться.

Банковский ИИ вступает в эпоху ответственности

Главный сигнал, который Банк России посылает рынку, заключается в том, что искусственный интеллект больше не рассматривается как экспериментальная технология.
Он становится полноценным элементом финансовой инфраструктуры, а значит, требует такого же уровня контроля, аудита и ответственности, как любые другие критически важные банковские системы.
Для крупных игроков новые рекомендации во многом закрепляют уже существующие практики. Для средних и небольших банков документ становится дорожной картой по созданию собственных систем управления ИИ-рисками.
Следующий этап цифровой трансформации финансового сектора будет определяться уже не столько скоростью внедрения искусственного интеллекта, сколько способностью банков обеспечить его безопасность, прозрачность и подконтрольность человеку.
Источник: Национальный банковский журнал: https://nbj.ru/publs/ii_pod_kontrolem_kak_novye_trebovaniya_tsb/73973/