Совет по финансовой стабильности при Базеле выпустил 12 практик по ИИ для финансовых институтов. Они составлены на основе международных регуляторных стандартов, включая рекомендации Базельского комитета по банковскому надзору.
Это объясняется тем, что искусственный интеллект может как усилить воздействие кибератак, так и укреплять защитные кибервозможности.
Отмечается, что финкомпании все активнее внедряют, используют и развивают технологии ИИ в самых разных сферах деятельности, включая оценку кредитных рисков, трейдинг, управление портфелем и инвестиционные операции, предотвращение мошенничества, мониторинг транзакций, рыночный надзор, обслуживание клиентов, помощь в написании кода, а также анализ и аннотирование документов.
«В то же время ИИ может усиливать существующие риски или создавать новые, которые требуют своевременного выявления и надлежащего управления. Например, сложные и менее объяснимые типы ИИ могут повышать модельные риски для финансовых институтов, тогда как автономные ИИ-системы способны предпринимать несанкционированные или ошибочные действия», — говорится в обзоре практик.
Главные тезисы
К примеру, рекомендуется дать возможность клиентам или сотрудникам оспаривать автоматизированные решения ИИ, соблюдать законодательство о конфиденциальности (национальные законы о персональных данных), применять методы обезличивания.
Кроме того, подчеркивается важность сохранения контроля человека над ключевыми или высокорискованными решениями, в том числе по кредитам, блокировке счетов, юридическим или финансовым санкциям.
Еще один из советов — регулярная проверка решений ИИ на предмет дискриминации по различным признакам (пол, возраст, доход, регион и т.д.).
Также рекомендуется назначать высшее руководство и конкретные подразделения, отвечающие за AI-системы. Кроме того, необходимо разрабатывать и регулярно обновлять внутренние регламенты по использованию ИИ, машинному обучению и работе с данными.
Вместе с тем, нужно оценивать устойчивость моделей к попыткам обмана алгоритмов (например, через подачу искаженных данных), иметь планы действия и алгоритмов отката на случаи сбоев или некорректного поведения ИИ, проверять источники данных и обеспечивать защиту алгоритмов от манипуляций или внедрения недостоверной информации.
Фининститутам предлагают также вести централизованный учет всех внедренных и разрабатываемых алгоритмов с указанием уровня их риска и бизнес-целей, проверять алгоритмы и ML-модели третьей стороной или независимым подразделением до их запуска в промышленную эксплуатацию.
Среди других рекомендаций — постоянно следить за изменениями в поступающих данных и корректность работы алгоритмов со временем, проверять обучающие выборки на полноту, актуальность и отсутствие предвзятости, вести аудит и аутсорсинг AI-решений от сторонних вендоров с обязательной оценкой их архитектуры безопасности, а также использовать методы интерпретации моделей, особенно в критически важных сферах (кредитный скоринг, комплаенс, медицина).
Совет по финансовой стабильности (FSB) — это международный орган, который ведет мониторинг мировой финансовой системы и вырабатывает для неё рекомендации. Секретариат организации расположен в Базеле, Швейцария.