Искусственный интеллект будет следить за казахстанскими банками
АРРФР уже начинает использовать ИИ-агентов, чтобы контролировать отдельные банковские системы
Агентство по регулированию и развитию финансового рынка считает необходимым создать систему защиты от новых рисков, связанных с использованием ИИ-агентов, сообщает NBK.
О том, как будет устроен надзор за искусственным интеллектом в финансовой сфере, рассказал первый зампредседателя АРРФР Тимур Абилкасымов на форуме AI & Digital Bridge 2026. По его словам, весь процесс работы ИИ-агентов должен быть подконтролен человеку и прозрачен. Нужно следить, чтобы искусственный интеллект не действовал вопреки интересам потребителей финансовых услуг.
«Если агент выполняет свою функцию правильно, а человек остаётся в контуре принятия решений, устанавливает определённый уровень доверия, лимиты и условия, то такой подход вполне управляем. Но сегодня появляются более автономные агенты, которые способны самостоятельно принимать решения и формировать корзины продуктов и услуг», — сказал Тимур Абилкасымов.
Для страховки от рисков — в том числе от перехвата управления ИИ злоумышленниками, обхода установленных ограничений или слишком самостоятельного поведения агентов — в АРРФР хотели бы сформировать систему защиты. Но, как подчеркнул зампред ведомства, сейчас такие механизмы неразвиты. По всему миру они находятся на раннем этапе развития, и не только в банковском секторе.
Впрочем, уже существует система цифровой защиты Qainar — к ней подключены более ста казахстанских финансовых организаций. В этой системе тоже используются ИИ-агенты: они собирают информацию о киберинцидентах, систематизируют её и помогают защищаться от атак. Кроме того, АРРФР разрабатывает собственных ИИ-агентов, которые смогут контролировать отдельные банковские системы.
Ранее мы писали, что Касым-Жомарт Токаев поручил перевести казахстанские предприятия на искусственный интеллект.
