Ngân hàng phải giám sát liên tục với hệ thống AI rủi ro cao

Các hệ thống AI quyết định cấp tín dụng vượt ngưỡng hoặc tự động thanh toán sẽ được xếp vào nhóm rủi ro cao, ngân hàng phải có công cụ giám sát liên tục.

Ngân hàng Nhà nước vừa ban hành Thông tư 53 quy định điều kiện ứng dụng hệ thống trí tuệ nhân tạo (AI) và yêu cầu về an toàn, quản lý rủi ro trong ngành ngân hàng, có hiệu lực từ 15/11 năm nay.

Theo đó, các nhà băng ví điện tử... phải có thỏa thuận với khách hàng về việc cho phép AI tự động thực hiện giao dịch, trong đó nêu rõ phạm vi, hạn mức từng giao dịch và theo ngày, thời hạn hiệu lực, điều kiện tạm dừng và quyền chấm dứt của khách hàng.

Nếu AI tự động thực hiện giao dịch điện tử trong hoạt động ngân hàng, hệ thống được xếp vào nhóm rủi ro cao khi AI thực hiện thanh toán của khách hàng cá nhân trên 10 triệu đồng một lần hoặc tổng giá trị trên 20 triệu đồng một ngày. Với khách hàng tổ chức, các ngưỡng tương ứng là trên 50 triệu đồng một giao dịch hoặc tổng trên 100 triệu đồng một ngày.

Hệ thống AI tự động quyết định cấp tín dụng cũng thuộc nhóm rủi ro cao nếu xử lý khoản cấp tín dụng từ 50 triệu đồng trở lên. Với các trường hợp này, đơn vị phải thiết lập công cụ giám sát liên tục hoạt động của hệ thống trí tuệ nhân tạo.

Các nhà băng và ví điện tử phải bảo đảm con người có khả năng can thiệp vào hoạt động của AI. Bộ phận giám sát phải đủ quyền hạn và năng lực để ghi đè, điều chỉnh hoặc tạm dừng quyết định của hệ thống, đồng thời có thể kích hoạt cơ chế ngắt khẩn cấp để dừng hoặc cô lập AI khi cần thiết.

Thông tư cũng quy định khi xảy ra sự cố nghiêm trọng, ngân hàng và ví điện tử phải kích hoạt cơ chế ngắt khẩn cấp, chuyển sang vận hành thủ công khi cần, đồng thời thực hiện biện pháp khắc phục và hạn chế thiệt hại.

Chia sẻ với VnExpress, lãnh đạo của một ngân hàng quốc doanh cho biết giao dịch thanh toán tại hầu hết ngân hàng vẫn đang có sự tham gia của con người, chưa tới bước AI tự thực hiện. Với các giao dịch duyệt khoản vay, ngân hàng quốc doanh này vẫn đang có sự kiểm duyệt của con người.

Bên cạnh đó, quy định hiện hành cũng yêu cầu giao dịch trực tuyến trên 10 triệu đồng mỗi lần phải có sinh trắc học của chủ tài khoản. Trong tương lai gần, lãnh đạo nhà băng nhận định việc ứng dụng AI trong giao dịch của khách hàng có thể sâu rộng hơn khi ngân hàng sẵn sàng và quy định thông thoáng hơn.

Yêu cầu trên của Ngân hàng Nhà nước được đưa ra trong bối cảnh ngành ngân hàng thời gian qua đã tăng ứng dụng AI trong nhiều nghiệp vụ như chấm điểm tín dụng, thẩm định cho vay, phát hiện gian lận thanh toán, tư vấn tự động, eKYC... Việc ứng dụng AI, theo cơ quan quản lý, phát sinh những rủi ro mới liên quan đến an ninh mạng, an toàn dữ liệu, rủi ro mô hình, rủi ro từ bên thứ ba và chuỗi cung ứng, từ đó tác động đến tổ chức, cá nhân và an toàn hoạt động của ngành.

Quỳnh Trang