AI Tiến Hóa, An Toàn Tài Chính Có Theo Kịp?

Trí tuệ nhân tạo (AI) có thể đưa ra câu trả lời sai, nhưng nếu AI thực hiện chuyển tiền hoặc giao dịch chứng khoán dựa trên phán đoán sai lầm, thì vấn đề trở nên nghiêm trọng hơn. Câu trả lời sai có thể được sửa chữa, nhưng tiền đã được chuyển đi thì khó có thể lấy lại. Khi AI không chỉ trả lời câu hỏi mà còn tự đưa ra quyết định và hành động, những rủi ro mới đã xuất hiện.

Gần đây, trong ngành công nghiệp AI toàn cầu, đã có nhiều cảnh báo về những thay đổi này. Việc AI thực hiện chính xác các chỉ thị của con người không chỉ quan trọng mà còn cần phải kiểm soát để hành động trong phạm vi quyền hạn và giới hạn đã được quy định. Điều này là cần thiết vì có khả năng xảy ra những hành động không lường trước trong quá trình đạt được mục tiêu cụ thể, hoặc vượt quá quyền hạn cho phép. Khi công nghệ phát triển, khả năng kiểm soát của con người cũng cần phải phát triển theo.

Ngành tài chính là lĩnh vực nhạy cảm nhất với những thay đổi này. Tài chính về bản chất là ngành quản lý tiền và rủi ro. Một sai sót nhỏ trong phán đoán có thể dẫn đến tổn thất tài chính lớn, và một sự cố của một công ty tài chính có thể lan rộng sang các công ty khác và toàn bộ thị trường tài chính. Mặc dù AI là công cụ mạnh mẽ để nâng cao hiệu quả tài chính, nhưng nó cũng có thể tạo ra những rủi ro ở một cấp độ hoàn toàn khác.

Thực tế, AI đang nhanh chóng thay đổi bức tranh của ngành tài chính. Các lĩnh vực sử dụng AI đang mở rộng, từ thẩm định cho vay của ngân hàng, tư vấn khách hàng, đến thẩm định chi trả bảo hiểm của công ty bảo hiểm, phân tích thông tin đầu tư và quản lý tài sản của công ty chứng khoán. Việc phân tích dữ liệu khổng lồ một cách nhanh chóng và xem xét nhiều biến số hơn con người rõ ràng là một lợi thế cạnh tranh. Các công ty tài chính có thể giảm chi phí và nâng cao hiệu quả công việc, trong khi người tiêu dùng nhận được dịch vụ nhanh chóng và tinh vi hơn.

Việc xuất hiện của AI Agent báo hiệu một sự thay đổi khác. Trong khi AI chủ yếu phân tích thông tin và hỗ trợ quyết định trước đây, giờ đây nó đang phát triển theo hướng kết nối nhiều hệ thống để thực hiện các công việc phức tạp. AI có thể phân tích tình hình tài chính của khách hàng để tìm kiếm sản phẩm phù hợp, điều chỉnh danh mục đầu tư hoặc thực hiện chuyển tiền. Đây là sự chuyển đổi từ công nghệ hỗ trợ quyết định của con người sang công nghệ thay thế hành động của con người.

Vấn đề là khi phạm vi hoạt động của AI mở rộng, tính chất của rủi ro cũng thay đổi. Việc đề xuất sản phẩm cho vay không đúng và việc phê duyệt khoản vay sai là hai vấn đề khác nhau. Cung cấp thông tin đầu tư không chính xác và việc giao dịch tài sản của khách hàng dựa trên phán đoán sai cũng là hai vấn đề khác nhau. Trong trường hợp đầu tiên, con người có cơ hội xem xét và sửa chữa, nhưng trong trường hợp thứ hai, phán đoán ngay lập tức dẫn đến kết quả tài chính.

Những vụ tấn công mạng gần đây trong ngành tài chính trong nước cũng cho thấy những rủi ro mới trong thời đại AI. Nhiều công ty tài chính đã bị tấn công và thông tin khách hàng bị rò rỉ, và có thông tin cho rằng công cụ tự động hóa AI đã được sử dụng trong quá trình tấn công. Việc sử dụng AI cho phép kẻ tấn công tìm kiếm hệ thống và phát hiện điểm yếu với tốc độ nhanh hơn so với trước đây, tạo ra gánh nặng mới cho hệ thống bảo mật hiện tại.

Tuy nhiên, không thể đổ lỗi cho chính công nghệ AI về nguyên nhân của sự cố này. Những gì kẻ tấn công nhắm đến cuối cùng là những lỗ hổng trong quy trình xác thực và bảo mật mà các công ty tài chính không quản lý đúng cách. AI có thể tăng tốc độ và quy mô của cuộc tấn công, nhưng điều đã cho phép cuộc tấn công xảy ra là những lỗ hổng trong hệ thống bảo mật hiện tại. Đây là bài học rằng để đối phó với những mối đe dọa từ công nghệ mới, các biện pháp bảo mật cơ bản và kiểm soát nội bộ cần phải hoạt động hiệu quả.

Không chỉ các cuộc tấn công AI từ bên ngoài mà còn có những rủi ro cần cảnh giác bên trong các công ty tài chính. Có khả năng AI mà công ty tài chính tự triển khai có thể vượt ra ngoài phạm vi kiểm soát. Tấn công mạng là vấn đề ngăn chặn kẻ xâm nhập từ bên ngoài, nhưng AI mà công ty tài chính sử dụng có thể được cấp quyền truy cập vào hệ thống nội bộ ngay từ đầu. Nếu AI vượt quá phạm vi cho phép hoặc đưa ra phán đoán sai trong quá trình truy cập thông tin khách hàng và xử lý giao dịch, thì chỉ có tường lửa bên ngoài cũng không thể ngăn chặn được vấn đề này.

Đến nay, kiểm soát nội bộ của các công ty tài chính chủ yếu được thiết kế dựa trên hành vi của con người. Quyền hạn được phân chia cho từng nhân viên, các giao dịch quan trọng có quy trình phê duyệt, và khi xảy ra sự cố, trách nhiệm được quy định. Tuy nhiên, trong môi trường mà AI thực hiện nhiều công việc liên tiếp, cần xem xét lại liệu sự phân chia vai trò và quy trình phê duyệt này có đủ hay không. Cần phải xác định rõ ràng quyền hạn mà AI được cấp và mức độ tự chủ nào được cho phép.

Vấn đề trách nhiệm cũng là một nhiệm vụ quan trọng. Khi một công ty tài chính áp dụng mô hình AI từ bên ngoài và xảy ra sự cố, nếu nhà phát triển khẳng định không có lỗi kỹ thuật và công ty tài chính lại đổ lỗi cho phán đoán không lường trước của AI, thì điều gì sẽ xảy ra? Trong khi cuộc tranh cãi về trách nhiệm kéo dài, việc bồi thường thiệt hại có thể bị trì hoãn. AI không phải là một thực thể độc lập có thể chịu trách nhiệm pháp lý hoặc bồi thường thiệt hại. Dù công nghệ có phát triển đến đâu, trách nhiệm của công ty tài chính trong việc quản lý tài sản của khách hàng không được mờ nhạt.

Vấn đề "hộp đen" mà khó giải thích quy trình phán đoán của AI cũng liên quan trực tiếp đến việc bảo vệ người tiêu dùng. Công ty tài chính cần phải có lý do hợp lý để giải thích cho khách hàng bị từ chối cho vay. Tuy nhiên, nếu AI đưa ra kết luận dựa trên dữ liệu phức tạp mà ngay cả công ty tài chính cũng không thể giải thích rõ ràng lý do, thì việc bảo vệ quyền lợi của người tiêu dùng sẽ trở nên khó khăn. Cần có một hệ thống chịu trách nhiệm cho quy trình và kết quả phán đoán, bên cạnh việc nâng cao độ chính xác của công nghệ.

Những rủi ro này có thể lan rộng ra toàn bộ thị trường tài chính, không chỉ dừng lại ở từng công ty tài chính. Khi nhiều công ty tài chính sử dụng các mô hình và dữ liệu AI tương tự để đầu tư và đánh giá rủi ro, trong tình huống khủng hoảng, họ có thể phản ứng cùng một tín hiệu, đồng thời bán tài sản hoặc thu hẹp cho vay. Quyết định hợp lý của từng công ty có thể dẫn đến nghịch lý là gây ra tình trạng thắt chặt tín dụng và gia tăng biến động cho toàn bộ hệ thống tài chính. Khi các công ty tài chính đồng loạt tránh rủi ro, lựa chọn của từng công ty để bảo vệ an toàn của mình có thể làm gia tăng sự bất ổn của toàn thị trường.

Đặc biệt, khi tốc độ phán đoán và thực hiện giao dịch của AI ngày càng nhanh, không gian cho sự can thiệp của con người càng giảm. Khi kết hợp AI Agent tự động với giao dịch thuật toán và giao dịch siêu tốc đã có trước đó, tốc độ lan rộng của rủi ro cũng có thể gia tăng. Điều này đặt ra câu hỏi liệu phương pháp hiện tại, trong đó con người nắm bắt tình hình và xử lý sau khi khủng hoảng xảy ra, có còn đủ hay không.

Các tổ chức tài chính quốc tế cũng đang chú ý đến AI như một yếu tố rủi ro chính đối với sự ổn định tài chính. Ủy ban Ổn định Tài chính (FSB) đã công bố 12 thực tiễn tốt nhất cho việc áp dụng AI có trách nhiệm trong các công ty tài chính vào tháng 6 vừa qua. Ngân hàng Anh cũng đã chỉ ra rằng các quyết định cốt lõi của công ty tài chính, thị trường tài chính, nhà cung cấp dịch vụ AI bên ngoài và các mối đe dọa mạng là những con đường rủi ro chính liên quan đến AI. AI đã trở thành một vấn đề cần quản lý không chỉ đơn thuần là công cụ nâng cao hiệu quả công việc trong hệ thống tài chính.

Đặc biệt, sự phụ thuộc cao vào một số công ty công nghệ toàn cầu và dịch vụ đám mây có thể tạo ra những rủi ro tập trung mới. Mặc dù các công ty tài chính khác nhau vận hành các sản phẩm và hệ thống khác nhau, nhưng công nghệ AI cốt lõi có thể phụ thuộc vào mô hình và dịch vụ của một số công ty. Nếu một dịch vụ AI cụ thể gặp sự cố hoặc phát hiện lỗi chung, nhiều công ty tài chính có thể bị ảnh hưởng cùng một lúc. AI có thể kết nối tài chính một cách hiệu quả, nhưng cũng có thể trở thành con đường lan rộng rủi ro.

Tuy nhiên, việc trì hoãn hoặc ngăn cản việc áp dụng AI trong lĩnh vực tài chính không phải là giải pháp. AI không chỉ nâng cao năng suất mà còn có thể tăng cường tính an toàn của hệ thống tài chính trong việc phát hiện gian lận tài chính, giám sát giao dịch bất thường và phân tích rủi ro tín dụng. AI cũng có tiềm năng lớn để mở rộng dịch vụ tài chính đến những lĩnh vực mà trước đây con người không thể tiếp cận đầy đủ. Điều quan trọng là không ngăn cản sự phát triển của công nghệ mà phải có khả năng kiểm soát tương ứng với tốc độ phát triển đó.

Để làm được điều này, các công ty tài chính cần tiến xa hơn việc chỉ báo cáo thành tích áp dụng AI. Họ cần xem xét các công việc mà AI được sử dụng, mức độ quyền hạn được cấp, và ai sẽ phát hiện và ngăn chặn hành vi sai trái khi xảy ra. Đối với các giao dịch tài chính quan trọng, cần có quy trình phê duyệt của con người và ghi lại để theo dõi phán đoán và hành động của AI. Hệ thống ngăn chặn sự cố và giảm thiểu thiệt hại cũng quan trọng không kém so với việc xác định trách nhiệm sau sự cố.

Cách thức giám sát của cơ quan tài chính cũng cần phải thay đổi. Không chỉ xem xét tính an toàn vốn, tính thanh khoản, kiểm soát nội bộ và bảo mật thông tin mà còn cần xem xét rủi ro và quản lý quyền hạn của mô hình AI, cũng như mức độ phụ thuộc vào các nhà cung cấp công nghệ bên ngoài. Cần kiểm tra không chỉ tính an toàn của từng công ty tài chính mà còn cả những rủi ro chung có thể phát sinh khi nhiều công ty tài chính phụ thuộc vào AI tương tự. Mối quan hệ trách nhiệm giữa các công ty phát triển AI và các công ty sử dụng AI trong dịch vụ tài chính cũng cần phải rõ ràng hơn.

Dĩ nhiên, không thể hoàn toàn ngăn chặn mọi rủi ro trước khi chúng xảy ra. Trong thời kỳ phát triển của ngân hàng trực tuyến và tài chính di động, đã có nhiều lo ngại về bảo mật và bảo vệ người tiêu dùng. Tuy nhiên, ngành tài chính đã chấp nhận thay đổi theo hướng tận dụng lợi ích của công nghệ trong khi củng cố các biện pháp an toàn. AI cũng cần đi theo con đường đó. Tuy nhiên, do AI là công nghệ có khả năng tự đưa ra quyết định và hành động, phạm vi quản lý rủi ro và tốc độ phản ứng cần phải được chú trọng hơn bao giờ hết.

Trong ngành tài chính, lòng tin không chỉ là hình ảnh của doanh nghiệp. Nó là nền tảng cơ bản để khách hàng gửi tiền cho các công ty tài chính và để các bên tham gia thị trường giao dịch với nhau. Việc các công ty tài chính giảm chi phí và tăng lợi nhuận thông qua AI là quan trọng. Nhưng nếu lòng tin rằng tiền và thông tin của khách hàng được bảo vệ an toàn bị mất đi, thì sự hiệu quả đó sẽ không thể kéo dài lâu. Trong thời đại mà AI quyết định sức cạnh tranh của tài chính, giá trị của lòng tin và trách nhiệm - bản chất của tài chính - càng trở nên quan trọng hơn.

Giờ đây, câu hỏi mà các công ty tài chính cần đặt ra cũng cần phải thay đổi. Không phải là AI có thể thay thế bao nhiêu công việc của con người, mà là liệu họ đã sẵn sàng quản lý những rủi ro phát sinh trong quá trình đó hay chưa. Khi AI ngày càng thông minh hơn, các biện pháp an toàn trong tài chính cũng cần phải tiến hóa cùng. Các công ty tài chính có thể giao phó phán đoán và công việc cho AI, nhưng không thể chuyển giao trách nhiệm cho kết quả đó. Sức cạnh tranh của tài chính trong thời đại AI không phụ thuộc vào việc giao phó bao nhiêu công việc cho máy móc, mà phụ thuộc vào khả năng kiểm soát chắc chắn những công việc đã giao phó.

• #rủi ro hệ thống tài chính
• #kiểm soát nội bộ
• #AI tài chính

MIN JAE YONG insight@ajunews.com