AI Drift tác động đến kết quả và tạo ra rủi ro như thế nào?
Ngân hàng Dự trữ Liên bang New York nằm trong số những ngân hàng gặp phải thách thức với các mô hình ngôn ngữ chuyên biệt làm nền tảng cho các hệ thống AI của họ.
Có thể hình dung rằng ngôn ngữ tài chính đang được sử dụng thay đổi theo thời gian. Ví dụ: các thuật ngữ “đa kênh” và “ngân hàng nhúng”, không có nghĩa chính xác như những gì họ đã làm cách đây 5 năm và thậm chí bây giờ, tất cả mọi người không phải lúc nào cũng đồng ý về ý nghĩa của chúng.
Con người phải liên tục đào tạo lại các mô hình AI, như Fed New York hiện đang cố gắng cập nhật hàng tuần.
Làm thế nào để đo lường lợi tức (ROI) từ AI?
Ngành ngân hàng đã chứng kiến sự bùng nổ ảo về các trường hợp sử dụng trí tuệ nhân tạo, một xu hướng được thúc đẩy bởi niềm tin vào tiềm năng tăng doanh thu, tăng sản lượng, nâng cao hiệu quả và tạo ra lợi ích vượt xa những gì có thể đạt được với công nghệ truyền thống.
Khám phá những thách thức của việc áp dụng công nghệ này trong các dịch vụ tài chính đã nói rõ rằng có những khoảng cách giữa việc áp dụng AI và những lợi ích của nó. Ngay cả việc xác định lợi tức đầu tư cho việc triển khai AI cũng không phải là vấn đề đơn giản. Việc thiết lập trước các chỉ số hiệu suất chính là điều cần thiết để hiểu được tác động của một ứng dụng AI. Để thực hiện điều đó, một cơ cấu quản trị phải được thiết lập để đảm bảo việc đo lường và đánh giá nhất quán.
Một số loại ROI có thể dễ dàng đo lường hơn những loại khác. Ví dụ: giả sử một ngân hàng quyết định sử dụng các công cụ tạo mã máy tính dựa trên AI để tăng tốc thời gian lập trình. Nếu quá trình này thường mất 10 ngày và AI cắt giảm xuống còn 5 ngày, thì năng suất đã tăng rõ rệt.
Tại một ngân hàng thương mại truyền thống, AI có thể mang lại những lợi ích tương tự khi được sử dụng để đánh giá khoản vay nội bộ hoặc hệ thống kiểm toán. Việc đánh giá lợi tức đầu tư sẽ phức tạp hơn trong trường hợp trí tuệ nhân tạo được sử dụng cho các tương tác của khách hàng. Rất nhiều sẽ phụ thuộc vào số liệu được sử dụng.
Ví dụ, cả tỷ lệ giữ chân và sự hài lòng đều ảnh hưởng đến điểm mấu chốt. Việc đo lường tỷ lệ giữ chân khách hàng rất đơn giản mọi người ở lại hoặc rời đi. Nhưng đánh giá mức độ hài lòng của khách hàng sẽ yêu cầu nghiên cứu định tính để xem mọi người hài lòng hay không hài lòng. Ngoài ra, nếu một quy trình do AI điều hướng khiến một số khách hàng phàn nàn trên mạng xã hội, thì sự ảnh hưởng đến thương hiệu nên được đưa vào tính toán ROI như thế nào? Đây sẽ là một việc khó khăn.
Ngân hàng có thể chấp nhận kết quả 'Gần đúng' từ AI không?
Những sai lầm kinh hoàng của ChatGPT đã xuất hiện trên các phương tiện truyền thông trở thành mục tiêu dễ dàng cho những người cảnh giác với ảnh hưởng xã hội ngày càng tăng của AI.
Phần mềm không hoạt động bình thường là một vấn đề lớn đối với các tổ chức tài chính. Ngành tài chính dựa trên sự chính xác và tin cậy. Bây giờ đột nhiên AI xuất hiện và cho độ chính xác 85% thì việc AI làm không giúp được gì nhiều.
Tư duy đối với hầu hết các khía cạnh của dịch vụ tài chính là “nhị phân” - kết quả là đúng hoặc sai. Thông thường, nếu có tỷ lệ sai sót là 15%, thì sẽ có các vấn đề về quản lý rủi ro và có khả năng gây thiệt hại về uy tín.
Dữ liệu tổng hợp: Một cách để giải quyết những lo ngại về xu hướng AI?
Khả năng thiên vị phát triển khi AI được sử dụng trong hoạt động cho vay vẫn là một mối lo ngại hiện hữu.
Một nhân viên cho vay sai lầm chỉ có thể làm ảnh hưởng đến những người liên quan trong bộ hồ sơ. Nhưng công nghệ AI được sử dụng để xử lý các khoản vay hàng loạt và có thể ảnh hưởng đến nhiều người vay trong một thời gian ngắn.
Dữ liệu tổng hợp có thể giúp ích vì đây là thông tin được tạo bằng thuật toán. Dữ liệu tổng hợp được sử dụng như một điểm thay thế cho các bộ dữ liệu thử nghiệm của dữ liệu sản xuất hoặc vận hành, để xác thực các mô hình toán học và đào tạo các mô hình máy học.
Sử dụng dữ liệu tổng hợp cũng có thể giải quyết các lo ngại về quyền riêng tư, khi sử dụng dữ liệu thực để đào tạo hoặc thử nghiệm công nghệ AI có thể dẫn đến việc các nhà phát triển không hợp pháp nhìn thấy thông tin cá nhân của khách hàng.
Nguồn: The financial brand
Link bài gốc: Một số lưu ý giúp lãnh đạo các ngân hàng vượt qua "cạm bẫy" của AI
Ngân hàng Dự trữ Liên bang New York nằm trong số những ngân hàng gặp phải thách thức với các mô hình ngôn ngữ chuyên biệt làm nền tảng cho các hệ thống AI của họ.
Có thể hình dung rằng ngôn ngữ tài chính đang được sử dụng thay đổi theo thời gian. Ví dụ: các thuật ngữ “đa kênh” và “ngân hàng nhúng”, không có nghĩa chính xác như những gì họ đã làm cách đây 5 năm và thậm chí bây giờ, tất cả mọi người không phải lúc nào cũng đồng ý về ý nghĩa của chúng.
Con người phải liên tục đào tạo lại các mô hình AI, như Fed New York hiện đang cố gắng cập nhật hàng tuần.
Làm thế nào để đo lường lợi tức (ROI) từ AI?
Ngành ngân hàng đã chứng kiến sự bùng nổ ảo về các trường hợp sử dụng trí tuệ nhân tạo, một xu hướng được thúc đẩy bởi niềm tin vào tiềm năng tăng doanh thu, tăng sản lượng, nâng cao hiệu quả và tạo ra lợi ích vượt xa những gì có thể đạt được với công nghệ truyền thống.
Khám phá những thách thức của việc áp dụng công nghệ này trong các dịch vụ tài chính đã nói rõ rằng có những khoảng cách giữa việc áp dụng AI và những lợi ích của nó. Ngay cả việc xác định lợi tức đầu tư cho việc triển khai AI cũng không phải là vấn đề đơn giản. Việc thiết lập trước các chỉ số hiệu suất chính là điều cần thiết để hiểu được tác động của một ứng dụng AI. Để thực hiện điều đó, một cơ cấu quản trị phải được thiết lập để đảm bảo việc đo lường và đánh giá nhất quán.
Một số loại ROI có thể dễ dàng đo lường hơn những loại khác. Ví dụ: giả sử một ngân hàng quyết định sử dụng các công cụ tạo mã máy tính dựa trên AI để tăng tốc thời gian lập trình. Nếu quá trình này thường mất 10 ngày và AI cắt giảm xuống còn 5 ngày, thì năng suất đã tăng rõ rệt.
Tại một ngân hàng thương mại truyền thống, AI có thể mang lại những lợi ích tương tự khi được sử dụng để đánh giá khoản vay nội bộ hoặc hệ thống kiểm toán. Việc đánh giá lợi tức đầu tư sẽ phức tạp hơn trong trường hợp trí tuệ nhân tạo được sử dụng cho các tương tác của khách hàng. Rất nhiều sẽ phụ thuộc vào số liệu được sử dụng.
Ví dụ, cả tỷ lệ giữ chân và sự hài lòng đều ảnh hưởng đến điểm mấu chốt. Việc đo lường tỷ lệ giữ chân khách hàng rất đơn giản mọi người ở lại hoặc rời đi. Nhưng đánh giá mức độ hài lòng của khách hàng sẽ yêu cầu nghiên cứu định tính để xem mọi người hài lòng hay không hài lòng. Ngoài ra, nếu một quy trình do AI điều hướng khiến một số khách hàng phàn nàn trên mạng xã hội, thì sự ảnh hưởng đến thương hiệu nên được đưa vào tính toán ROI như thế nào? Đây sẽ là một việc khó khăn.
Ngân hàng có thể chấp nhận kết quả 'Gần đúng' từ AI không?
Những sai lầm kinh hoàng của ChatGPT đã xuất hiện trên các phương tiện truyền thông trở thành mục tiêu dễ dàng cho những người cảnh giác với ảnh hưởng xã hội ngày càng tăng của AI.
Phần mềm không hoạt động bình thường là một vấn đề lớn đối với các tổ chức tài chính. Ngành tài chính dựa trên sự chính xác và tin cậy. Bây giờ đột nhiên AI xuất hiện và cho độ chính xác 85% thì việc AI làm không giúp được gì nhiều.
Tư duy đối với hầu hết các khía cạnh của dịch vụ tài chính là “nhị phân” - kết quả là đúng hoặc sai. Thông thường, nếu có tỷ lệ sai sót là 15%, thì sẽ có các vấn đề về quản lý rủi ro và có khả năng gây thiệt hại về uy tín.
Dữ liệu tổng hợp: Một cách để giải quyết những lo ngại về xu hướng AI?
Khả năng thiên vị phát triển khi AI được sử dụng trong hoạt động cho vay vẫn là một mối lo ngại hiện hữu.
Một nhân viên cho vay sai lầm chỉ có thể làm ảnh hưởng đến những người liên quan trong bộ hồ sơ. Nhưng công nghệ AI được sử dụng để xử lý các khoản vay hàng loạt và có thể ảnh hưởng đến nhiều người vay trong một thời gian ngắn.
Dữ liệu tổng hợp có thể giúp ích vì đây là thông tin được tạo bằng thuật toán. Dữ liệu tổng hợp được sử dụng như một điểm thay thế cho các bộ dữ liệu thử nghiệm của dữ liệu sản xuất hoặc vận hành, để xác thực các mô hình toán học và đào tạo các mô hình máy học.
Sử dụng dữ liệu tổng hợp cũng có thể giải quyết các lo ngại về quyền riêng tư, khi sử dụng dữ liệu thực để đào tạo hoặc thử nghiệm công nghệ AI có thể dẫn đến việc các nhà phát triển không hợp pháp nhìn thấy thông tin cá nhân của khách hàng.
Nguồn: The financial brand
Link bài gốc: Một số lưu ý giúp lãnh đạo các ngân hàng vượt qua "cạm bẫy" của AI
