AI ở ngã rẽ: Xây dựng niềm tin là con đường để mở rộng quy mô

Báo cáo được xây dựng dựa trên khảo sát với gần 900 nhà quản lý cấp cao tại 13 vùng lãnh thổ thuộc châu Á – Thái Bình Dương, trong đó có sáu nước thuộc Đông Nam Á – cụ thể là Indonesia, Malaysia, Philippines, Singapore, Thái Lan và Việt Nam. Các phản hồi của các lãnh đạo cấp cao được đánh giá dựa trên Chỉ số về mức độ trưởng thành của công tác quản trị AI của Deloitte (Deloitte’s AI Governance Maturity Index) nhằm xác định thực tiễn quản trị AI tốt nhất.

Theo đó, đầu tư vào AI dự kiến sẽ đạt 110 tỷ USD vào năm 2028 tại khu vực châu Á – Thái Bình Dương, điều đó cho thấy yêu cầu cần có các khung quản trị vững chắc, nhằm hỗ trợ các doanh nghiệp áp dụng AI hiệu quả hơn, xây dựng niềm tin của khách hàng và hướng tới khai thác giá trị và mở rộng quy mô.

Nhận xét về báo cáo, Tiến sĩ Elea WURTH, Phó Tổng Giám đốc phụ trách, Dịch vụ Chiến lược AI đáng tin cậy (AI Trustworthy), Rủi ro & Giao dịch, Deloitte châu Á – Thái Bình Dương và Australia, cho biết: “Quản trị AI hiệu quả không chỉ là vấn đề tuân thủ mà còn là việc cần làm để khai thác toàn bộ giá trị tiềm năng của những công nghệ AI. Nghiên cứu của chúng tôi cho thấy các tổ chức có khung quản trị vững chắc không chỉ được trang bị tốt hơn để quản lý rủi ro mà còn tin tưởng hơn vào các kết quả AI của họ, tăng cường hiệu suất hoạt động và cuối cùng là gia tăng giá trị và quy mô”.

Quản trị rủi ro từ việc áp dụng AI

Với các quốc gia Đông Nam Á trong khảo sát, các lỗ hổng bảo mật bao gồm rủi ro an ninh mạng hoặc tấn công được đa số đề cập đến là những mối quan ngại hàng đầu liên quan đến rủi ro khi sử dụng AI. Các mối quan ngại khác gồm các vấn đề liên quan đến quyền riêng tư, ví dụ như vi phạm dữ liệu cá nhân hoặc thông tin bảo mật và xâm phạm quyền riêng tư từ việc giám sát tràn lan.

Đây là một xu hướng đặc biệt thấy rõ ở Singapore với gần như tất cả người tham gia khảo sát cho biết các lỗ hổng bảo mật (96%) và vi phạm quyền riêng tư (94%) là những điểm đáng lo ngại – và điều này phù hợp với phát hiện rằng 35% người tham gia khảo sát ở Singapore cho biết số lượng sự cố tại tổ chức của họ tăng trong năm tài chính vừa qua, ghi nhận mức cao nhất trong các quốc gia Đông Nam Á trong khảo sát.

Ông Chris LEWIN, Lãnh đạo Năng lực và Dữ liệu AI, Deloitte châu Á – Thái Bình Dương và Đông Nam Á, cho biết: “Tốc độ và quy mô áp dụng AI gia tăng một cách nhanh chóng khiến các tổ chức đang gặp phải các rủi ro liên quan đến AI ngay trong quá trình thử nghiệm và triển khai công nghệ này. Đông Nam Á và rộng hơn là châu Á – Thái Bình Dương là điểm nóng cho các cuộc tấn công mạng, các quan ngại về các lỗ hổng bảo mật, có thể phát sinh từ chính các giải pháp AI cũng như lượng dữ liệu khổng lồ mà các giải pháp này sử dụng hoặc kết hợp của cả hai được ưu tiên hàng đầu. Tuy nhiên, chúng tôi nhận thấy rằng các tổ chức đã triển khai các kế hoạch ứng phó và khắc phục sự cố thường ít lo ngại về những rủi ro như vậy. Từ đó, có thể thấy rõ tầm quan trọng của việc quản trị hiệu quả đối với việc giải quyết những lo ngại liên quan đến việc sử dụng AI”.

Chia sẻ về những rủi ro hàng đầu tại Việt Nam, ông Đỗ Danh Thanh, Phó Tổng Giám đốc Dịch vụ Tư vấn Công nghệ và Chuyển đổi CNTT cho biết: “Xâm phạm quyền riêng tư cũng là một trong ba rủi ro mà các tổ chức ở Việt Nam quan ngại nhất liên quan đến việc sử dụng AI, bên cạnh rủi ro về chia sẻ trách nhiệm giữa kỹ sư phần mềm và người dùng hệ thống AI, rủi ro về mức độ tin cậy của kết quả đầu ra… Tuy nhiên, nếu các tổ chức xác định rõ chiến lược và tầm nhìn triển khai AI từ những giai đoạn đầu tiên khi triển khai, các rủi ro có thể giảm thiểu và được quản trị một cách tốt hơn.”

Xây dựng AI đáng tin cậy

Phát triển các giải pháp AI đáng tin cậy là điều cần thiết để các tổ chức thành công trong quản trị rủi ro của việc áp dụng AI nhanh chóng, cũng như hiểu rõ và tích hợp công nghệ mang tính đột phá này một cách toàn diện. Khung quản trị AI đáng tin cậy của Deloitte (Deloitte’s Trustworthy AI Framework) đưa ra bảy khía cạnh cần thiết để xây dựng niềm tin vào các giải pháp AI minh bạch và có thể giải thích, công bằng và khách quan, vững chắc và đáng tin cậy, tôn trọng quyền riêng tư, an toàn và bảo mật, chịu trách nhiệm và có trách nhiệm giải trình. Khung và tiêu chí này nên được áp dụng cho các giải pháp AI từ xây dựng ý tưởng đến thiết kế, phát triển, mua sắm đến triển khai.

Khảo sát cho thấy trên khắp châu Á – Thái Bình Dương, các tổ chức có khung quản trị AI ở mức trưởng thành có số lượng nhân viên sử dụng các giải pháp AI tăng 28% và đã triển khai AI thêm trong ba lĩnh vực khác của doanh nghiệp. Các doanh nghiệp này có tốc độ tăng trưởng doanh thu cao hơn gần 5% so với những doanh nghiệp có công tác quản trị kém phát triển hơn.

Đặc biệt, Báo cáo cũng chỉ ra kết quả khảo sát tại thị trường Việt Nam, trước hết gồm những kỳ vọng của các nhà quản lý cấp cao từ việc quản trị AI hiệu quả gồm: Cải thiện danh tiếng trong mắt khách hàng (67%); Hiểu rõ hơn về lợi ích năng suất từ các giải pháp AI (65%); mMức độ tin tưởng cao hơn vào các kết quả hoặc đầu ra từ các giải pháp AI (62%).

Tuy nhiên, các lãnh đạo doanh nghiệp Việt cũng lo ngại về nguy cơ rò rỉ dữ liệu nhạy cảm, bí mật hoặc cá nhân từ các hệ thống AI (81%); về trách nhiệm khi thiếu nhận thức về trách nhiệm giữa các kỹ sư phần mềm (developer) và người dùng hệ thống AI, có thể dẫn đến việc sử dụng một cách bất cẩn hoặc không có đạo đức (81%) và về độ tin cậy và lỗi khi kết quả/đầu ra không chính xác, không thể dự đoán và khả năng xảy ra sự cố hoặc hành vi không mong muốn (ví dụ: ảo giác) (79%).

Về rào cản liên quan đến việc sử dụng hoặc triển khai AI, các doanh nghiệp cho rằng rào cản lớn gồm thiếu nhân sự và/hoặc kỹ năng về kỹ thuật (56%); Lo ngại về các rủi ro liên quan đến quy định, pháp lý, đạo đức và tuân thủ (40%); Thiếu chiến lược và tầm nhìn cho việc triển khai AI (37%)

Báo cáo chỉ ra, 71% các tổ chức ở Việt Nam có hệ thống để nhân viên chia sẻ về những quan ngại, 17% các tổ chức ở Việt Nam cho biết số lượng sự cố ghi nhận năm tài chính vừa qua gia tăng, 66% nhân viên trong các tổ chức ở Việt Nam có trình độ kỹ năng và năng lực cần thiết để sử dụng các giải pháp AI một cách có đạo đức và tuân thủ các quy định pháp lý.

Trong khi đó, 83% các tổ chức ở Việt Nam đang nâng cao kỹ năng cho đội ngũ nhân viên hiện tại để thu hẹp khoảng cách kỹ năng liên quan đến việc sử dụng AI một cách có đạo đức và tuân thủ các quy định pháp lý.

Phán đoán của con người là nền tảng cho AI đáng tin cậy

Từ những xu hướng trên, báo cáo của Deloitte đưa ra các khuyến nghị, thứ nhất, ưu tiên quản trị AI để thu được lợi nhuận từ AI: cần liên tục rà soát công tác quản trị AI trên các phương diện gồm chính sách, nguyên tắc, thủ tục và kiểm soát của tổ chức. Điều này bao gồm việc theo dõi các quy định đang thay đổi tại từng khu vực pháp lý và ngành nghề cụ thể để luôn đi bắt nhịp/đi tiên phong so với các tiêu chuẩn quản trị AI.

Thứ hai, hiểu rõ và tận dụng chuỗi cung ứng AI rộng lớn hơn: các tổ chức cần hiểu rõ việc sử dụng AI của chính họ cũng như trong tương tác với chuỗi cung ứng AI rộng lớn hơn – bao gồm các đơn vị phát triển, đơn vị triển khai, cơ quan quản lý, đơn vị cung cấp nền tảng, người dùng và khách hàng và thường xuyên thực hiện các đợt kiểm tra trong suốt vòng đời giải pháp AI.

Thứ ba, xây dựng các đơn vị quản lý rủi ro, không phải đơn vị né tránh rủi ro: phát triển các kỹ năng và nâng cao năng lực của nhân viên có thể giúp các tổ chức xác định, đánh giá và quản lý rủi ro tiềm ẩn tốt hơn, từ đó ngăn ngừa hoặc giảm thiểu các vấn đề thay vì hoàn toàn né tránh.

Thứ tư, truyền thông và đảm bảo sự sẵn sàng chuyển đổi AI trong phạm vi toàn doanh nghiệp: các tổ chức nên minh bạch về chiến lược AI của họ trong dài hạn, các lợi ích và rủi ro liên quan, đào tạo các bộ phận về cách sử dụng các mô hình AI, đồng thời đào tạo bổ sung các kỹ năng mới cho những nhân sự đang đảm nhận các vị trí có thể bị chịu ảnh hưởng từ việc áp dụng AI.

“Sự suy giảm niềm tin của người tiêu dùng và thiệt hại đối với danh tiếng thương hiệu có thể gây ra những tác động lâu dài, khiến việc quản lý hiệu quả AI và an ninh mạng trở thành vấn đề thiết yếu đối với các doanh nghiệp. Người tiêu dùng ưa thích các công ty sử dụng AI bám sát theo các tiêu chuẩn đạo đức như tính minh bạch, với 45% những người tham gia khảo sát tin rằng công tác quản trị vững chắc sẽ giúp cải thiện danh tiếng của tổ chức. Tuy nhiên, nghiên cứu của chúng tôi chỉ ra rằng các tổ chức đang có xu hướng đánh giá quá cao mức độ sẵn sàng về công tác quản trị AI. Các nhà lãnh đạo cấp cao cần thực hiện hành động ngay nhằm tăng cường các hoạt động quản trị AI hiện tại để khai thác lợi ích của AI, cũng như chuẩn bị cho các quy định AI mới nổi sẽ ảnh hưởng đến thành công của doanh nghiệp trong tương lai”, Rob HILLARD, Phó Tổng giám đốc phụ trách, Dịch vụ Tư vấn của Deloitte châu Á – Thái Bình Dương cho biết.

Với tốc độ áp dụng AI nhanh chóng dưới động lực thúc đẩy là cán bộ nhân viên – những người thường đi trước các cấp quản lý về mức độ thích ứng – một nghiên cứu trước đây của Deloitte về GenAI chỉ ra rằng hơn 70% nhân viên trẻ và sinh viên ở Đông Nam Á đã sử dụng GenAI – báo cáo cũng nhấn mạnh vai trò quan trọng của việc phán đoán và hành động (hoặc phản ứng) của con người trong việc quản trị AI thành công.

Cán bộ nhân viên – cho dù đang thiết kế, triển khai hay sử dụng các giải pháp AI – đều có thông tin chi tiết có giá trị về chức năng và rủi ro tiềm ẩn liên quan đến việc sử dụng các giải pháp AI. Tuy nhiên, chưa đến hai phần ba số người tham gia khảo sát tại Đông Nam Á tin rằng tổ chức của họ có đủ kỹ năng và năng lực cần thiết để sử dụng các giải pháp AI một cách có trách nhiệm – tỷ lệ này chỉ đạt 50% tại Singapore.

“Về cốt lõi, công tác quản trị AI tốt cần có ở tất cả các giai đoạn của vòng đời giải pháp AI và nên được tích hợp vào công nghệ, quy trình cũng như nguồn nhân lực. Tuy nhiên, dựa trên những phát hiện của chúng tôi, trụ cột nguồn nhân lực và kỹ năng là lĩnh vực mà các tổ chức liên tục có mức điểm thấp nhất khi tính trung bình. Chú trọng công tác đào tạo luôn là một định hướng tốt để thu hẹp khoảng cách này và chúng tôi thấy rằng hơn ba phần tư số người tham gia khảo sát tại Đông Nam Á đang đầu tư vào nâng cao kỹ năng nguồn nhân lực. Singapore là ngoại lệ duy nhất mà khoảng cách về kỹ năng đạt mức lớn nhất và gần bảy trong số mười tổ chức cần thu hẹp khoảng cách thông qua việc tuyển dụng, có thể là do nhu cầu của thị trường đối với các vai trò chuyên môn và kỹ thuật cao”, Chris nói thêm.