Khi AI bị lợi dụng thành công cụ lừa đảo

Dùng AI tạo clip để lợi dụng kêu gọi từ thiện

Mới đây, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao (PA05), Công an TP.HCM, cho biết đã xử lý T.T.H (ở P.An Khánh) và N.T.M.D (ở P.Tân Sơn Nhất) đăng tải và chia sẻ thông tin sai sự thật trên mạng xã hội (MXH), được tạo dựng bằng AI, gây ảnh hưởng đến uy tín tổ chức, danh dự cá nhân và tiềm ẩn nguy cơ tác động tiêu cực đến an ninh, trật tự.

PA05 cho biết, trên MXH lan truyền nhiều bài viết, hình ảnh và video với nội dung "Nghệ sĩ/MC Quyền Linh bị Công an TP.HCM ra lệnh bắt tạm giam", thu hút sự chú ý của dư luận. Qua xác minh và phân tích kỹ thuật, PA05 xác định đây là thông tin hoàn toàn bịa đặt, được dựng bằng công nghệ AI, lồng ghép hình ảnh và dữ liệu giả mạo nhằm gây hiểu nhầm và dẫn dắt dư luận theo hướng tiêu cực. 

ẢNH: CÔNG AN CUNG CẤP

Ngày 27.3, PA05 Công an tỉnh Điện Biên đã ra quyết định xử phạt hành chính đối với ông Q. (ở P.Điện Biên Phủ, quản trị viên fanpage "Checkin Điện Biên") về hành vi cung cấp, chia sẻ thông tin giả mạo, sai sự thật được tạo bằng AI trên Facebook gây hoang mang dư luận. Trước đó, ngày 20.3, fanpage "Checkin Điện Biên" (có hơn 54.000 người theo dõi) đăng tải bài viết với nội dung "bé trai bị người lạ đưa đi" trên địa bàn tỉnh, kèm theo đoạn video dài khoảng 8 giây được tạo dựng bằng AI.

Thông tin mang tính giật gân, chưa được kiểm chứng đã nhanh chóng lan truyền, thu hút lượng lớn tương tác, bình luận và chia sẻ, gây hoang mang trong dư luận, ảnh hưởng đến tình hình an ninh, trật tự tại địa phương. Qua xác minh, công an xác định đây là thủ đoạn đăng tải thông tin bịa đặt nhằm câu view, thu hút tương tác, sau đó lợi dụng để kêu gọi từ thiện. Đối tượng còn sử dụng một tài khoản để đăng tải nội dung gây chú ý, đồng thời dùng nhiều tài khoản ảo vào bình luận, tự nhận là người thân của nạn nhân nhằm tạo lòng tin.

Khi bài viết đạt lượng tương tác cao, nội dung tiếp tục được chỉnh sửa bằng AI theo hướng đăng tải thông tin về các trường hợp trẻ em hoặc người có hoàn cảnh khó khăn, kèm theo lời kêu gọi quyên góp. Đối tượng cũng thay đổi hình ảnh, đổi tên tài khoản để tăng độ tin cậy, đánh vào lòng trắc ẩn của cộng đồng mạng. Tại cơ quan công an, ông Q. thừa nhận toàn bộ hành vi vi phạm.

Thượng tá Đỗ Minh Kim, Phó trưởng phòng 3, A05 (Bộ Công an), cho biết chỉ từ một số ít hình ảnh công khai trên MXH, công nghệ AI có thể tái tạo khuôn mặt, phong thái và giọng nói với độ chính xác cực cao, gần như không thể phân biệt thật - giả bằng mắt thường.

ẢNH: CÔNG AN CUNG CẤP

Thực tế cho thấy, trước mức độ tinh vi này, không ít người dân thừa nhận họ đã "mất khả năng nhận diện". Nhiều trường hợp dù xem đi xem lại video nhiều lần vẫn không phát hiện được bất kỳ dấu hiệu bất thường nào trong các hình ảnh, video lan truyền trên mạng. Việc giả mạo này không chỉ gây thiệt hại kinh tế đặc biệt nghiêm trọng mà còn làm nhiễu loạn môi trường thông tin, ảnh hưởng trực tiếp đến an ninh, trật tự xã hội.

Hàng triệu trẻ em đối mặt với những rủi ro trên mạng

Thượng tá Đỗ Minh Kim nhận định sự bùng nổ công nghệ số, đặc biệt là AI đang được các đường dây tội phạm khai thác triệt để nhằm che giấu, mở rộng và chuyên nghiệp hóa hoạt động.

AI cho phép tạo ra, chỉnh sửa video bằng deepfake, giả giọng, thậm chí vận hành các chatbot đóng vai "trợ lý ảo" để môi giới, sắp xếp lịch hẹn và dựng chân dung phụ nữ để lừa khách. Khả năng dịch thuật tức thời của AI còn xóa mờ ranh giới ngôn ngữ, tạo điều kiện cho tội phạm mại dâm xuyên quốc gia diễn ra dễ dàng, kín kẽ và khó truy vết hơn.

Lãnh đạo A05 cũng cảnh báo tội phạm hiện xây dựng các kịch bản bài bản, có sự kết hợp giữa công nghệ cao và yếu tố tâm lý để lừa đảo chiếm đoạt tài sản của người dân. Các đối tượng khai thác sâu thông tin cá nhân của nạn nhân để tiếp cận, khiến kịch bản lừa đảo trở nên vô cùng thuyết phục.

Trong khi người lớn còn đang loay hoay nhận diện deepfake, thì hàng triệu trẻ em VN đang đối mặt với những rủi ro bị thao túng, xâm hại bởi tội phạm công nghệ cao sử dụng AI. Lý giải vấn đề này, thượng tá Kim phân tích, trẻ em VN hiện có sự hiện diện rất sớm và dày đặc trên internet. Sự phổ biến này mở ra cơ hội học tập nhưng cũng đồng thời biến trẻ em thành mục tiêu "hấp dẫn" cho tội phạm lợi dụng để tiếp cận, thao túng và khai thác.

Ngoài ra, theo thượng tá Kim, kỹ năng số của trẻ em, phụ huynh và giáo viên còn hạn chế, đặc biệt là ở các khu vực nông thôn, vùng sâu, cùng với thiếu hiểu biết dẫn đến trẻ em dễ thành mục tiêu của các hành vi lừa đảo, dụ dỗ hoặc thao túng tâm lý trên không gian mạng. Một thách thức đáng chú ý hiện nay là một số nền tảng vẫn thiếu minh bạch trong cơ chế chia sẻ thông tin, đồng thời chưa triển khai đủ mạnh các biện pháp kỹ thuật để kịp thời phát hiện, cảnh báo, ngăn chặn và gỡ bỏ nội dung vi phạm.

"Bên cạnh đó, quá trình phối hợp cung cấp dữ liệu phục vụ truy vết, điều tra và thu thập chứng cứ số còn chậm, thiếu tính ổn định. Những hạn chế này đang ảnh hưởng trực tiếp đến hiệu quả xử lý các vụ việc xâm hại trẻ em trên không gian mạng. Trước tình hình tội phạm mạng diễn biến phức tạp, VN đã xác định an ninh mạng và phòng, chống tội phạm mạng là nhiệm vụ trọng tâm, cấp bách trong bảo vệ an ninh quốc gia và trật tự an toàn xã hội", thượng tá Kim nhấn mạnh.