AI và deepfake giờ đã trở thành công cụ bị lợi dụng để tạo nội dung giả mạo, quảng cáo sai sự thật hoặc đánh vào tâm lý người dùng trên mạng xã hội và sàn thương mại điện tử.

Đó cũng là lý do tháng 4 vừa qua Ủy ban Cạnh tranh Quốc gia phải có văn bản gửi hàng loạt nền tảng lớn như TikTok, Meta (Facebook, Instagram), Lazada, Shopee và Zalo để đề nghị tăng cường trách nhiệm bảo vệ người tiêu dùng trên môi trường số.

Điểm đáng chú ý là trong các báo cáo gửi cơ quan quản lý, nhiều nền tảng cũng thừa nhận tình trạng nội dung giả mạo bằng AI, deepfake hay quảng cáo gây hiểu nhầm đang ngày càng phức tạp và khó kiểm soát hơn trước.

TikTok: AI quét video và livestream theo thời gian thực

Theo báo cáo của TikTok, nền tảng này hiện đã triển khai hệ thống kiểm duyệt nội dung AI theo thời gian thực đối với video ngắn và livestream nhằm phát hiện các nội dung có dấu hiệu vi phạm.

TikTok cho biết hệ thống sẽ liên tục theo dõi các chỉ số khiếu nại, đánh giá tỷ lệ “lọt” nội dung vi phạm để cập nhật cơ chế quét tự động. Nói cách khác, nền tảng này đang dùng chính AI để chống lại các nội dung bị tạo hoặc lợi dụng bởi AI.

Trong quý I/2026, TikTok cho biết đã xử lý khoảng 94.900 video vi phạm liên quan đến nhiều hành vi khác nhau, bao gồm nội dung gây hiểu nhầm, giả mạo hoặc có dấu hiệu lừa đảo.

Ngoài hệ thống quét tự động, TikTok hiện cũng yêu cầu người dùng xác thực bằng số điện thoại hoặc email khi tạo tài khoản nhằm hạn chế tài khoản ảo và các hành vi spam.

Đáng chú ý, nền tảng này đã bổ sung công cụ để người sáng tạo nội dung chủ động gắn nhãn đối với video được tạo bằng AI. Điều này nhằm giúp người xem phân biệt rõ đâu là nội dung thật, đâu là nội dung đã được AI chỉnh sửa hoặc tạo mới.

TikTok cũng đang đẩy mạnh cơ chế “người dùng tự bảo vệ người dùng”. Người xem hiện có thể báo cáo trực tiếp các video hoặc livestream có dấu hiệu vi phạm ngay trên ứng dụng. Sau khi nhận phản ánh, nền tảng sẽ rà soát và áp dụng biện pháp xử lý phù hợp.

Meta: AI đang chặn thêm khoảng 5.000 vụ lừa đảo mỗi ngày

Trong khi đó, Meta - công ty sở hữu Facebook và Instagram cho biết đang kết hợp giữa hệ thống AI tiên tiến và đội ngũ rà soát thủ công để xử lý các nội dung lừa đảo, giả mạo hoặc deepfake.

Theo Meta, các mô hình AI mới sử dụng công nghệ Large Language Models (LLM) để phát hiện nội dung vi phạm trên quy mô lớn.

Trong giai đoạn thử nghiệm ban đầu, Meta cho biết hệ thống này đã giúp ngăn chặn thêm khoảng 5.000 hành vi lừa đảo mỗi ngày, giảm hơn 80% số lượng báo cáo giả mạo người nổi tiếng và giảm đáng kể tỷ lệ xử lý nhầm.

Meta cũng bắt đầu gắn nhãn “Có dùng AI” đối với các nội dung được tạo hoặc chỉnh sửa bằng AI nhằm giúp người dùng dễ nhận biết hơn.

Tại Việt Nam, Meta cho biết đang yêu cầu xác thực số điện thoại đối với nhà quảng cáo nhằm hạn chế tình trạng quảng cáo lừa đảo hoặc gây hiểu nhầm.

Ngoài ra, Facebook và Instagram hiện đều tích hợp sẵn công cụ báo cáo nội dung giả mạo, deepfake hoặc lừa đảo ngay trong ứng dụng.

Lazada: theo dõi cả từ khóa lẫn hành vi bất thường

Không chỉ mạng xã hội, các sàn thương mại điện tử cũng đang chịu áp lực lớn trước nguy cơ hàng giả, nội dung quảng cáo gây hiểu nhầm hoặc các chiêu trò thao túng đánh giá sản phẩm.

Theo Lazada, nền tảng này hiện áp dụng đồng thời hệ thống rà soát tự động và đội ngũ kiểm duyệt thủ công đối với nội dung đăng bán, đánh giá sản phẩm và phản hồi của người dùng.

Doanh nghiệp cho biết họ đang triển khai nhiều lớp giám sát khác nhau như giám sát từ khóa, theo dõi hành vi bất thường, giám sát các vấn đề cụ thể và kiểm tra bằng thuật toán để phát hiện dấu hiệu gian lận hoặc lừa đảo.

Các hệ thống này hoạt động liên tục để rà soát tài khoản và nội dung trên nền tảng, đồng thời được hỗ trợ bởi đội ngũ quản lý rủi ro chuyên trách để xử lý các trường hợp phức tạp.

Một điểm đáng chú ý là Lazada hiện yêu cầu người bán phải xác thực danh tính trước khi được đăng bán sản phẩm nhằm tăng khả năng kiểm soát hoạt động kinh doanh online.

Người dùng cũng có thể phản ánh hoặc yêu cầu hỗ trợ thông qua Help Center, trợ lý ảo và các kênh tiếp nhận thông tin chính thức của nền tảng.

Người tiêu dùng đang được cảnh báo điều gì?

Theo Ủy ban Cạnh tranh Quốc gia, người dùng cần đặc biệt cảnh giác với các video, livestream hoặc quảng cáo sử dụng hình ảnh, giọng nói AI và deepfake để tạo sự tin tưởng.

Cơ quan này khuyến cáo không nên chuyển tiền, cung cấp thông tin cá nhân hoặc mua hàng chỉ dựa vào quảng cáo viral hay mức giá “rẻ bất thường”.

Người tiêu dùng cũng được khuyến nghị ưu tiên mua hàng từ các tài khoản đã xác thực, kiểm tra kỹ thông tin người bán, nguồn gốc sản phẩm và đối chiếu thông tin từ nhiều nguồn khác nhau trước khi giao dịch.

Trong trường hợp phát hiện dấu hiệu lừa đảo hoặc giả mạo, người dùng nên chủ động báo cáo trực tiếp trên nền tảng hoặc phản ánh tới cơ quan chức năng để được hỗ trợ xử lý.