TikTok triển khai công cụ nhận diện deepfake, bảo vệ hình ảnh người dùng
Trước nguy cơ hình ảnh, giọng nói của người nổi tiếng và chính trị gia bị AI giả mạo, TikTok ra mắt công cụ cho phép phát hiện, báo cáo nội dung sử dụng hình ảnh cá nhân trái phép, góp phần kiểm soát thông tin sai lệch trên nền tảng.
Ngày 20/11, TikTok thông báo triển khai trên toàn cầu công cụ mang tên “Phát hiện sự giống nhau” (likeness detection), dành cho các nhân vật công chúng, trong đó có chính trị gia và những tài khoản có lượng người theo dõi lớn. Công cụ giúp người dùng phát hiện, báo cáo nội dung do trí tuệ nhân tạo (AI) tạo ra có sử dụng hình ảnh của họ mà không được phép.
Theo TikTok, công cụ đang được triển khai theo từng giai đoạn, cho phép các tài khoản đủ điều kiện tìm kiếm những nội dung có khả năng mô phỏng hình ảnh cá nhân. Đây được xem là một giải pháp nhằm tăng cường bảo vệ danh tính và hạn chế tình trạng lợi dụng AI để tạo thông tin sai lệch.

Deepfake là các nội dung văn bản, hình ảnh, video hoặc âm thanh được tạo ra hay chỉnh sửa bằng AI, khiến người xem có thể nhầm lẫn với thông tin, hình ảnh và phát ngôn có thật. Công nghệ này ngày càng làm gia tăng nguy cơ giả mạo danh tính, xuyên tạc phát ngôn và thao túng thông tin trên môi trường số.
Tại sự kiện về an toàn và đổi mới của TikTok diễn ra ở London (Anh) ngày 19/11, bà Francesca Scapolo, phụ trách quan hệ Chính phủ của TikTok về các cuộc bầu cử châu Âu cho biết, công cụ nhận diện hình ảnh sẽ hỗ trợ chính trị gia và các cơ quan Chính phủ xác định những nội dung có khả năng do AI tạo ra, được phát tán khi chưa có sự đồng ý của người liên quan.
Động thái này diễn ra trong bối cảnh nhiều quốc gia châu Âu chuẩn bị bước vào các cuộc bầu cử trong năm tới, trong đó có Italy, Pháp và Hy Lạp. TikTok coi việc phát hiện nội dung giả mạo bằng AI là một phần trong nỗ lực ngăn chặn thông tin sai lệch có thể ảnh hưởng đến môi trường chính trị và bầu cử.
Về quản lý nội dung AI, Liên minh châu Âu (EU) đã bắt đầu triển khai các quy định minh bạch toàn diện từ tháng 8, trong đó có yêu cầu gắn nhãn đối với deepfake và một số nội dung do AI tạo ra. TikTok cũng đã yêu cầu người sáng tạo gắn nhãn cho hình ảnh, âm thanh và video được tạo bằng AI.
Không chỉ TikTok, YouTube cũng phát triển công cụ nhận diện hình ảnh nhằm giúp người sáng tạo phát hiện các video do AI tạo ra có sử dụng hình ảnh, mô phỏng họ trái phép.
Việc các nền tảng lớn đầu tư công cụ phát hiện deepfake cho thấy kiểm soát nội dung do AI tạo ra đang trở thành yêu cầu ngày càng cấp thiết. Tuy nhiên, hiệu quả của các giải pháp này còn phụ thuộc vào khả năng nhận diện, cơ chế xử lý báo cáo và mức độ phối hợp giữa nền tảng với người dùng trong bảo vệ danh tính trên không gian mạng.