Nguy hại từ video giả mạo bằng AI

(Sóng trẻ) - Những video giả mạo bằng AI đang phủ sóng trên mạng xã hội, đặt ra cảnh báo về những hình thức lừa đảo, trục lợi lòng thương cảm, niềm tin từ những điều giả tạo.  

Tạo dựng hoàn cảnh giả

Thời gian vừa qua, những video giả mạo bằng AI xuất hiện dày đặc trên các nền tảng như TikTok, Facebook. Hiện tượng này phủ sóng ở nhiều dạng nội dung, từ các đoạn clip ngắn đến những câu chuyện dài được dàn dựng tinh vi. 

Đáng lo ngại, những video giả mạo bằng AI có tốc độ lan truyền nhanh chóng và thu về hàng nghìn lượt xem, lượt chia sẻ chỉ sau vài giờ đăng tải. Không ít người bày tỏ sự đồng cảm, kêu gọi ủng hộ đối với những trường hợp trên. 

Phạm Yến Nhi (18 tuổi) - Sinh viên Trường Đại học Mỹ thuật Công nghiệp bày tỏ: “Mình bắt gặp những video giả mạo bằng AI khá thường xuyên trên TikTok. Ban đầu, mình tin và thấy thương cảm, muốn ủng hộ cho những hoàn cảnh ấy. Tuy nhiên, khi biết những video đó sử dụng AI để giả mạo nhằm mục đích kinh doanh thì mình khá phẫn nộ, hụt hẫng và dần trở nên cảnh giác hơn về những video có nội dung tương tự dù là giả hay thật”.

Tỉnh táo trước video giả mạo bằng AI

Sự xuất hiện của video giả mạo bằng AI gây ra hậu quả đặc biệt nghiêm trọng đối với các đối tượng bị ảnh hưởng. Chia sẻ về tác hại của những video giả mạo bằng AI, anh Đặng Quốc Sinh - Kỹ sư an ninh mạng tại Trung tâm Kinh doanh Giải pháp, VNPT Hà Tĩnh cho rằng những video giả mạo bằng AI gây ảnh hưởng đến lòng tin của cộng đồng. Từ đó, những nội dung đáng tin cậy thường bị nghi ngờ, quyền lợi của các cá nhân sáng tạo nội dung lành mạnh, cá nhân đang cần sự giúp đỡ bị ảnh hưởng. 

“Nếu những video giả mạo được chia sẻ rộng rãi, mạng xã hội sẽ xuất hiện làn sóng sai lệch và khi sự thật được bóc trần, tâm lý kích động, phẫn nộ là điều khó tránh khỏi. Dần dần, những nội dung uy tín, người thật việc thật bị nghi ngờ và gặp khó khăn trong việc tiếp cận với sự hỗ trợ của cộng đồng”, anh Sinh phân tích.

Bên cạnh đó, tình trạng trên còn gây ra hậu quả về mặt tài chính. Khi chiếm được lòng tin của nạn nhân, các đối tượng thường dẫn dụ, sau đó chiếm đoạt tài sản theo các cách thức khác nhau, xuất phát từ lòng tốt lại trở thành điểm yếu, khiến nạn nhân thiệt hại về vật chất. 

Để tránh trở thành nạn nhân của những video giả mạo bằng AI, người dùng mạng xã hội cần trang bị cho bản thân kiến thức, cách nhận biết những video tạo bằng AI. Anh Đặng Quốc Sinh cho biết: “Những video giả mạo bằng AI vẫn xuất hiện lỗ hổng, người dùng mạng xã hội có thể chú ý tới những đặc điểm như biểu cảm khuôn mặt, chuyển động, ánh sáng, âm thanh của video để phân biệt”. Người dùng đồng thời có thể sử dụng những công cụ nhận diện AI miễn phí để kiểm chứng. 

Trong bối cảnh trí tuệ nhân tạo phát triển ngày càng mạnh mẽ, việc nhận diện và cảnh giác trước những video giả mạo bằng AI trở thành yêu cầu cấp thiết. Chỉ khi cộng đồng cùng nâng cao ý thức, người dùng mạng xã hội mới tránh được tình trạng bị thao túng, lừa đảo.