Instagram sử dụng trí tuệ nhân tạo để phát hiện và cảnh báo ngôn từ bạo lực

2019-12-17 17:00:40

(Sóng trẻ) – Instagram ra mắt một tính năng mới có tác dụng cảnh báo người dùng khi họ chuẩn bị đăng tải bài viết với chú thích mang ngôn từ bạo lực.

Mạng xã hội trực thuộc Facebook cho biết, họ sử dụng trí tuệ nhân tạo (A.I) để phát hiện những ngôn từ mang tính bắt nạt. Những người dùng nhận được cảnh báo về ngôn ngữ xấu sẽ có cơ hội chỉnh sửa chú thích của mình trước khi chia sẻ.

Cụ thể hơn, “cảnh báo chú thích” sẽ đưa lên một thông báo nói rằng chú thích với ngôn từ xấu trông giống dạng câu từng bị báo cáo trước đó. Kế tiếp, người dùng sẽ có ba lựa chọn: chỉnh sửa chú thích, tìm hiểu thêm hoặc vẫn tiếp tục chia sẻ bất kể cảnh báo.

Instagram ra mắt tính năng “cảnh báo chú thích” để cảnh báo người dùng khi họ chuẩn bị đăng tải bài viết có ngôn từ xấu (Ảnh: Instagram)

Vào tháng bảy vừa rồi, Instagram cũng cho ra mắt một tính năng tương tự, cho phép người dùng suy nghĩ lại về việc đăng tải những bình luận mang tính xúc phạm trên bài đăng của người khác.

753a0bd30__has_begun_rolling_out_an_ai_a11_1576499344316.jpg

Tính năng ra mắt vào tháng bảy vừa rồi cũng sử dụng trí tuệ nhận tạo để xác định và đưa ra thông báo cho người dùng khi nhận thấy dấu hiệu “xúc phạm” trong bình luận (Ảnh: Instagram)

Nài ra, cũng trong năm nay, gã khổng lồ mạng xã hội này đã thêm công cụ “hạn chế”, giúp người dùng kiểm soát tốt hơn các bình luận xuất hiện trên bài đăng của họ.

753a0bd30_ure_called_restrict_that_willa10_1576499340294.jpg

Công cụ “hạn chế” (Ảnh: Instagram)

Khi một người dùng bị hạn chế, người đó không thể thấy bạn hoạt động trên Instagram, hoặc khi bạn đọc tin nhắn từ họ.

“Trách nhiệm của chúng tôi chính là tạo ra một môi trường lành mạnh trên Instagram” – Người đứng đầu trang mạng xã hội này, ông Adam Mosseri cho hay – “Đây vốn là điều chúng tôi ưu tiên hàng đầu suốt một khoảng thời gian dài. Giờ chúng tôi đang tiếp tục đào sâu để hiểu rõ hơn và giải quyết vấn đề này”.

Từng là một trong những nền tảng truyền thông xã hội liên tục bị chỉ trích vì không hành động đủ nhanh để xóa các nội dung mang tính lạm dụng. Giờ đây, Instagram khẳng định “không có gì quan trọng hơn sự an toàn của người dùng trong cộng đồng này”. Không chỉ vậy, cũng trong chính năm nay, trang đã thực hiện lệnh cấm các hình ảnh có nội dung tự hại và tự tử.

Trả lời về tính năng mới, Dan Raisbeck, nhà đồng sáng lập tổ chức từ thiện chống bắt nạt trực tuyến Cybersmile, cho biết đây là một ví dụ điển hình về nỗ lực chủ động ngăn chặn bắt nạt qua mạng, thay vì chỉ đơn thuần phản ứng sau khi sự việc đã xảy ra.

“Tất cả chúng ta nên suy nghĩ về tác động của lời nói của mình, đặc biệt là ở trên mạng, nơi các bình luận thường dễ bị hiểu nhầm”, Dan Raisbeck cho biết, “Các công cụ như cảnh báo chú thích và bình luận trên Instagram chính là cách hữu ích để người dùng suy nghĩ trước khi đăng một nội dung bất kì, thay vì dựa vào phản ứng để xóa bình luận gây tổn thương sau khi người khác nhìn thấy”.

Phạm Phương Linh (Theo DailyMail)