OpenAI phát triển công cụ phát hiện hình ảnh xâm hại trẻ em do AI tạo ra

(Sóng trẻ) - OpenAI vừa công bố công cụ trí tuệ nhân tạo (AI) có khả năng nhận diện hình ảnh xâm hại tình dục trẻ em, bao gồm cả nội dung được tạo hoặc chỉnh sửa bằng AI. Công cụ được cung cấp miễn phí cho các tổ chức bảo vệ trẻ em và đơn vị đủ điều kiện, nhằm hỗ trợ phát hiện nội dung độc hại và ưu tiên quá trình kiểm duyệt.

Vừa qua, OpenAI công bố hệ thống phân loại hình ảnh mới mang tên OpenAI CSAM Image Classifier, được phát triển nhằm hỗ trợ nhận diện những hình ảnh có dấu hiệu xâm hại tình dục trẻ em (CSAM), trong đó có nội dung được tạo ra bằng công nghệ AI. Theo công ty, công cụ phân tích các đặc điểm trực quan để phát hiện những hình ảnh chưa từng xuất hiện trong các cơ sở dữ liệu nhận diện trước đó, đồng thời đưa ra điểm đánh giá rủi ro giúp đội ngũ kiểm duyệt xác định những trường hợp cần được ưu tiên xem xét.

Điểm đáng chú ý của hệ thống là khả năng cung cấp tín hiệu riêng đối với nội dung xâm hại trẻ em có thể được tạo ra bằng AI. Đây là hướng tiếp cận nhằm bổ sung cho phương pháp đối chiếu mã nhận dạng hình ảnh, vốn chủ yếu phát hiện những nội dung đã được ghi nhận trước đó. Với hình ảnh mới được tạo ra hoặc chỉnh sửa bằng công nghệ tạo sinh, hệ thống phân loại có thể hỗ trợ nhận diện những trường hợp chưa có dữ liệu đối chiếu.

OpenAI đang tăng cường các biện pháp an toàn nhằm ngăn chặn hành vi lạm dụng AI trên môi trường mạng. (Ảnh minh họa)
OpenAI đang tăng cường các biện pháp an toàn nhằm ngăn chặn hành vi lạm dụng AI trên môi trường mạng. (Ảnh minh họa)

OpenAI cho biết công cụ được phát triển và đánh giá với sự hỗ trợ của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) - tổ chức phi lợi nhuận vận hành hệ thống CyberTipline, tiếp nhận thông tin về các hành vi bóc lột trẻ em trên môi trường mạng. Doanh nghiệp hiện cung cấp quyền truy cập công cụ thông qua API miễn phí cho các tổ chức được thẩm định, bao gồm đơn vị bảo vệ trẻ em và các tổ chức hoạt động trong lĩnh vực an toàn trực tuyến.

Bên cạnh công cụ phát hiện hình ảnh, OpenAI cũng triển khai các biện pháp can thiệp trên ChatGPT nhằm ngăn chặn hành vi tìm kiếm nội dung xâm hại trẻ em. Khi phát hiện yêu cầu vi phạm, hệ thống sẽ hiển thị cảnh báo, xóa cuộc trò chuyện bị đánh dấu và tạm dừng quyền truy cập ChatGPT trong 24 giờ. Những trường hợp tái phạm có thể đối mặt với thời hạn hạn chế dài hơn, đóng tài khoản hoặc bị báo cáo tới cơ quan chức năng.

Động thái của OpenAI diễn ra trong bối cảnh nội dung xâm hại tình dục trẻ em do AI tạo ra đang đặt ra thách thức ngày càng lớn đối với công tác bảo vệ trẻ em trên môi trường số. Theo Quỹ Giám sát Internet (Internet Watch Foundation - IWF), tổ chức chuyên phát hiện và hỗ trợ gỡ bỏ nội dung xâm hại trẻ em trên mạng, trong năm 2025, đơn vị này đã đánh giá 8.029 hình ảnh và video do AI tạo ra, có nội dung xâm hại tình dục trẻ em mang tính chân thực. Đáng chú ý, số video thuộc nhóm nội dung này tăng từ 13 video trong năm 2024 lên 3.443 video vào năm 2025.

IWF ghi nhận 3.443 video AI mô tả hành vi xâm hại tình dục trẻ em trong năm 2025, tăng từ 13 video của năm trước. (Ảnh: Internet Watch Foundation - IWF)
IWF ghi nhận 3.443 video AI mô tả hành vi xâm hại tình dục trẻ em trong năm 2025, tăng từ 13 video của năm trước. (Ảnh: Internet Watch Foundation - IWF)

Song song với việc phát triển công cụ nhận diện, OpenAI cho biết sẽ tiếp tục phối hợp với NCMEC, Tech Coalition và Thorn nhằm chia sẻ công nghệ, cung cấp hướng dẫn an toàn cho các nhà phát triển và hỗ trợ lực lượng điều tra chuyên trách. Qua đó, doanh nghiệp hướng tới tăng cường sự phối hợp giữa các nền tảng công nghệ, tổ chức bảo vệ trẻ em và cơ quan thực thi pháp luật trước những rủi ro mới do AI tạo sinh đặt ra.

Nguồn: Open AI; Internet Watch Foundation (IWF)

Cùng chuyên mục

Đừng bỏ lỡ
Cô giáo Phạm Thị Huyền và ba thập kỷ nâng bước những mảnh đời khuyết

Cô giáo Phạm Thị Huyền và ba thập kỷ nâng bước những mảnh đời khuyết

Tin nổi bật1 tuần trước

(Sóng trẻ) - Gần 30 năm qua, có một lớp học không tiếng trống trường, không yêu cầu giấy khai sinh, không thu một khoản học phí vẫn đều đặn duy trì mỗi ngày. Từ những ngày đầu tiên, cô đã kiên trì, đồng hành cùng các em trong hành trình tiếp cận tri thức

Hơn nửa thế kỷ 'tiếp lửa' nghề bánh cuốn Thanh Trì

Hơn nửa thế kỷ 'tiếp lửa' nghề bánh cuốn Thanh Trì

Tin nổi bật2 tuần trước

(Sóng trẻ) - Nằm trên góc phố nhỏ tại phường Vĩnh Hưng (Hà Nội), cửa hàng bánh cuốn Thanh Trì cô Lan níu chân thực khách bởi sự dân dã, đậm đà bản sắc ẩm thực Hà Thành.

Nghệ thuật cải lương trong dòng chảy thời đại số

Nghệ thuật cải lương trong dòng chảy thời đại số

Tin nổi bật2 tuần trước

(Sóng trẻ) - Sự phát triển của công nghệ và các nền tảng số đang làm thay đổi cách công chúng tiếp cận nghệ thuật truyền thống. Trước những chuyển động ấy, cải lương cũng đứng trước bài toán thích ứng với phương thức tiếp cận mới, nhằm gìn giữ những giá

XEM THÊM TIN

SỰ KIỆN NỔI BẬT

TIN ẢNH

XEM NHIỀU NHẤT

TIN NỔI BẬT

DIỄN ĐÀN