Meta bị báo cáo tiếp tục chạy quảng cáo có nội dung lạm dụng tình dục trẻ em ở Ấn Độ

Cảnh báo: Bài viết này có chứa mô tả về hành vi lạm dụng.

Một báo cáo mới của các nhà hoạt động có trụ sở tại Mỹ cho thấy Meta đã chạy hàng trăm quảng cáo trả phí với hình ảnh lạm dụng tình dục trẻ em được tạo ra bằng trí tuệ nhân tạo (AI), trong đó có một số quảng cáo ở Ấn Độ, trong 10 tháng qua.

Báo cáo được đưa ra hai tháng sau khi chính phủ Ấn Độ yêu cầu Meta gỡ bỏ tất cả quảng cáo và nội dung quảng bá tài liệu lạm dụng tình dục trẻ em (CSAM) trên Instagram. Điều này diễn ra sau cuộc điều tra của BBC Eye, trong đó phát hiện Instagram đang chạy quảng cáo trả phí quảng bá CSAM ở Ấn Độ.

Dự án Minh bạch Công nghệ (TTP) có trụ sở tại Washington cho biết họ đã tìm thấy 332 quảng cáo có nội dung CSAM được chạy trên Facebook và Instagram, phần lớn trong số đó (274) là vào tháng 8 năm nay.

Khi BBC viết thư cho Meta về những phát hiện này, họ đưa ra tuyên bố:

"Chúng tôi không dung thứ cho các ứng dụng tạo ảnh khỏa thân hoặc bất kỳ hình thức bóc lột trẻ em nào, dù là thật hay do AI tạo ra. Những kẻ phạm tội này liên tục thay đổi chiến thuật để tránh bị phát hiện, đó là lý do tại sao chúng tôi tiếp tục tăng cường khả năng phát hiện và thực thi pháp luật."

Báo cáo của TTP, được công bố hôm 8/9, cho biết họ đã xác định được một số bức ảnh trẻ em thật, bao gồm cả một thành viên của gia đình hoàng gia châu Âu, được sử dụng trong các quảng cáo và sau đó bị chỉnh sửa bằng AI. Báo cáo cho biết hơn một chục quảng cáo vẫn xuất hiện trên nền tảng Meta ngay cả sau khi TTP thông báo cho công ty về những phát hiện của mình.

Khoảng một phần tư (84) số quảng cáo được chạy ở Ấn Độ và 78 trong số đó được đăng tải sau lệnh của chính phủ Ấn Độ về việc xóa bỏ nội dung lạm dụng tình dục trẻ em (CSAM) và cuộc họp của chính phủ với các quan chức cấp cao của Meta.

Sau cuộc điều tra của BBC, một số cơ quan của Ấn Độ, bao gồm Ủy ban Quốc gia về Bảo vệ Quyền Trẻ em và Ủy ban Nhân quyền Quốc gia, cho biết họ đang xem xét vấn đề này.

Việc phân phối CSAM là một tội hình sự ở Ấn Độ, trong khi chính sách của Meta quy định rằng quảng cáo không được chứa nội dung lạm dụng tình dục hoặc gây nguy hiểm cho trẻ em.

Khi BBC liên hệ với Meta về cuộc điều tra của họ, công ty cho biết khi phát hiện ra hành vi lạm dụng trẻ em, họ sẽ báo cáo cho Trung tâm Quốc gia về Trẻ em Mất tích và Bị Lạm dụng (NCMEC) có trụ sở tại Mỹ theo đúng nghĩa vụ pháp lý của mình. NCMEC là hệ thống báo cáo toàn cầu tập trung về việc bóc lột tình dục trẻ em trực tuyến.

Nhưng Bhuwan Ribhu, người sáng lập Just Rights for Children, một mạng lưới hơn 250 tổ chức hoạt động để ngăn chặn bạo lực đối với trẻ em ở Ấn Độ, cho rằng điều này là chưa đủ.

Just Rights for Children đã đệ đơn lên Tòa án Tối cao Ấn Độ, trích dẫn những phát hiện của BBC, và yêu cầu chỉ đạo các nền tảng mạng xã hội về việc báo cáo bắt buộc và xác định những người phát tán tài liệu lạm dụng tình dục trẻ em.

"Các công ty truyền thông xã hội rõ ràng đang vi phạm luật pháp Ấn Độ khi không báo cáo nội dung lạm dụng tình dục trẻ em cho các cơ quan thực thi pháp luật Ấn Độ theo quy định của luật bảo vệ trẻ em," ông Ribhu nói.

TTP, một sáng kiến ​​nghiên cứu của tổ chức phi lợi nhuận Chiến dịch vì Trách nhiệm giải trình nhằm mục đích buộc các công ty công nghệ lớn phải chịu trách nhiệm, cho biết họ đã tìm thấy 332 quảng cáo có nội dung lạm dụng tình dục trẻ em trên Instagram và Facebook đang được phát sóng tại Mỹ, Anh, EU, Úc và Ấn Độ. Họ cho biết đã báo cáo tất cả các quảng cáo này cho NCMEC.

Theo TTP, hầu hết các quảng cáo họ tìm thấy đều bắt đầu bằng ảnh của một đứa trẻ, và khi video phát, bức ảnh được AI chỉnh sửa để cho thấy đứa trẻ đang thực hiện một hành vi tình dục thô tục.

TTP mô tả một quảng cáo được phát sóng ở Ấn Độ như sau: Một bức ảnh của một bé gái tuổi vị thành niên được hoạt hình hóa để thực hiện một hành vi tình dục thô tục, với giọng nói lồng tiếng rằng, "Không có giới hạn nào. Tất cả các nhân vật đều là người thật và có nhiều lựa chọn. Đây là AI mà đàn ông thực sự sử dụng."

BBC chưa xem quảng cáo này. Theo TTP, quảng cáo này đã được đăng tải bởi hơn 50 tài khoản khác nhau ở Ấn Độ trong vòng hai tuần vào tháng 8 năm nay.

Vào tháng 7, sau cuộc điều tra của BBC, Meta đã đăng một bài viết chi tiết trên trang web của mình về cách họ chống lại việc bóc lột trẻ em trên các ứng dụng của mình.

"Bất kỳ ai trên nền tảng của chúng tôi đều có thể báo cáo quảng cáo nếu họ tin rằng chúng vi phạm chính sách của chúng tôi," bài viết nhấn mạnh.

TTP cho biết họ đã thử báo cáo quảng cáo thông qua hệ thống báo cáo của Meta và trong số 84 quảng cáo được chạy ở Ấn Độ, họ đã báo cáo được 55 quảng cáo. Meta chỉ cung cấp tùy chọn báo cáo quảng cáo khi chúng đang được hiển thị.

Đối với 43 quảng cáo trong số này, TTP nhận được phản hồi rằng, "Chúng tôi đã xem xét và thấy rằng quảng cáo này không vi phạm Tiêu chuẩn Quảng cáo của chúng tôi."

Đối với 11 quảng cáo, họ được thông báo rằng nội dung đã bị xóa. Đối với một quảng cáo khác, họ vẫn chưa nhận được phản hồi.

Khi BBC liên hệ với Meta để đề nghị bình luận, họ nói:

"Chúng tôi đã xây dựng các biện pháp phòng thủ mạnh mẽ, bao gồm cả hệ thống chặn quảng cáo vi phạm cũng như giám sát liên tục trong trường hợp ban đầu chúng tôi bỏ sót điều gì đó: đó là lý do tại sao nhiều quảng cáo được báo cáo cho chúng tôi đã bị xóa, hầu hết có ít hơn 200 lượt hiển thị và tổng chi phí quảng cáo dưới 5.000 USD".

TTP cho biết khi họ liên hệ với Meta để xin phản hồi, tất cả các quảng cáo mà họ đã báo cáo đều đã bị xóa.

Điều này tương tự như những gì đã xảy ra trong cuộc điều tra của BBC. Khi BBC sử dụng hệ thống báo cáo của Meta để báo cáo một trong những quảng cáo có nội dung lạm dụng tình dục trẻ em cho Instagram, nền tảng này đã không gỡ bỏ.

Sau đó, khi BBC yêu cầu Meta bình luận, họ cho biết đã vô hiệu hóa một số quảng cáo và đình chỉ các tài khoản đăng tải các quảng cáo này. Công ty cho biết họ đã xóa thêm quảng cáo, vô hiệu hóa thêm tài khoản và chặn URL cho các nội dung khác vi phạm chính sách để hồi đáp cho những phát hiện của BBC.

TTP cho hay phần lớn trong số 332 quảng cáo mà họ tìm thấy đều hướng người dùng đến các ứng dụng tạo hình ảnh hoặc video bằng AI, chủ yếu đến từ các nhà phát triển Trung Quốc.

Báo cáo cáo buộc rằng việc quảng cáo các ứng dụng này bằng hình ảnh lạm dụng tình dục trẻ em ngụ ý rằng các quảng cáo đó có thể được sử dụng để tạo ra hoặc xem nội dung lạm dụng tình dục trẻ em.

Meta cho biết họ cấm quảng bá các ứng dụng tạo ảnh khỏa thân, sử dụng trí tuệ nhân tạo để tạo ra hình ảnh khỏa thân hoặc khiêu dâm giả mạo mà không có sự đồng ý.

Một trong những sĩ quan cảnh sát mạng hàng đầu của Ấn Độ, bà Shikha Goel, giám đốc cơ quan An ninh mạng tại bang Telangana, nói với BBC rằng một trong những thách thức lớn nhất đối với CSAM là "sự dễ dàng mà người dùng có thể chuyển từ nền tảng này sang nền tảng khác, khiến việc bắt giữ họ trở nên khó khăn hơn".

"Chúng tôi hy vọng rằng chính phủ sẽ giải quyết vấn đề này trong các cuộc trao đổi gần đây nhất với các trung gian truyền thông xã hội và hướng dẫn họ cho phù hợp," bà nói thêm.

Các quảng cáo mà BBC tìm thấy trong cuộc điều tra của mình cũng hướng người dùng đến một ứng dụng khác - ứng dụng nhắn tin Telegram - nơi họ có thể mua tài liệu với giá chỉ 99 rupee [26.000 đồng].

Telegram nói với BBC vào thời điểm đó rằng công ty sử dụng cả kiểm duyệt tự động và thủ công để giải quyết vấn nạn lạm dụng tình dục trẻ em và rằng họ đã "gần như loại bỏ hoàn toàn việc lan truyền CSAM công khai" trên nền tảng của mình.

Quảng cáo trên các nền tảng của Meta chỉ được đăng tải sau khi được công nghệ kiểm duyệt của họ phê duyệt. Hệ thống xem xét của họ chủ yếu dựa vào tự động hóa và được thiết kế để kiểm tra hình ảnh, video, văn bản và âm thanh, cũng như đối tượng mà quảng cáo nhắm đến và các liên kết dẫn họ đến đâu.

Sau cuộc điều tra của BBC, Meta khẳng định "không có hệ thống nào là hoàn hảo" và rằng "những kẻ tội phạm tiếp tục quyết liệt tìm cách khai thác nền tảng của chúng tôi, bao gồm cả thông qua hệ thống quảng cáo của chúng tôi".

Nhưng TTP phát hiện ra rằng một số quảng cáo có nội dung lạm dụng tình dục trẻ em được đặt hàng từ chính các đối tác đại lý quảng cáo của Meta tại Trung Quốc.

Những đối tác này, được gọi là "đại lý bán lại", chuyển hàng tỷ đô la quảng cáo của Trung Quốc lên Facebook và Instagram. Các đối tác này không trả lời câu hỏi của TTP.

TTP cho biết các quảng cáo mới vẫn tiếp tục xuất hiện ngay cả sau khi họ đã thông báo cho Meta về kết quả báo cáo của mình. Họ đã chia sẻ chi tiết về 17 quảng cáo, trong đó có 11 quảng cáo được chạy ở Ấn Độ vào các ngày 1/9 và 2/9.