Đáng chú ý, mọi quảng cáo trên Instagram đều phải qua hệ thống phê duyệt tự động trước khi hiển thị. Khi BBC báo cáo một quảng cáo thực tế chứa hình ảnh bé gái bật khóc vì bị xâm hại, Instagram phản hồi sau 24 giờ rằng nội dung "không vi phạm tiêu chuẩn cộng đồng".

Meta sau đó phân trần với BBC: "Không có hệ thống nào là hoàn hảo, và quy trình đánh giá của chúng tôi có thể không phát hiện được tất cả các vi phạm".

Thuật toán thúc đẩy nội dung cực đoan

Để điều tra, BBC lập một tài khoản ẩn danh tại Ấn Độ và ấn theo dõi 10 tài khoản phụ nữ ăn mặc hở hang. Chưa đầy một tuần, Instagram bắt đầu chủ động gợi ý các quảng cáo chứa cảnh khỏa thân, rồi đến các quảng cáo lạm dụng trẻ em (khoảng 30 quảng cáo độc nhất) kèm link dẫn sang Telegram.

Cựu phó chủ tịch Facebook Brian Boland cho biết ông "kinh hoàng nhưng không ngạc nhiên" và giải thích rằng thuật toán của Instagram được thiết kế để giữ chân người dùng bằng cách hiển thị "những thứ cực đoan hơn, kích thích hơn".

Ông chỉ ra bi kịch rằng theo thời gian, sự đánh đổi giữa doanh thu và trải nghiệm an toàn của người dùng đã bị xem nhẹ. Quảng cáo hiện chiếm tới hơn 90% doanh thu của Instagram.

Trước áp lực dư luận, Meta tuyên bố họ đang tăng cường dùng AI và khẳng định luôn nỗ lực chống tội phạm ấu dâm, đồng thời phủ nhận việc ưu tiên doanh thu hơn sự an toàn.

Thực trạng nhức nhối tại Ấn Độ

Tại Ấn Độ, việc phân phối văn hóa phẩm đồi trụy và CSAM là tội hình sự. Nhận định về sự việc, ông Madan Lokur, cựu thẩm phán Tòa án Tối cao Ấn Độ, bày tỏ sự lo ngại sâu sắc rằng Instagram đang "kiếm tiền bằng cách tham gia vào một hoạt động tội phạm". Ông nhấn mạnh: "Nền tảng này không thể, tuyệt đối không thể đùn đẩy trách nhiệm của mình".

Năm 2025, Ấn Độ ghi nhận 1,9 triệu báo cáo về lạm dụng trẻ em trên mạng (chỉ đứng sau Mỹ). Bà Shikha Goel, Giám đốc Cục An ninh Mạng bang Telangana, cho biết Instagram và Facebook là nơi phát sinh nhiều cảnh báo nhất.

Trong khi đó, các tổ chức phi chính phủ cho biết tội phạm đang lợi dụng sự chuyển hướng tinh vi từ Instagram sang Telegram để xóa dấu vết.

Phía Telegram tuyên bố đã xóa hơn 274.000 nhóm vi phạm trong năm 2026, nhưng thừa nhận việc ngăn chặn triệt để chuỗi cung - cầu xuyên biên giới này vẫn là một thách thức cực kỳ lớn.