Thông tin từ Công an xã Đông Thuỵ Anh, thời gian gần đây, trên không gian mạng xuất hiện ngày càng nhiều trường hợp lợi dụng công nghệ trí tuệ nhân tạo (AI) để tạo ra các nội dung rác, tạo dựng video, hình ảnh khiêu dâm, phản cảm, bạo lực, rùng rợn hoặc những video, hình ảnh sai sự thật, xuyên tạc dựng lên nhân vật, sự kiện, phát ngôn không có thật; bóp méo hình ảnh, thông tin về tổ chức, cá nhân.

Đáng chú ý, đã xuất hiện một số kênh mạng xã hội có lượng tương tác lớn ngụy tạo video, hình ảnh nhằm bôi nhọ, xúc phạm uy tín của Đảng, các cơ quan Nhà nước, các lực lượng chức năng tạo dư luận xấu, khiến người dân dễ hiểu nhầm rằng các nội dung bịa đặt này là thật.

Một số trang thậm chí còn lợi dụng sự tò mò của người xem để tung hô, cổ vũ cho hệ thống các kênh lan truyền tin giả, gây ảnh hưởng tiêu cực đến môi trường mạng, xâm phạm nghiêm trọng quyền, lợi ích hợp pháp của người khác, gây hoang mang cho cộng đồng.

Theo Công an xã Đông Thuỵ Anh, hệ luỵ của việc này làm méo mó nhận thức của người xem, đặc biệt là trẻ em và thanh thiếu niên. Gây mất niềm tin vào thông tin chính thống, vào các cơ quan Nhà nước.

Tác động tiêu cực đến danh dự, uy tín của cá nhân, tổ chức, lực lượng chức năng. Tiềm ẩn nguy cơ kích động, chia rẽ đoàn kết dân tộc, gây bất ổn xã hội.

Công an xã Đông Thuỵ Anh kêu gọi người dân kiên quyết lên án hành vi lợi dụng AI để sản xuất tin giả, nội dung xấu độc; bôi nhọ, xúc phạm danh dự người khác; trục lợi, câu view, thao túng dư luận; lan truyền hình ảnh, video gây hoang mang, kích động.

Công an xã Đông Thuỵ Anh cũng kêu gọi cộng đồng KOL địa phương, người sáng tạo nội dung sử dụng AI đúng mục đích, có trách nhiệm, minh bạch.

Hãy kiểm chứng thông tin trước khi đăng tải, chia sẻ; không tiếp tay cho nội dung giật gân, độc hại, thiếu kiểm chứng; lên tiếng cảnh báo khi phát hiện kênh tạo tin giả, dựng video/ảnh sai sự thật.

Đồng thời bảo vệ trẻ em trước các nội dung bạo lực, rùng rợn do AI tạo ra; phối hợp với cơ quan chức năng khi gặp dấu hiệu hành vi vi phạm pháp luật.

Trước đó, Công an xã Tiên Hưng, tỉnh Hưng Yên cũng đã phát đi cảnh báo khẩn cấp về nội dung độc hại trên mạng xã hội tới người dân.

Theo Công an xã Tiên Hưng, hiện nay một số tài liệu (như "Tài liệu 88 trang"...) (tài liệu được cho có nhắc đến nhân vật Nguyễn Xuân Đạt - PV) có nội dung kích động, hướng dẫn bạo lực, giết người đang lén lút phát tán trên mạng xã hội.

Cơ quan công an khẳng định, đây là những nội dung cực kỳ độc hại, gây hoang mang và vi phạm pháp luật nghiêm trọng.

Công an xã Tiên Hưng khuyến cáo người dân tuyệt đối không chia sẻ tài liệu trên. Nếu nhận được, hãy xóa ngay lập tức và không lan truyền cho bất kỳ ai.

Khi phát hiện tài khoản/người nào chia sẻ, hãy báo cáo với Công an xã Tiên Hưng hoặc cơ quan chức năng để kịp thời xử lý. Đồng thời giám sát chặt chẽ việc sử dụng mạng xã hội của con em, hướng dẫn các em tránh xa nội dung tiêu cực.

Công an xã Tiên Hưng cảnh báo, người có hành vi lưu trữ, chia sẻ, tán phát nội dung bạo lực, kích động phạm tội có thể bị xử phạt hành chính hoặc truy cứu trách nhiệm hình sự theo quy định.