Các mạng xã hội và nền tảng trực tuyến hiện đang tăng cường các biện pháp kiểm soát và thanh lọc sản phẩm thông tin cũng như hình ảnh do trí tuệ nhân tạo (AI) tạo ra. Mục đích chính của việc này là nhằm bảo vệ người dùng khỏi những rủi ro liên quan đến lừa đảo trực tuyến và thông tin sai lệch. Đại diện từ các nhà mạng và hãng công nghệ cho rằng đã đến lúc cần phải phân biệt rõ giữa giá trị thông tin xác thực do con người tạo ra và những sản phẩm giả lập được tạo ra bởi AI.
Sự phát triển nhanh chóng của AI trong thời gian gần đây đã dẫn đến nguy cơ nhầm lẫn giữa thực và giả, vi phạm bản quyền sáng tạo và tạo ra một môi trường nguy hiểm cho người dùng. Lực lượng an ninh mạng châu Âu đã chỉ ra rằng các sản phẩm thông tin được tạo ra bởi AI đang lan truyền trên mạng xã hội đã gây ra sự nhầm lẫn ở người dùng, đặc biệt là trong thế hệ trẻ.
Các dạng thông tin như làm bài tập, soạn dữ liệu số, tổng hợp thông tin theo cú pháp và lệnh tìm kiếm đang được sử dụng rộng rãi. Điều này đã biến công cụ AI trở nên thông minh hơn. Tuy nhiên, hệ lụy của việc này là người dùng có thể tin tưởng tuyệt đối vào tính chân thật của dữ liệu và sử dụng một cách máy móc, dẫn đến sự nhầm lẫn và sai lệch.
Một số nhà nghiên cứu đã thử nghiệm sử dụng AI vào việc chẩn đoán bệnh tật, sử dụng phác đồ y tế, chọn mua thuốc và thu được kết quả tổng hợp thông tin đáng tin cậy. Tuy nhiên, nếu không có sự tham vấn và kiểm chứng lại từ người có chuyên môn, sẽ có nhiều người nhầm lẫn và gặp nguy hiểm.
Các trường hợp khác đã thử nghiệm so sánh dữ liệu thông tin chính trị, lịch sử xã hội với công cụ AI và phát hiện ra sai sót nghiêm trọng khi dữ liệu được lắp ghép lại tùy tiện. Nhiều thông tin do AI đưa ra khi có yêu cầu đã sai lệch so với thực tế nhưng trình bày khéo léo và trôi chảy, dễ đánh lừa người dùng.
Điều này dễ dẫn đến nghi ngờ của người dùng AI khi tiếp cận vấn đề thời sự, xã hội và kiểm chứng lịch sử. Tất cả cho thấy dữ liệu tổng hợp là nguồn khai thác chính của AI, nhưng không phải dữ liệu nào cũng chính xác. Nếu có công cụ AI được nhiều nhóm người dùng cố tình đưa dữ liệu sai lệch, tương tác nhiều lần, sẽ tích hợp thông tin không chính xác và gây hệ lụy.
Các tổ chức nghiên cứu, ứng dụng đã kiến nghị mạng xã hội, môi trường chia sẻ thông tin, công nghệ phải kiểm tra sản phẩm từ AI. Trường học, viện nghiên cứu, thư viện số, nhà xuất bản đã vào cuộc ngăn chặn nhầm lẫn học thuật, đánh lừa thông tin tác quyền, giả mạo tác phẩm và sáng chế.
Trên không gian mạng, chiêu trò giả lập thông tin, câu view của người dùng có chủ đích, sử dụng AI tạo dữ liệu giả lập không chính xác đang là đối tượng phải thanh lọc. Cảnh báo của cơ quan an ninh mạng về nguy cơ người dùng bị lừa đảo, tấn công mạng, gây nhầm lẫn thông tin và hiểu sai sự việc khi sử dụng dữ liệu, sản phẩm do AI tạo ra.
Cơ quan chức năng đã cảnh báo người dùng mạng xã hội thận trọng, tỉnh táo trước dữ liệu mơ hồ, nhất là có dấu hiệu do công cụ AI soạn. Hầu hết dữ liệu từ AI đều có tính chất hài hước, hình ảnh gần gũi, đẹp mắt, dễ thu hút người dùng quan tâm và tác động thông tin, cảm xúc người dùng.
Thanh lọc thông tin tạo ra từ AI để bảo đảm giúp người dùng tránh bị nguy hại, nhầm lẫn, lừa đảo trực tuyến là cần thiết và cần sự hợp tác của đa số người dùng. Để đạt được điều này, cần có sự phối hợp chặt chẽ giữa các bên liên quan, bao gồm các nhà mạng, hãng công nghệ, tổ chức nghiên cứu và người dùng.
