Công nghệ AI đang phát triển mạnh mẽ, nhưng song song đó, những kẻ lừa đảo cũng tận dụng AI để thực hiện các hành vi lừa đảo tinh vi, đặc biệt nhắm vào người cao tuổi. Một bà lão ở Trung Quốc đã suýt mất trắng 70 triệu đồng vì tin vào giọng "cháu" cầu cứu được tạo ra bởi AI.
Bạn có bao giờ tưởng tượng mình sẽ bị lừa bởi chính giọng nói của người thân? Nghe có vẻ như một phân cảnh trong phim khoa học viễn tưởng, nhưng nó đang trở thành hiện thực đáng báo động. Tại Trung Quốc, những kẻ lừa đảo đang sử dụng công nghệ AI để giả mạo giọng nói, nhắm vào những người cao tuổi nhẹ dạ cả tin. Câu chuyện của bà Lưu ở Hồ Bắc là một ví dụ điển hình.
Ngày 28/4 vừa qua, bà Lưu nhận được một cuộc gọi từ một thanh niên tự xưng là cháu trai. "Cháu" nói rằng mình đã gây gổ với người khác trong siêu thị và bị cảnh sát tạm giữ, cần gấp 20 nghìn tệ (khoảng 70 triệu đồng) để bồi thường. Bà Lưu, không mảy may nghi ngờ, đã vội vàng đi vay mượn khắp nơi và chuyển tiền cho một người lạ mặt theo chỉ dẫn của "cháu trai". Điều đáng nói là bà Lưu không hề nhận ra bất thường, bởi giọng nói trong điện thoại hoàn toàn giống với cháu mình.
Chỉ đến khi cháu trai thật trở về nhà, bà Lưu mới bàng hoàng nhận ra mình đã bị lừa. Hóa ra, giọng nói mà bà nghe được là sản phẩm của công nghệ AI. Những kẻ lừa đảo đã thu thập mẫu giọng nói của cháu bà qua những cuộc gọi trước đó, sau đó sử dụng AI để tạo ra một bản sao hoàn hảo.
Cảnh sát điều tra cho thấy, đây không phải là trường hợp đơn lẻ. Những kẻ lừa đảo thường sử dụng điện thoại cố định để liên lạc, lợi dụng sự thiếu hiểu biết về công nghệ của người cao tuổi và lòng tin của họ dành cho người thân để giăng bẫy. Chúng thậm chí còn tuyển dụng nhân sự trực tuyến dưới danh nghĩa công việc bán thời gian lương cao, thu hút những người nhẹ dạ cả tin đến thu tiền tại nhà, tạo thành một chuỗi tội phạm tinh vi.
Không chỉ gian lận giọng nói, công nghệ thay đổi khuôn mặt nhờ AI cũng đang bị lợi dụng để kích hoạt thẻ điện thoại bất hợp pháp. Cảnh sát Xiangyang đã triệt phá một băng nhóm sử dụng thông tin cá nhân và ảnh chụp bất hợp pháp để tổng hợp video khuôn mặt động, vượt qua hệ thống nhận dạng khuôn mặt của các nhà mạng viễn thông và kích hoạt thành công hàng trăm thẻ điện thoại. Những thẻ này sau đó được sử dụng cho các hoạt động lừa đảo với số tiền lên tới hàng tỷ đồng.
Các chuyên gia cảnh báo rằng, cơ chế xác thực trực tuyến hiện nay chỉ dựa vào thẻ căn cước và nhận dạng khuôn mặt là không đủ để ngăn chặn các cuộc tấn công AI cao cấp. Họ kêu gọi tăng cường các biện pháp bảo mật, bao gồm việc sử dụng công nghệ AI để chống lại việc làm giả AI và giới thiệu các cơ chế xác minh mới như nhận dạng bản đồ nhiệt và thuật toán học sâu, có khả năng tăng độ chính xác nhận dạng lên hơn 95%.