Giọng nói bạn nghe thấy ở đầu bên kia cuộc điện thoại có thể không phải là người mà bạn nghĩ, người mà bạn đang nhắn tin có thể thực sự là bot và khuôn mặt trong ảnh hoặc video trên ứng dụng hẹn hò yêu thích của bạn có thể không tồn tại.
Jeff Clune, phó giáo sư khoa học máy tính tại Đại học British Columbia, cho biết những tiến bộ công nghệ trong trí tuệ nhân tạo tạo ra khả năng thúc đẩy các vụ lừa đảo tình cảm.
Ông nói trong một cuộc phỏng vấn rằng những kẻ lừa đảo hiện có "nhiều công cụ hơn trong hộp công cụ của chúng để lừa mọi người, đặc biệt là những người không nhận thức được những tiến bộ gần đây của công nghệ".
Những tiến bộ như vậy bao gồm trình mô phỏng giọng nói, trình tạo khuôn mặt, deepfakes, trong đó một hình ảnh hoặc video hiện có được sử dụng để tạo cảnh quay video giả nhưng đáng tin cậy và các bot trò chuyện như Chat GPT tạo phản hồi văn bản giống con người.
Trung tâm Chống gian lận Canada đã báo cáo rằng các vụ lừa đảo tinh cảm đã tăng vọt trong đợt chuyển đổi trực tuyến hàng loạt do đại dịch COVID-19 gây ra. Trung tâm cho biết các kế hoạch lừa đảo thường liên quan đến việc thuyết phục nạn nhân tham gia vào một mối quan hệ ảo, trực tuyến và một khi lòng tin và tình cảm được phát triển, những kẻ lừa đảo sử dụng đòn bẩy cảm xúc đó để yêu cầu tiền, tiền điện tử, quà tặng hoặc đầu tư.
Trung tâm đã cảnh báo rằng Ngày lễ tình nhân tạo cơ hội cho những kẻ lừa đảo nhắm mục tiêu vào những người Canada đang tìm kiếm một mối quan hệ. Dữ liệu mới nhất hiện có của nó cho thấy 1.928 báo cáo về các vụ lừa đảo tình cảm với tổng thiệt hại hơn 64,5 triệu đô la vào năm 2021, tăng gần 25% so với năm trước.
Báo cáo Đánh giá về Mối Đe dọa Mạng của trung tâm cho năm 2023/2024 đã đánh dấu công nghệ deepfake thuyết phục và trí tuệ nhân tạo, hay AI, trình tạo văn bản là "tác nhân đe dọa" tiềm năng.
"Khi deepfakes trở nên khó phân biệt hơn và các công cụ để tạo ra deepfakes thuyết phục trở nên phổ biến rộng rãi hơn, các tác nhân đe dọa mạng rất có thể sẽ tiếp tục kết hợp công nghệ vào việc sử dụng các chiến dịch (thông tin sai lệch và thông tin độc hại), cho phép chúng gia tăng phạm vi, quy mô và độ tin cậy của các hoạt động ảnh hưởng", phân tích cho biết.
"Các trình tạo văn bản đã phát triển đến mức mà nội dung mà chúng tạo ra thường gần như không thể giải mã được từ tài liệu hợp pháp."
Clune nói rằng các vụ lừa đảo sử dụng các khía cạnh của công nghệ AI vẫn cần một người giật dây, nhưng điều đó có thể sớm thay đổi.
"Mặc dù lừa đảo đang rất phổ biến hiện nay, nhưng vẫn có chi phí để làm điều đó vì con người phải ngồi đó và tiêu tốn thời gian của họ, nhưng nếu bạn có thể để AI làm điều đó với một triệu người mỗi ngày và chỉ cần ngồi và xem tiền lăn vào, đó là một nơi đáng sợ — và đó là điều có thể xảy ra với công nghệ này," ông nói.
Suzie Dunn, trợ lý giáo sư tại Trường Luật Schulich thuộc Đại học Dalhousie, cho biết luật hiện không theo kịp công nghệ, để lại "khoảng trống lớn" trong khung pháp lý.
"Một trong những thách thức mà chúng ta gặp phải xung quanh luật mạo danh là, theo Bộ luật Hình sự của Canada, bạn thực sự phải mạo danh một người hiện có," Dunn nói trong một cuộc phỏng vấn.
Bà cho biết phần mềm cho phép mọi người tạo ra một cá nhân không tồn tại, với giọng nói, hoặc khuôn mặt giả, gây ra những rắc rối về mặt pháp lý.
"Nếu bạn đang sử dụng hình ảnh của ai đó hoặc sử dụng tên của ai đó, thì đó có thể được coi là một hình thức mạo danh, nhưng với những công nghệ mới này, nơi bạn thực sự có thể tạo ra một người không tồn tại, những kiểu gây hại thường có nghĩa là được bảo vệ theo các quy tắc mạo danh này không thực sự được bảo vệ."
Bà nói, các nạn nhân phải dựa vào luật chống tống tiền và lừa đảo hiện hành.
"Chúng ta không cần luật tống tiền mới. Tống tiền là tống tiền cho dù nó được thực hiện bởi deepfakes hay bởi một người bình thường", bà nói thêm.
"Cũng có một lỗ hổng lớn về vai trò của các nền tảng trong việc giải quyết các tác hại xảy ra với chúng."
Dunn cho biết các tập đoàn, bao gồm các nhà phát triển AI, nền tảng hẹn hò và truyền thông xã hội, nên nhận thức được những tác hại tiềm tàng và áp dụng các biện pháp bảo vệ cần thiết.
Clune đồng ý. Ông cho biết công nghệ mới "sẽ luôn đứng trước luật pháp và các chính trị gia."
Ông cho biết tốc độ tiến bộ trong lĩnh vực này là "ngoạn mục" và nó sẽ tiếp tục, nếu không muốn nói là tăng tốc.
"Hầu hết mọi thứ mà bạn có thể tưởng tượng có vẻ như khoa học viễn tưởng và tương lai ngày nay sẽ xuất hiện trong một vài năm nữa. Các chính trị gia và xã hội nên tham gia vào các cuộc trò chuyện nghiêm túc về những gì sắp tới và cố gắng vượt lên trước và suy nghĩ về những gì chúng ta có thể làm về nó."
Copyright Ⓒ 2023 The Canadian Press
© Bản tiếng Việt của The Canada Life
