Tính năng AI mới gây chú ý nhất của Microsoft đang làm dấy lên mối lo ngại rằng nó có thể bị lạm dụng vào tay kẻ xấu.

Tuần này, công ty này đã giới thiệu một công cụ mới có tên Recall dành cho máy tính Windows, hoạt động như một “cỗ máy thời gian” cá nhân, cho phép người dùng nhanh chóng lấy ra bất kỳ thứ gì từng có trên màn hình, chẳng hạn như tài liệu, hình ảnh và trang web. Nó khác với tìm kiếm từ khóa; công cụ này thường xuyên lưu ảnh chụp màn hình của người dùng và lưu trữ trực tiếp trên thiết bị. Sau đó, nó sử dụng AI để xử lý dữ liệu và làm cho nó có thể tìm kiếm được.

Ví dụ: nếu trước đây ai đó đã tìm kiếm chiếc váy màu xanh lá cây hoặc tên của một cửa hàng kem địa phương, họ có thể yêu cầu tính năng này “recall” bất kỳ điều gì trong lịch sử của họ được hiển thị trên màn hình.

Mặc dù cái gọi là tìm kiếm ngữ nghĩa là một bước tiến lớn của AI, nhưng nó đến vào thời điểm ngành công nghiệp này đang phát triển quá nhanh và các cơ quan quản lý chính phủ, công ty và người tiêu dùng vẫn đang tìm cách sử dụng công nghệ này một cách có trách nhiệm.

Jen Golbeck – giáo sư AI tại Đại học Maryland, người tập trung vào quyền riêng tư – cho biết tính năng recall có thể tiềm ẩn một “cơn ác mộng” nếu thiết bị rơi vào tay kẻ xấu.

Bà nói: “Nội dung có thể vẫn còn trên thiết bị của bạn, nhưng điều đó không có nghĩa là mọi người không thể truy cập được. Bạn sẽ không có tùy chọn để tự bảo vệ mình ngay cả khi bạn sử dụng chế độ ẩn danh hoặc xóa lịch sử của mình vì công cụ này có quyền truy cập vào mọi thứ có trên màn hình của bạn.”

Cơ quan quản lý độc lập của Vương quốc Anh về Bảo vệ Dữ liệu và Tự do Thông tin, Văn phòng Ủy viên Thông tin (ICO), nói với CNN rằng họ đang điều tra công cụ này “để hiểu các biện pháp bảo vệ hiện hành nhằm bảo vệ quyền riêng tư của người dùng.”

“Chúng tôi kỳ vong5 các tổ chức sẽ minh bạch với người dùng về cách sử dụng dữ liệu của họ và chỉ xử lý dữ liệu cá nhân trong phạm vi cần thiết để đạt được mục đích cụ thể,” ICO cho biết trong một tuyên bố.

Microsoft đã không trả lời ngay lập tức yêu cầu bình luận. Giám đốc điều hành Satya Nadella nói với The Wall Street Journal trong một cuộc phỏng vấn trước khi ra mắt sản phẩm hôm thứ Hai rằng việc tìm kiếm trên web chỉ được thực hiện trên trình duyệt web Edge của Microsoft và ảnh chụp màn hình không bao giờ rời khỏi máy tính của người dùng.

“Bạn phải kết hợp hai thứ lại với nhau: Đây là máy tính của tôi và đây là Recall của tôi – và tất cả đều được thực hiện cục bộ,” ông nói.

Geoff Blaber, giám đốc điều hành của công ty nghiên cứu thị trường CCS Insight, cho biết điều đó khiến vấn đề ít được quan tâm hơn.

Blaber cho biết: “Phản ứng dữ dội của một số người đối với tính năng này không có gì đáng ngạc nhiên, nhưng đó là phản ứng thái quá vì dữ liệu chỉ tồn tại trên thiết bị và người dùng có toàn quyền kiểm soát.”

Ai đó có thể quyết định có bật tính năng này trong quá trình thiết lập thiết bị hay không, đồng thời có thể tùy chỉnh và đưa vào danh sách đen những ứng dụng và trang web mà Recall có thể truy cập.

Ông nói: “Những biện pháp kiểm soát này cho thấy tính năng này đã được xây dựng với cốt lõi là bảo mật và quyền riêng tư. Recall sẽ không hấp dẫn mọi người nhưng tiện ích được cung cấp có thể sẽ rất đáng kể.”

Khả năng cho các sử dụng độc hại

Nhưng Golbeck nêu ra những trường hợp mà sự bảo vệ đó có thể không đủ, chẳng hạn như một nhà báo ở một quốc gia thù địch, một người đang cố gắng thoát khỏi một mối quan hệ bị ngược đãi, một người nào đó đang tìm kiếm thông tin y tế nhạy cảm hoặc một nhân viên bị sếp theo dõi. Cô tin rằng các vấn đề xung quanh công cụ này có thể sẽ tác động nhiều nhất đến nơi làm việc.

“Chúng tôi biết công việc giám sát những gì chúng tôi đang làm trên thiết bị của họ, nhưng nhiều người sẽ làm việc cá nhân trên máy tính ở cơ quan và tất cả những thứ đó sẽ được lưu trữ và hiển thị cho bộ phận CNTT, ngay cả khi nó chỉ ở trên thiết bị,” cô nói thêm.

Golbeck cho biết công nghệ này, bất chấp những lợi ích, thường được phát triển quá mức mà không tính đến những mục đích sử dụng có hại.

Cô nói: “Những gì chúng ta đã thấy trong 15 năm qua là mọi trường hợp sử dụng độc hại tiềm ẩn đều thành hiện thực theo cách này hay cách khác. Mọi người sẽ muốn sử dụng tính năng thú vị này mà không hiểu rủi ro về quyền riêng tư – rằng sẽ có một bản ghi vĩnh viễn về mọi việc bạn làm.”

Những phản ứng tương tự đối với các tính năng như mật khẩu sinh trắc học, chẳng hạn như dấu vân tay, nhận dạng khuôn mặt và quét mống mắt, đã từng xuất hiện trong quá khứ. Blaber cho biết để khắc phục một số lo ngại ban đầu, Microsoft và các đối tác sẽ cần chứng minh giá trị, tính bảo mật và quyền riêng tư của sản phẩm trong thế giới thực.

Tuy nhiên, Michela Menting, giám đốc nghiên cứu cấp cao tại ABI Research, tin rằng tính năng này là một “bước lùi” về quyền riêng tư.

Bà nói: “Lập luận rằng tin tặc cần quyền truy cập vật lý để thậm chí có thể thao túng Recall là thiển cận vì có rất nhiều cách rất khéo léo mà các tác nhân đe dọa có thể khai thác một công cụ có giá trị như vậy. Tất cả những gì cần có là thời gian và nỗ lực để tìm ra cách.”

© 2024 CNN Digital

Bản tiếng Việt của The Canada Life