Chính phủ liên bang đã sử dụng AI trong hàng trăm sáng kiến, cơ sở dữ liệu nghiên cứu mới cho thấy

Nghiên cứu mới cho thấy chính phủ liên bang Canada đã sử dụng trí tuệ nhân tạo trong gần 300 dự án và sáng kiến – bao gồm cả việc giúp dự đoán kết quả của các trường hợp thuế, phân loại đơn xin thị thực tạm thời và thúc đẩy sự đa dạng trong tuyển dụng.

Joanna Redden, phó giáo sư tại Đại học Western, đã ghép nối cơ sở dữ liệu bằng cách sử dụng các báo cáo tin tức, tài liệu được trình lên Quốc hội và các yêu cầu tiếp cận thông tin.

Trong số 303 công cụ tự động được đăng ký tính đến thứ Tư, 95% được các cơ quan chính phủ liên bang sử dụng.

Redden cho biết trong một cuộc phỏng vấn: “Cần phải có nhiều cuộc tranh luận công khai hơn về loại hệ thống nào nên được sử dụng và cần có nhiều thông tin công khai hơn về cách các hệ thống này đang được sử dụng.”

Bà lập luận rằng dữ liệu cho thấy có vấn đề với Đạo luật Dữ liệu và Trí tuệ Nhân tạo do chính phủ Tự do đề xuất, dự luật liên bang đầu tiên đặc biệt nhắm vào AI.

"Đoạn luật đó phần lớn sẽ không áp dụng cho việc sử dụng AI của chính phủ. Vì vậy, số lượng ứng dụng khổng lồ mà chúng tôi đã xác định được cho thấy đó là vấn đề gì."

Dự luật C-27 sẽ đưa ra các nghĩa vụ mới đối với các hệ thống có “tác động cao,” chẳng hạn như việc sử dụng AI trong việc làm. Đó là điều mà Bộ Quốc phòng đã thử nghiệm khi sử dụng AI để giảm bớt sự thiên vị trong các quyết định tuyển dụng, trong một chương trình kết thúc vào tháng 3 năm 2021.

Người phát ngôn cho biết bộ đã sử dụng một nền tảng để đưa ra danh sách rút gọn các ứng viên để phỏng vấn và một nền tảng khác để đánh giá “tính cách, khả năng nhận thức và sự nhạy bén trong xã hội của một cá nhân” và so sánh chúng với hồ sơ. Các ứng viên đã đưa ra sự đồng ý rõ ràng và dữ liệu cung cấp thông tin cho việc ra quyết định của con người.

Bộ Di trú, Người tị nạn và Quốc tịch Canada cho biết hai dự án thí điểm từ năm 2018 nhằm giúp các quan chức phân loại các đơn xin thị thực cư trú tạm thời đã trở thành lâu dài. Bộ sử dụng “các công cụ trí tuệ nhân tạo để sắp xếp các đơn đăng ký và xác định tính đủ điều kiện tích cực.”

Cơ quan đăng ký cũng cho biết Bộ sử dụng AI để xem xét đơn xin giấy phép du học của những người từ các quốc gia khác, mặc dù một phát ngôn viên cho biết họ không sử dụng AI để "ra quyết định cuối cùng."

Người phát ngôn cho biết hệ thống tự động của bộ không thể từ chối đơn đăng ký hoặc đề xuất từ chối.

Không phải tất cả các thử nghiệm đều trở thành sáng kiến lâu dài.

Cơ quan Y tế Công cộng Canada cho biết họ đã ngừng dự án phân tích thông tin công khai trên mạng xã hội để tìm kiếm các dấu hiệu cảnh báo về hành vi tự tử, do các yếu tố bao gồm chi phí và “phương pháp luận.”

Mặt khác, một phát ngôn viên cho biết Bộ Y tế Canada tiếp tục sử dụng một công cụ lắng nghe xã hội với “thành phần AI thô sơ” để tìm kiếm tin tức trực tuyến về những đề cập đến các sự cố liên quan đến sản phẩm tiêu dùng.

Một số thử nghiệm có thể quen thuộc với người Canada - ví dụ như Hải quân Hoàng gia Canada đã thử nghiệm một hệ thống tương tự như Siri của Apple hoặc Alexa của Amazon để chuyển tiếp mệnh lệnh cho tàu bằng lời nói.

Người phát ngôn cho biết nỗ lực tích hợp công nghệ kích hoạt bằng giọng nói trên tàu chiến vẫn tiếp tục, nhưng “những lo ngại về an ninh thông tin” phải được “xem xét trước khi sử dụng công nghệ đó.”

AI cũng được đưa vào hoạt động để nghiên cứu và dự đoán pháp lý.

Cơ quan Thuế Canada cho biết họ sử dụng một hệ thống cho phép người dùng nhập các biến liên quan đến một vụ việc sẽ "cung cấp kết quả dự kiến bằng cách sử dụng phân tích để dự đoán cách tòa án có thể ra phán quyết trong một tình huống cụ thể, dựa trên mức độ liên quan và các quyết định lịch sử của tòa án. "

Và Viện Nghiên cứu Y tế Canada sử dụng phần mềm quyết định quan hệ lao động. Nó so sánh một tình huống cụ thể với các trường hợp trước đó và mô phỏng các sự kiện khác nhau có thể ảnh hưởng đến kết quả như thế nào, sổ đăng ký nêu rõ.

Tại Văn phòng Giám đốc Phá sản, AI đánh dấu những điểm bất thường trong hồ sơ tài sản.

Người phát ngôn cho biết hệ thống này phát hiện “sự không tuân thủ của con nợ tiềm năng dựa trên các thuộc tính chính được tìm thấy trong hồ sơ phá sản.” Các trường hợp được hệ thống gắn cờ sẽ được các nhà phân tích đánh giá.

Sổ đăng ký cũng bao gồm các ví dụ về AI đang được RCMP sử dụng. Người phát ngôn xác nhận RCMP đã sử dụng AI để xác định tài liệu tấn công tình dục trẻ em và giúp giải cứu nạn nhân.

Người phát ngôn cho biết, một loại công nghệ nhận dạng khuôn mặt được gọi là khớp khuôn mặt đã được sử dụng trên dữ liệu nội bộ có được một cách hợp pháp.

Nhận dạng khuôn mặt cũng được Cơ quan Dịch vụ Biên giới Canada sử dụng. Người phát ngôn cho biết cơ quan này sử dụng công nghệ này trên cơ sở tự nguyện để “giúp xác thực danh tính của khách du lịch đến” thông qua các ki-ốt tại một số sân bay.

Redden cho biết có rất nhiều lý do để đặt câu hỏi về nhận dạng khuôn mặt, bao gồm cả những ví dụ ở Mỹ, nơi nó đã dẫn đến những vụ bắt giữ sai trái.

Nói rộng hơn, bà lập luận rằng chính phủ nên theo dõi tốt hơn việc sử dụng AI của mình.

Chính phủ liên bang cho biết trong trường hợp việc sử dụng AI "có thể có tác động đáng kể," chẳng hạn như trong việc giúp đưa ra các quyết định hành chính, chỉ thị của họ về việc ra quyết định tự động yêu cầu đánh giá tác động thuật toán.

Những đánh giá đó sau đó sẽ được công bố trong sổ đăng ký công khai, Hội đồng Tài chính đã nêu trong một email.

Sổ đăng ký hiện chỉ có 18 mục.

Khi được hỏi tại sao con số này lại nhỏ hơn nhiều so với tổng số của Redden, một phát ngôn viên cho biết chỉ thị và sổ đăng ký "đặc biệt tập trung vào việc sử dụng AI có tác động trực tiếp đến các cá nhân hoặc doanh nghiệp. Nhiều ứng dụng AI trong chính phủ liên bang không thuộc danh mục này."

Một ví dụ: công nghệ được sử dụng để theo dõi thiên nhiên.

Cơ quan Thanh tra Thực phẩm Canada sử dụng máy học để theo dõi các loài thực vật, côn trùng và động vật thân mềm xâm lấn, cơ quan đăng ký nêu rõ.

Người phát ngôn cho biết cơ quan này sử dụng công cụ AI để quét các quan sát về thực vật và động vật trên mạng xã hội. Bộ Thủy sản và Đại dương Canada cho biết họ sử dụng AI để “phát hiện động vật có vú dưới biển từ hình ảnh trên không, máy bay không người lái và vệ tinh.”

Redden phải mất hai năm, với sự trợ giúp, để tổng hợp dữ liệu dựa trên thông tin hạn chế từ nhiều nguồn khác nhau.

Bà nói, thông tin có sẵn thường không cho biết thời điểm hệ thống AI được giới thiệu hoặc tại sao, liệu nó có còn tồn tại hay không, dữ liệu nào đang được sử dụng hoặc liệu có bất kỳ vấn đề nào với hệ thống hay không.

“Người ngoài rất khó làm được loại công việc này.”

Không rõ điều gì đã xảy ra với một số dự án thí điểm mà Redden ghi lại.

Một tài liệu vào tháng 1 năm 2023 được trình lên Quốc hội cho thấy Cơ quan Dịch vụ Biên giới Canada cho biết họ đang phát triển một thuật toán chụp X-quang qua đường bưu điện để tự động phát hiện súng và các bộ phận của súng, trong khi Bộ Ngoại giao Canada đang thử nghiệm các ghi chú tóm tắt do AI tạo ra.

Bộ Các Vấn đề Toàn cầu đã không trả lời yêu cầu cung cấp thêm thông tin và CBSA từ chối cung cấp thông tin cập nhật về những nỗ lực đó.

“Mặc dù chúng tôi có thể cho bạn biết rằng CBSA hiện đang theo dõi chặt chẽ sự phát triển của thuật toán học máy cho tia X để tự động phát hiện các mục quan tâm, nhưng chúng tôi không tiết lộ chi tiết về việc nhắm mục tiêu, thực thi hoặc thông tin cụ thể vì nó có thể khiến chúng không hiệu quả,” cơ quan này cho biết.

Redden cho biết, điều mà sổ đăng ký chứng minh là "mức độ sử dụng rộng rãi của AI trong các cơ quan chính phủ ở Canada" - và chúng ta biết rất ít về việc sử dụng đó.

Bản tiếng Việt của The Canada Life