Ủy viên quyền riêng tư của Ontario cảm thấy cấp bách phải giải quyết các rủi ro 'Miền Tây Hoang dã' của AI

Ủy viên thông tin và quyền riêng tư của Ontario cho biết bà cảm thấy “cảm giác cấp bách” phải hành động về trí tuệ nhân tạo khi danh sách các mối quan tâm của bà về công nghệ ngày càng gia tăng.

Những lo lắng của Patricia Kosseim về AI bao gồm việc nó được sử dụng để truyền bá thông tin sai lệch, lừa gạt người Canada, thành kiến cố thủ và gây ra sự phân biệt đối xử.

Bà cho biết các chatbot AI như ChatGPT, có thể nhanh chóng chuyển những lời nhắc đơn giản từ người dùng thành văn bản chi tiết, cũng đáng lo ngại.

Bà nói trong một cuộc phỏng vấn: “Khi bạn nhắc các hệ thống như ChatGPT, những gì bạn nhận được không phải là tài liệu tham khảo có tổ chức và được quản lý của thủ thư.”

"Đó là Miền Tây Hoang dã, những gì bạn đang nhận được; không biết nguồn gốc là gì, không biết nó được tạo ra như thế nào."

Nhận xét của Kosseim được đưa ra khi Canada kỷ niệm Tuần lễ Bảo mật Dữ liệu, một dịp trùng hợp với những tiến bộ nhanh chóng trong AI đã khiến công nghệ này trở thành tâm điểm chú ý trong hầu hết mọi ngành công nghiệp.

Kể từ khi OpenAI phát hành ChatGPT vào tháng 11 năm 2022, ngày càng nhiều công ty đang khám phá cách họ có thể triển khai AI trong khi các cơ quan quản lý xem xét cách họ có thể bảo vệ công chúng khỏi những rủi ro mà không dập tắt các cơ hội.

Kosseim thường nghĩ đến việc đạt được sự cân bằng hợp lý khi xem xét những tiến bộ nhanh chóng mà AI đã đạt được trong năm qua.

Những tiến bộ đó đặc biệt rõ ràng khi nói đến deep fake - video, clip âm thanh hoặc hình ảnh trong đó công nghệ được sử dụng để khiến ai đó nhìn, nói hoặc làm những việc mà họ chưa từng làm.

Bà nói: “Đây là nơi mà những người theo thuyết âm mưu và những người cung cấp thông tin sai lệch khác sẵn sàng lao vào và lấp đầy những khoảng trống thông tin đó bằng thông tin sai lệch.”

Những tác nhân độc hại đã tìm mọi cách để bắt chước giọng nói của giám đốc điều hành một cách chính xác, khiến nhân viên nghĩ rằng sếp của họ đang yêu cầu họ chuyển tiền vào tài khoản của thủ phạm.

Kosseim cho biết những hình ảnh giả mạo lan truyền rộng rãi như hình ảnh mô tả vụ nổ ở Lầu Năm Góc khiến thị trường chứng khoán sụt giảm trong thời gian ngắn và một đoạn video bịa đặt về đạo diễn Michael Moore lên tiếng ủng hộ ứng cử viên tổng thống Mỹ Donald Trump là "không có gì đáng cười."

Kosseim cảm thấy bây giờ là lúc phải giải quyết những rủi ro như vậy.

Bà nói: "Đồng xu đã tung. Dữ liệu ảnh hưởng đến mỗi người chúng ta, mọi tổ chức sẽ sử dụng và tích hợp AI trong các quy trình của mình. Đây là sự thay đổi mô hình cơ bản nhất trong thế hệ của chúng ta."

"Công nghệ không chỉ là một thứ xa vời diễn ra trong phòng hội đồng công nghệ hoặc phòng thí nghiệm của công ty."

Quan điểm này cũng đang được các nhà lập pháp ủng hộ. Chính phủ liên bang đã lập một dự luật vào tháng 6 nhằm đưa ra một số quy định về AI vào tháng 6.

Dự luật này dự kiến sẽ được thực hiện không sớm hơn năm 2025. Trong khi đó, liên bang đã thuyết phục các công ty công nghệ đồng ý với một bộ quy tắc ứng xử tự nguyện, trong đó yêu cầu các bên ký kết sàng lọc các tập dữ liệu để tìm những thành kiến tiềm ẩn và đánh giá bất kỳ AI nào họ tạo ra sẽ “có thể có tác động gây bất lợi.”

Trong khi đó, Ontario đã tạo ra một khuôn khổ AI để đặt ra các quy tắc dựa trên rủi ro nhằm hướng dẫn việc sử dụng AI trong khu vực công. Kosseim đã đưa ra các nhận xét trong quá trình tham vấn cộng đồng của chính phủ khi khuôn khổ này đang được phát triển.

Khung trí tuệ Nhân tạo Tin cậy của Ontario bao gồm việc đảm bảo AI không được sử dụng bí mật bằng cách chia sẻ thông tin về thời điểm và cách thức triển khai AI. Các yếu tố khác của khuôn khổ bao gồm tạo dựng niềm tin vào việc sử dụng công nghệ bằng cách xác định và ngăn ngừa rủi ro cũng như đảm bảo có cách thách thức các quyết định được đưa ra bằng AI.

Nhưng Kosseim cho rằng tỉnh cần phải tiến xa hơn nữa.

Kể từ tháng 5, bà và Ủy viên Nhân quyền Ontario đã kêu gọi tỉnh phát triển và thực hiện các biện pháp bảo vệ hiệu quả đối với việc sử dụng công nghệ AI của khu vực công.

Mặc dù yêu cầu ban đầu của cả hai không nêu chính xác các lan can sẽ là gì, nhưng Kosseim cho biết bất kỳ cơ chế nào mà tỉnh áp dụng phải “toàn diện hơn, mạnh mẽ hơn, chi tiết hơn” và “ràng buộc.”

Bà nói: “Các quy tắc ràng buộc được hỗ trợ bởi việc thực thi sẽ tạo ra động cơ khuyến khích các tổ chức cần tập trung vào những điều đúng đắn.”

"Vấn đề không phải là trừng phạt họ sau sự việc mà là khuyến khích họ chú ý ngay từ đầu."

Khi được hỏi liệu bà có cảm thấy những lời kêu gọi của mình sẽ được chú ý hay không, Kosseim nói: "Tôi rất hy vọng. Tôi nghĩ họ sẽ phải làm như vậy."

Đáp lại sự thúc đẩy của Kosseim, người phát ngôn của Bộ Cung cấp Dịch vụ Công và Kinh doanh cho biết Ontario có một nhóm chuyên gia làm việc trong lĩnh vực này cung cấp lời khuyên về cách tiếp cận AI của tỉnh.

Nicholas Rodrigues nói: “Chuyên môn của họ sẽ giúp đảm bảo rằng việc sử dụng AI của chính quyền Ontario là có trách nhiệm, minh bạch và có trách nhiệm.”

BẢN TIẾNG VIỆT CỦA THE CANADA LIFE