Nhà tiên phong về AI Yoshua Bengio tập trung vào việc sử dụng AI an toàn hơn, nói rằng quy định là cần thiết

Nhà tiên phong về trí tuệ nhân tạo Yoshua Bengio cho biết ông sẽ chuyển hướng nghiên cứu của mình để đảm bảo rằng ông đang nghiên cứu các ứng dụng của công nghệ này sẽ an toàn cho xã hội.

“Tôi đã suy nghĩ rất nhiều về điều này và tôi sẽ làm những gì tôi cho là tốt nhất để đi đúng hướng,” người chiến thắng giải thưởng A.M Turing Award 2018 và hiện là giám đốc viện Mila AI ở Quebec cho biết vào tối thứ Năm.

"Tôi nghĩ rằng tôi sẽ định hướng lại nghiên cứu của mình để tôi đang làm việc trên các ứng dụng không nguy hiểm hoặc rất an toàn như...chăm sóc sức khỏe hoặc môi trường hoặc làm việc về an toàn, để chuẩn bị và ngăn chặn những gì có thể xảy ra."

Nhận xét của ông Bengio được đưa ra khi kết thúc cuộc tranh luận Munk được tổ chức tại Hội trường Roy Thomson ở Toronto, nơi ông và giáo sư vật lý Max Tegmark của Viện Công nghệ Massachusetts tranh luận với các chuyên gia công nghệ khác về việc liệu AI có gây ra mối đe dọa hiện hữu hay không.

Cả hai chuyên gia lập luận rằng AI đang trên đà trở nên mạnh mẽ hơn và có thể thực hiện các mục tiêu không phù hợp với lợi ích tốt nhất của nhân loại.

Nếu bất kỳ ai có mục đích xấu chiếm được công nghệ này và các cơ chế an toàn phù hợp không được áp dụng, họ cho biết kết quả có thể rất thảm khốc.

"Mức độ thiệt hại mà nó có thể gây ra cho xã hội của chúng ta cũng đang tăng lên theo cấp số nhân," Tegmark nói.

Ông chỉ ra rằng AI có thể thực hiện nhiều năm nghiên cứu hoặc đọc toàn bộ internet trong nhiều giờ và có thể hướng đến mục tiêu, nghĩa là nó có thể thuyết phục, thao túng và xây dựng.

"Ví dụ, nó có thể nghiên cứu cách tạo ra vũ khí sinh học mạnh hơn hoặc cách tạo ra các hệ thống thậm chí thông minh hơn để nó có thể tự cải thiện bản thân," Tegmark nói.

"Vì vậy, tất nhiên, nó sẽ có sức mạnh và tiềm năng để quét sạch chúng ta và đạt được những mục tiêu đó."

Là một phần trong lập luận của mình, ông Bengio cho biết nhân loại cần quan tâm đến tất cả những mặt trái tiềm ẩn của AI và nên hướng tới các quy định vì bất kỳ ai sử dụng công nghệ này với mục đích xấu đều có thể tạo ra "hậu quả thảm khốc."

"Chúng ta có những điểm yếu. Có nhiều cách để chúng ta có thể bị giảm sức mạnh và có những thuyết âm mưu và rất nhiều người tin vào chúng," Bengio nói.

"Sẽ có những người hành động theo những cách kỳ lạ và sẽ làm những việc có thể rất tai hại."

Tuy nhiên, đồng nghiệp tiên phong về AI, Yann LeCun và Davis Professor of Complexity tại Viện Santa Fe, Melanie Mitchell, đã cho rằng AI có thể được sử dụng cho mục đích tốt và không có lí do đưa ra loại quyết định có thể gây ra mối đe dọa hiện hữu.

LeCun, người cũng là phó chủ tịch kiêm nhà khoa học trưởng về AI tại công ty mẹ của Facebook và Instagram là Meta, đã đi xa hơn khi nói rằng AI sẽ kích hoạt “thời kỳ phục hưng” và “sự khai sáng.”

Ông lập luận: “Kẻ xấu có thể sử dụng AI cho những việc xấu, nhưng có nhiều người tốt hơn có thể sử dụng AI tương tự, mạnh mẽ hơn.”

Mitchell nói thêm rằng AI học hỏi từ dữ liệu của con người, nhưng vẫn thiếu các khía cạnh cơ bản "về việc hiểu thế giới là gì."

Bà nói: “Thật sai lầm khi nghĩ rằng máy móc có thể 'thông minh hơn con người về mọi mặt' mà vẫn thiếu bất kỳ hiểu biết thông thường nào về con người.

"Bạn sẽ không bao giờ trao quyền tự chủ và tài nguyên không được kiểm soát cho một AI thiếu những khía cạnh cơ bản của trí thông minh. Điều đó thật vô nghĩa."

Trong những tháng gần đây, LeCun, người đã giành giải A.M. Turing với Bengio và nhà tiên phong về AI Geoffrey Hinton, đã có quan điểm khác nhau về rủi ro của AI khi so sánh với những người đòng nghiệp đã đoạt giải thưởng này.

LeCun đã nói rằng AI sẽ vượt qua trí thông minh của con người nhưng không tin rằng nó sẽ sớm xuất hiện.

Trong khi đó, Bengio đã tham gia cùng hơn 1.000 chuyên gia công nghệ vào tháng 3 để kêu gọi tạm dừng sáu tháng đào tạo các hệ thống AI mạnh hơn GPT-4 — mô hình ngôn ngữ lớn đằng sau ChatGPT của OpenAI có trụ sở tại San Francisco.

Những người đồng ký kết bao gồm các kỹ sư từ Amazon, Google, Meta và Microsoft cũng như nhà đồng sáng lập Apple Steve Wozniak và Rachel Bronson, chủ tịch Bulletin of the Atomic Scientists.

Giữa những lời kêu gọi về một cách tiếp cận thận trọng đối với AI, Ottawa đã và đang tiến tới việc áp dụng một đạo luật về dữ liệu và trí tuệ nhân tạo.

Luật này, là một phần của dự luật rộng lớn hơn về quyền riêng tư và bảo vệ dữ liệu của người tiêu dùng, sẽ cấm sử dụng AI "liều lĩnh và độc hại," thiết lập sự giám sát của một ủy viên và bộ trưởng ngành, đồng thời áp dụng các hình phạt tài chính.

Ottawa cho biết nó sẽ có hiệu lực không sớm hơn năm 2025.

Bản tiếng Việt của The Cana da Life