Một số ít các công ty công nghệ lớn đang dẫn đầu cuộc đua thương mại hóa AI không thể được tin tưởng để đảm bảo an toàn cho các hệ thống mà chúng ta chưa hiểu rõ và dễ dẫn đến “hành vi hỗn loạn hoặc không thể đoán trước,” một giám đốc điều hành của công ty trí tuệ nhân tạo nói với cuộc họp đầu tiên của Hội đồng Bảo an Liên Hợp Quốc về các mối đe dọa của AI đối với hòa bình toàn cầu vào thứ Ba.

Jack Clark, đồng sáng lập công ty AI Anthropic, cho biết đó là lý do tại sao thế giới phải cùng nhau ngăn chặn việc lạm dụng công nghệ này.

Clark, người cho biết công ty của anh đã cố gắng đào tạo chatbot AI của mình để nhấn mạnh sự an toàn và thận trọng, cho biết những điều hữu ích nhất có thể được thực hiện bây giờ “là nghiên cứu phát triển các cách để kiểm tra khả năng, việc sử dụng sai và các lỗi an toàn tiềm ẩn của các hệ thống này.” Clark đã rời OpenAI, công ty tạo ra chatbot ChatGPT nổi tiếng nhất, để thành lập Anthropic, công ty có sản phẩm AI cạnh tranh có tên là Claude.

Anh đã theo dõi sự phát triển của AI trong thập kỷ qua cho đến năm 2023, nơi các hệ thống AI mới có thể đánh bại các phi công quân sự trong các mô phỏng chiến đấu trên không, ổn định plasma trong các lò phản ứng tổng hợp hạt nhân, thiết kế các thành phần cho chất bán dẫn thế hệ tiếp theo và kiểm tra hàng hóa trên dây chuyền sản xuất.

Nhưng mặc dù AI sẽ mang lại những lợi ích to lớn, nhưng sự hiểu biết của nó về sinh học, chẳng hạn, cũng có thể sử dụng một hệ thống AI có thể sản xuất vũ khí sinh học, anh nói.

Clark cũng cảnh báo về “các mối đe dọa tiềm tàng đối với hòa bình, an ninh và ổn định toàn cầu” từ hai phẩm chất thiết yếu của hệ thống AI – khả năng bị lạm dụng và tính khó đoán của chúng “cũng như sự mong manh vốn có của chúng được phát triển bởi một nhóm tác nhân hẹp như vậy. ”

Clark nhấn mạnh rằng trên khắp thế giới chính các công ty công nghệ có máy tính tinh vi, kho dữ liệu lớn và vốn để xây dựng hệ thống AI và do đó họ dường như sẽ tiếp tục xác định sự phát triển của mình.

Trong một video tóm tắt trước cơ quan quyền lực nhất của Liên Hợp Quốc, Clark cũng bày tỏ hy vọng rằng hành động toàn cầu sẽ thành công.

Anh nói rằng anh được khuyến khích khi thấy nhiều quốc gia nhấn mạnh tầm quan trọng của việc kiểm tra và đánh giá an toàn trong các đề xuất AI, bao gồm Liên minh Châu Âu, Trung Quốc và Hoa Kỳ.

Tuy nhiên, ngay bây giờ, không có tiêu chuẩn hoặc thậm chí các phương pháp hay nhất về “cách kiểm tra các hệ thống biên giới này để tìm những thứ như phân biệt đối xử, lạm dụng hoặc an toàn,” điều này khiến chính phủ khó tạo ra chính sách và cho phép khu vực tư nhân tận hưởng lợi thế về thông tin, anh nói.

Clark cho biết: “Bất kỳ cách tiếp cận hợp lý nào đối với quy định sẽ bắt đầu bằng việc có khả năng đánh giá một hệ thống AI về một khả năng hoặc lỗ hổng nhất định. Và bất kỳ cách tiếp cận thất bại nào cũng sẽ bắt đầu với những ý tưởng chính sách lớn không được hỗ trợ bởi các phép đo và đánh giá hiệu quả.”

Anh cho biết với sự đánh giá mạnh mẽ và đáng tin cậy về các hệ thống AI, “các chính phủ có thể giữ cho các công ty chịu trách nhiệm và các công ty có thể giành được sự tin tưởng của thế giới mà họ muốn triển khai hệ thống AI của mình.” Nhưng nếu không có đánh giá mạnh mẽ, anh nói, “chúng ta có nguy cơ nắm bắt quy định làm tổn hại đến an ninh toàn cầu và trao tương lai cho một nhóm nhỏ các chủ thể thuộc khu vực tư nhân.”

Các giám đốc điều hành AI khác như CEO của OpenAI, Sam Altman, cũng đã kêu gọi quy định. Nhưng những người hoài nghi nói rằng quy định có thể là một lợi ích cho những người đi đầu có nhiều tiền do OpenAI, Google và Microsoft dẫn đầu khi những đối thủ nhỏ hơn bị loại bỏ do chi phí cao để làm cho các mô hình ngôn ngữ lớn của họ tuân thủ các quy định nghiêm ngặt.

Tổng thư ký Liên hợp quốc Antonio Guterres cho biết Liên Hợp Quốc là “nơi lý tưởng” để áp dụng các tiêu chuẩn toàn cầu nhằm tối đa hóa lợi ích của AI và giảm thiểu rủi ro của nó.

Ông cảnh báo hội đồng rằng sự ra đời của trí tuệ nhân tạo AI có thể gây ra những hậu quả rất nghiêm trọng đối với hòa bình và an ninh quốc tế, chỉ ra khả năng sử dụng nó bởi những kẻ khủng bố, tội phạm và chính phủ gây ra “mức độ chết chóc và tàn phá khủng khiếp, chấn thương lan rộng và tổn thương tâm lý sâu sắc đối với con người ở quy mô không thể tưởng tượng được.”

Là bước đầu tiên để gắn kết các quốc gia lại với nhau, Guterres cho biết ông đang bổ nhiệm một Ban cố vấn cấp cao về Trí tuệ nhân tạo để báo cáo lại về các lựa chọn quản trị AI toàn cầu vào cuối năm nay.

Người đứng đầu Liên Hợp Quốc cũng cho biết ông hoan nghênh lời kêu gọi từ một số quốc gia về việc thành lập một cơ quan mới của Liên Hợp Quốc để hỗ trợ các nỗ lực toàn cầu nhằm quản lý AI, “lấy cảm hứng từ các mô hình như Cơ quan Năng lượng Nguyên tử Quốc tế, Tổ chức Hàng không Dân dụng Quốc tế hoặc Hội đồng Liên chính phủ về Biến đổi Khí hậu.”

Giáo sư Zeng Yi, giám đốc Phòng Thí nghiệm Trí tuệ Nhận thức lấy cảm hứng từ Não của Học viện Khoa học Trung Quốc, nói với hội đồng “Liên Hợp Quốc phải đóng vai trò trung tâm để thiết lập khuôn khổ về AI cho phát triển và quản trị nhằm đảm bảo hòa bình và an ninh toàn cầu.”

Zeng, người cũng là đồng giám đốc Trung tâm Nghiên cứu Đạo đức và Quản trị AI Trung-Anh, đề nghị Hội đồng Bảo an xem xét thành lập một nhóm làm việc để xem xét những thách thức ngắn hạn và dài hạn mà AI đặt ra đối với hòa bình và an ninh quốc tế.

Trong phần tóm tắt video của mình, Zeng nhấn mạnh rằng các hệ thống AI thế hệ mới gần đây “đều là những công cụ xử lý thông tin có vẻ thông minh” nhưng không có hiểu biết thực sự và do đó “không thực sự thông minh.”

Và ông cảnh báo rằng “AI không bao giờ nên giả làm con người,” nhấn mạnh rằng con người thực sự phải duy trì quyền kiểm soát, đặc biệt là đối với tất cả các hệ thống vũ khí.

Bộ trưởng Ngoại giao Anh James Cleverly, người chủ trì cuộc họp khi Vương quốc Anh giữ chức chủ tịch hội đồng trong tháng này, cho biết vào mùa thu này, Vương quốc Anh sẽ tập hợp các nhà lãnh đạo thế giới tham dự hội nghị thượng đỉnh toàn cầu lớn đầu tiên về an toàn AI.

Ông nói: “Không quốc gia nào không bị ảnh hưởng bởi AI, vì vậy chúng ta phải tham gia và thu hút sự tham gia của liên minh quốc tế rộng lớn nhất từ mọi lĩnh vực. Mục tiêu chung của chúng tôi là xem xét các rủi ro của AI và quyết định cách giảm thiểu chúng thông qua hành động phối hợp.”

© 2023 The Associated Press

Bản tiếng Việt của The Canada Life