Geoffrey Hinton: 'Cơ hội 50-50' là AI vượt trội hơn loài người

Geoffrey Hinton nhớ lại khoảnh khắc o6ng trở thành “bố già” của trí tuệ nhân tạo.

Đã hơn một thập kỷ trước, tại một cuộc họp với các nhà nghiên cứu khác, bao gồm cả chuyên gia AI Andrew Ng, người đã phong cho ông danh hiệu này.

“Tôi không nghĩ đó là lời khen ngợi,” Hinton nhớ lại trong cuộc phỏng vấn truyền hình. “Chúng tôi vừa có một buổi họp mà tôi đã làm gián đoạn mọi người và tôi là người cấp cao ở đó đã tổ chức cuộc họp, vì vậy anh ấy bắt đầu gọi tôi là cha đỡ đầu.”

Hôm nay, Hinton đang sử dụng ảnh hưởng của mình để làm gián đoạn một cuộc trò chuyện khác.

Vào thời điểm sự bùng nổ AI đang đẩy mức định giá của các công ty công nghệ lên hàng nghìn tỷ USD, Hinton đang thúc giục ngành này dành những khoản tiền khổng lồ để giải quyết mối đe dọa hiện hữu -- điều gì sẽ xảy ra nếu AI trở nên thông minh hơn con người?

“Tôi nghĩ có 50-50 khả năng nó sẽ thông minh hơn chúng ta trong 20 năm tới,” ông nói.

"Chúng ta chưa bao giờ phải đối mặt với những thứ thông minh hơn chúng ta. Và vì vậy mọi người sẽ rất không chắc chắn về việc nó sẽ như thế nào."

Với những điều chưa biết, Hinton tin rằng các công ty nên dành từ 20% đến 30% tài nguyên máy tính của mình để kiểm tra xem trí thông minh này cuối cùng có thể trốn tránh sự kiểm soát của con người như thế nào.

Hiện tại, ông không thấy các công ty chi tiêu gần mức đó cho an toàn.

“Có vẻ sẽ là rất khôn ngoan nếu thực hiện nhiều thí nghiệm thực nghiệm khi nó kém thông minh hơn chúng ta một chút để chúng ta vẫn có cơ hội kiểm soát.”

Với thực tế của chủ nghĩa tư bản, Hinton không mấy tin tưởng rằng các công ty sẽ chọn sự an toàn hơn là lợi nhuận.

Vì vậy ông mong muốn các nhà lãnh đạo chính trị phải vào cuộc khẩn trương.

“Tôi nghĩ chính phủ là thứ duy nhất đủ mạnh để làm chậm lại điều đó.”

AI ngày càng thông minh hơn

Khi đưa ra quan điểm của mình, Hinton chỉ ra sự phát triển nhanh chóng của OpenAI và công nghệ ChatGPT của hãng.

"Nếu bạn lấy thứ gì đó như GPT-4, lớn hơn GPT-3, thì nó thông minh hơn rất nhiều. Nó trả lời chính xác hàng loạt câu hỏi mà GPT-3 sẽ sai."

"Vì vậy, chúng tôi biết những thứ này sẽ trở nên thông minh hơn chỉ bằng cách làm cho chúng lớn hơn. Nhưng ngoài việc chúng trở nên thông minh hơn bằng cách làm cho chúng lớn hơn, chúng ta sẽ có những đột phá khoa học."

Trong khi đó, Hinton chỉ ra thực tế rằng tính năng tự ngăn ngừa đã được tích hợp trong công nghệ của ngành, để đảm bảo những thứ như chatbot có thể hoạt động hiệu quả khi chúng gặp phải sự cố, chẳng hạn như gián đoạn trung tâm dữ liệu.

Ông nói: “Ngay khi chúng có tư lợi, bạn sẽ bắt đầu tiến hóa.”

"Giả sử có hai chatbot và một chatbot tư lợi hơn cái kia một chút…người tư lợi hơn một chút sẽ chiếm được nhiều trung tâm dữ liệu hơn vì nó biết rằng nó có thể trở nên thông minh hơn nếu có nhiều trung tâm dữ liệu hơn để xem xét dữ liệu. Vì vậy, bây giờ bạn có sự cạnh tranh giữa các chatbot. Và ngay khi quá trình tiến hóa bắt đầu, chúng ta biết điều gì sẽ xảy ra: bên cạnh tranh nhất sẽ chiến thắng và chúng ta sẽ bị bỏ lại trong cát bụi nếu điều đó xảy ra."

Hinton đặt rủi ro đó với số tiền tiềm năng có thể kiếm được từ công nghệ này, là một trong những căng thẳng chính khiến người đồng sáng lập OpenAI Ilya Sutskever gần đây phải rời công ty.

"Những người quan tâm đến an toàn, như Ilya Sutskever, muốn dành những nguồn lực đáng kể cho an toàn. Những người quan tâm đến lợi nhuận, như Sam Altman, không muốn chi quá nhiều nguồn lực cho việc đó.”

“Tôi nghĩ (Altman) muốn có lợi nhuận lớn,” ông nói thêm.

Cuộc sống sau Google

Trải qua hơn 50 năm dẫn đầu nghiên cứu trong lĩnh vực này, Hinton từ lâu đã trở thành một mặt hàng hot ở Thung lũng Silicon, nơi cuối cùng đã đưa ông đến Google.

Nhưng năm ngoái, Hinton đã từ chức tại công ty để có thể nói chuyện thoải mái hơn về những rủi ro hiện hữu xung quanh AI.

"Vào mùa xuân năm 2023, tôi bắt đầu nhận ra rằng những trí thông minh kỹ thuật số mà chúng tôi đang xây dựng này có thể là một dạng trí thông minh tốt hơn chúng ta rất nhiều và chúng tôi phải nghiêm túc xem xét ý tưởng rằng chúng sẽ ngày càng thông minh hơn chúng ta."

Ông nói trước khi Phố Wall nắm bắt được cơ hội AI, lợi nhuận không được ưu tiên nhiều.

“Khi tôi còn ở Google, họ đã dẫn đầu trong tất cả những lĩnh vực này. Và họ thực sự rất có trách nhiệm.” Họ không làm nhiều công việc về an toàn, nhưng họ không phát hành nội dung này vì họ có danh tiếng rất tốt và họ không muốn làm ô danh danh tiếng của mình [với] các chatbot nói những điều gây tổn hại… vì vậy họ rất có trách nhiệm với nó. Họ đã sử dụng nó trong nội bộ nhưng không phát hành chatbot ra công chúng mặc dù họ đã có chúng. Nhưng ngay khi OpenAI sử dụng một số nghiên cứu của Google về biến đổi để làm mọi thứ tốt như Google đã làm… và thực sự điều chỉnh chúng tốt hơn một chút và giao chúng cho Microsoft, thì Google không thể không tham gia vào một cuộc chạy đua.”

Hinton nói thêm rằng giá trị thị trường chứng khoán tăng vọt - và thực tế cạnh tranh của các công ty này - đang nhanh chóng làm giảm sự tập trung của ngành vào các vấn đề an toàn.

“Điều này cho thấy rõ rằng các công ty lớn muốn đi hết tốc lực và đang có một cuộc chạy đua lớn giữa Microsoft, Google và có thể cả Amazon, Nvidia và Meta. Nếu bất kỳ một trong số (các công ty) đó rút lui, những công ty khác sẽ tiếp tục đi."

Điều đó không có nghĩa là ông không tin rằng các nhà lãnh đạo công nghệ không quan tâm đến rủi ro.

Hinton nói: “Một số người trong ngành - đặc biệt là Elon Musk - đã nói rằng đây là một mối đe dọa thực sự. Tôi không đồng ý với nhiều điều ông ấy nói nhưng tôi đồng ý với khía cạnh đó.”

Đối với việc các công ty dành khoảng một phần ba nguồn lực tính toán của họ để thử nghiệm an toàn, Hinton tỏ ra nghi ngờ. Nhưng nếu họ được yêu cầu chung phải làm như vậy, ông có thể nhìn thấy con đường hướng tới điều đó xảy ra.

“Tôi không chắc họ sẽ phản đối nếu tất cả đều phải làm điều đó. Mọi chuyện sẽ khó khăn như nhau đối với tất cả bọn họ. Và tôi nghĩ điều đó có thể khả thi."

Và cuối cùng, đó là điều khiến Hinton tin rằng sự can thiệp của chính phủ là giải pháp duy nhất, mặc dù thực tế là nhiều quốc gia đang cạnh tranh với nhau để đảm bảo họ có vị trí dẫn đầu về AI.

"Không quốc gia nào trong số này muốn siêu trí thông minh tiếp quản. Và điều đó sẽ buộc họ phải phối hợp."

Bản tiếng Việt của The Canada Life