Nghiên cứu cho thấy ChatGPT đã cung cấp thông tin sai lệch khi được yêu cầu thiết kế kế hoạch điều trị ung thư.
Chatbot trộn lẫn thông tin đúng và không chính xác với nhau, khiến việc giải mã trở nên khó khăn hơn.
Các vấn đề về độ chính xác với Generative AI có nghĩa là nó khó có thể sớm được các bác sĩ tiếp quản.
ChatGPT có thể đang gây bão trên toàn thế giới – nhưng một nghiên cứu mới cho thấy có một lĩnh vực quan trọng mà nó khó có thể được sử dụng sớm.
ChatGPT có thể đang gây bão trên toàn thế giới – nhưng một nghiên cứu mới cho thấy có một lĩnh vực quan trọng mà nó khó có thể sớm được sử dụng.
Các nhà nghiên cứu tại Bệnh viện Brigham and Women's Hospital - bệnh viện giảng dạy của Trường Y Harvard ở Boston, Massachusetts - phát hiện ra rằng các kế hoạch điều trị ung thư do chatbot mang tính cách mạng của OpenAI tạo ra có rất nhiều sai sót.
Theo nghiên cứu được công bố trên tạp chí JAMA Oncology và được Bloomberg đưa tin ban đầu – khi được yêu cầu lập kế hoạch điều trị cho nhiều trường hợp ung thư, 1/3 câu trả lời của mô hình ngôn ngữ lớn chứa thông tin không chính xác.
Nghiên cứu này cũng lưu ý rằng chatbot có xu hướng trộn lẫn thông tin đúng và không chính xác với nhau, theo cách gây khó khăn cho việc xác định đâu là chính xác. Báo cáo cho biết, trong tổng số 104 truy vấn, khoảng 98% câu trả lời của ChatGPT bao gồm ít nhất một khuyến nghị điều trị đáp ứng các nguyên tắc của Mạng lưới Ung thư Toàn diện Quốc gia.
Đồng tác giả, Tiến sĩ Danielle Bitterman nói với Insider rằng các tác giả “bị ấn tượng bởi mức độ thông tin không chính xác được trộn lẫn với thông tin chính xác, khiến việc phát hiện sai sót trở nên đặc biệt khó khăn – ngay cả đối với các chuyên gia.”
Bà nói thêm: “Các mô hình ngôn ngữ lớn được đào tạo để đưa ra những câu trả lời nghe có vẻ rất thuyết phục, nhưng chúng không được thiết kế để cung cấp lời khuyên y tế chính xác. Tỷ lệ lỗi và tính không ổn định của phản hồi là những vấn đề an toàn quan trọng cần được giải quyết trong lĩnh vực lâm sàng."
ChatGPT đã trở thành hiện tượng chỉ sau một đêm khi ra mắt vào tháng 11 năm 2022, đạt 100 triệu người dùng hoạt động hai tháng sau khi ra mắt. Chatbot này đã làm dấy lên làn sóng đầu tư vào các công ty AI và tranh luận gay gắt về tác động lâu dài của trí tuệ nhân tạo; Nghiên cứu của Goldman Sachs cho thấy nó có thể ảnh hưởng đến 300 triệu việc làm trên toàn cầu.
Bất chấp thành công của ChatGPT, các mô hình Generative AI vẫn dễ bị "ảo giác," nơi chúng tự tin trình bày thông tin sai lệch hoặc cực kỳ không chính xác. Đối thủ ChatGPT của Google, Bard, đã xóa sạch 120 tỷ USD giá trị cổ phiếu của công ty khi đưa ra câu trả lời không chính xác cho câu hỏi về kính viễn vọng không gian James Webb.
Những nỗ lực tích hợp AI vào chăm sóc sức khỏe, chủ yếu là để hợp lý hóa các nhiệm vụ hành chính, đã được tiến hành. Đầu tháng này, một nghiên cứu lớn cho thấy việc sử dụng AI để sàng lọc ung thư vú là an toàn và cho thấy nó có thể giảm gần một nửa khối lượng công việc của các bác sĩ X quang.
Một nhà khoa học máy tính tại Harvard gần đây đã phát hiện ra rằng GPT-4, phiên bản mới nhất của mô hình, có thể vượt qua kỳ thi cấp giấy phép y tế của Hoa Kỳ một cách xuất sắc – và cho rằng nó có khả năng phán đoán lâm sàng tốt hơn một số bác sĩ.
Mặc dù vậy, các vấn đề về độ chính xác với các mô hình tổng quát như ChatGPT có nghĩa là chúng khó có thể sớm được các bác sĩ tiếp quản.
Nghiên cứu của JAMA cho thấy 12,5% phản hồi của ChatGPT là "ảo giác" và chatbot có nhiều khả năng đưa ra thông tin không chính xác nhất khi được hỏi về phương pháp điều trị cục bộ cho các bệnh tiến triển hoặc liệu pháp miễn dịch.
OpenAI đã thừa nhận rằng ChatGPT có thể không đáng tin cậy. Điều khoản sử dụng của công ty cảnh báo rằng các mô hình của họ không được thiết kế để cung cấp thông tin y tế và không nên được sử dụng để "cung cấp dịch vụ chẩn đoán hoặc điều trị cho các tình trạng bệnh lý nghiêm trọng."
OpenAI đã không trả lời ngay lập tức yêu cầu bình luận của Insider.
© 2023 Business Insider
Bản tiếng Việt của The Canada Life
