Các mô hình trí tuệ nhân tạo (AI) mới của OpenAI gặp vấn đề nghiêm trọng khi xảy ra hiện tượng "ảo giác" nhiều hơn, AI bịa ra thông tin không đúng sự thật.
Hiện tượng "ảo giác" xuất hiện nhiều hơn ở các mô hình AI mới của OpenAI. Ảnh: AFP
Theo báo cáo kỹ thuật của OpenAI, mô hình o3 và o4-mini mới được ra mắt có tỉ lệ tạo ra thông tin sai cao hơn cả những mẫu suy luận trước đó như o1, o1-mini và o3-mini, cũng như các mẫu AI truyền thống như GPT-4o.
Trong bài kiểm tra nội bộ PersonQA, o3 tạo ra thông tin sai ở 33% câu hỏi, gấp đôi o1 và o3-mini. Đáng lo hơn, o4-mini thậm chí sai tới 48% trường hợp.
OpenAI thừa nhận chưa rõ lý do khiến các mẫu mới "ảo giác" nhiều hơn. Giả thuyết ban đầu cho rằng phương pháp học tăng cường đang sử dụng có thể vô tình làm khuếch đại vấn đề này.
Dù vậy, o3 vẫn cho thấy khả năng vượt trội trong một số lĩnh vực như lập trình và toán học. Nhiều nhóm phát triển đang thử nghiệm tích hợp o3 vào quy trình làm việc, song cảnh báo rằng AI đôi khi tạo ra các đường dẫn hỏng hoặc dẫn đến thông tin không tồn tại.
Vấn đề "ảo giác" khiến các doanh nghiệp, đặc biệt trong các lĩnh vực yêu cầu độ chính xác cao như pháp lý, gặp khó khăn trong việc ứng dụng AI. Một giải pháp khả quan là tích hợp chức năng tìm kiếm web, như cách GPT-4o hiện đạt tới 90% độ chính xác trên một số bài kiểm tra.
OpenAI khẳng định đang tiếp tục nghiên cứu để giảm hiện tượng "ảo giác" trên tất cả các dòng AI của mình. Trong bối cảnh cả ngành AI đang chuyển hướng sang các model suy luận, việc kiểm soát "ảo giác" đang trở thành một thách thức cấp thiết.
Quang Minh (THeo tech crunch) - laodong.vn
Hiện tượng "ảo giác" xuất hiện nhiều hơn ở các mô hình AI mới của OpenAI. Ảnh: AFP
Theo báo cáo kỹ thuật của OpenAI, mô hình o3 và o4-mini mới được ra mắt có tỉ lệ tạo ra thông tin sai cao hơn cả những mẫu suy luận trước đó như o1, o1-mini và o3-mini, cũng như các mẫu AI truyền thống như GPT-4o.
Trong bài kiểm tra nội bộ PersonQA, o3 tạo ra thông tin sai ở 33% câu hỏi, gấp đôi o1 và o3-mini. Đáng lo hơn, o4-mini thậm chí sai tới 48% trường hợp.
OpenAI thừa nhận chưa rõ lý do khiến các mẫu mới "ảo giác" nhiều hơn. Giả thuyết ban đầu cho rằng phương pháp học tăng cường đang sử dụng có thể vô tình làm khuếch đại vấn đề này.
Dù vậy, o3 vẫn cho thấy khả năng vượt trội trong một số lĩnh vực như lập trình và toán học. Nhiều nhóm phát triển đang thử nghiệm tích hợp o3 vào quy trình làm việc, song cảnh báo rằng AI đôi khi tạo ra các đường dẫn hỏng hoặc dẫn đến thông tin không tồn tại.
Vấn đề "ảo giác" khiến các doanh nghiệp, đặc biệt trong các lĩnh vực yêu cầu độ chính xác cao như pháp lý, gặp khó khăn trong việc ứng dụng AI. Một giải pháp khả quan là tích hợp chức năng tìm kiếm web, như cách GPT-4o hiện đạt tới 90% độ chính xác trên một số bài kiểm tra.
OpenAI khẳng định đang tiếp tục nghiên cứu để giảm hiện tượng "ảo giác" trên tất cả các dòng AI của mình. Trong bối cảnh cả ngành AI đang chuyển hướng sang các model suy luận, việc kiểm soát "ảo giác" đang trở thành một thách thức cấp thiết.
Quang Minh (THeo tech crunch) - laodong.vn
