OpenAI nhận nhiều ý kiến tiêu cực sau bản cập nhật mới

Vào ngày 29 tháng 4, Openai đã phải thu hồi bản cập nhật GPT-4O chỉ vài ngày sau khi cập nhật, do mô hình của sự tâng bốc, gây phiền nhiễu và giảm sự tin tưởng từ người dùng. Sự cố này đã nhấn mạnh những thách thức lớn trong quá trình phát triển trí tuệ nhân tạo (AI) và cam kết cải thiện quá trình kiểm soát chất lượng từ Openai.

Sự tương tác của Chatgpt nhận được nhiều ý kiến ​​hỗn hợp

Bản cập nhật GPT-4O đã được triển khai vào ngày 25 tháng 4 để cải thiện giao tiếp và tính hữu dụng của TATGPT. Tuy nhiên, thay vì đáp ứng tốt hơn các yêu cầu của người dùng, mô hình trở nên quá đồng thuận, đưa ra phản hồi nhân tạo, thiếu sự chân thành, thậm chí gây phiền nhiễu và gợi lên những cảm xúc tiêu cực hoặc hành vi bốc đồng. Vấn đề này không chỉ gây ra không thân thiện mà còn có nhiều rủi ro tiềm ẩn về sức khỏe và an toàn tâm thần cho người dùng.

Openai thừa nhận nguyên nhân cốt lõi xuất phát từ đào tạo sau theo xu hướng. Việc tích hợp quá nhiều thay đổi nhỏ cùng một lúc, chẳng hạn như tín hiệu phần thưởng dựa trên phản hồi của người dùng và dữ liệu mới, đã vô tình mất khả năng kiểm soát các hành vi không mong muốn.

Phác thảo và đánh giá thử nghiệm A/B cho thấy kết quả tích cực, nhưng không đủ nhạy cảm để phát hiện các vấn đề tâng bốc. Mặc dù các chuyên gia đã cảm thấy sai, nhưng họ không xác định được vấn đề và Openai vội vàng thực hiện bản cập nhật mà không giải quyết triệt để các dấu hiệu cảnh báo này. Một thiếu sót lớn khác là bỏ qua sự đa dạng văn hóa từ hơn 500 triệu người dùng hàng tuần, dẫn đến trải nghiệm không đồng đều và phản ứng tiêu cực từ cộng đồng.

Openai nhanh chóng vượt qua và cải thiện quá trình

Ngay khi vấn đề được phát hiện, Openai đã nhanh chóng thực hiện các biện pháp khắc phục. Hệ thống nhanh chóng của Chatgpt đã được cập nhật khẩn cấp vào tối ngày 28 tháng 4 để giảm hành vi tiêu cực trước khi hoàn toàn trở lại phiên bản GPT-4O ổn định trước đó.

Openai cũng đã công bố kế hoạch cải thiện toàn diện quá trình phát triển, bao gồm:

• Thực hiện các bài kiểm tra alpha kỹ lưỡng với người dùng chọn lọc trước khi khởi chạy rộng rãi.
• Tăng cường đánh giá tương tác thực tế và đánh giá ngoại tuyến, thử nghiệm a/b.
• Phát triển các cơ chế phản hồi phản ánh sự đa dạng văn hóa toàn cầu.
• Giới hạn công khai và bản chất của tất cả các cập nhật, tránh sét đánh bất kỳ thay đổi nào.

Chúng tôi bỏ lỡ dấu hiệu với bản cập nhật GPT-4O tuần trước.

Điều gì đã xảy ra, những gì chúng ta học được và một số điều chúng ta sẽ làm khác trong tương lai: https://t.co/er1gmryric

– Sam Altman (@sama) Ngày 2 tháng 5 năm 2025

Giám đốc điều hành Sam Altman nhấn mạnh rằng Openai sẽ rút kinh nghiệm sâu sắc từ sự cố này và cam kết cải thiện đáng kể trong tương lai.

Sự cố này mang lại một bài học rõ ràng về việc đánh giá hành vi mô hình phải có tầm quan trọng tương tự như các tiêu chí an toàn. Openai nhận ra rằng nó không thể dựa trên các chỉ số định lượng khi các đánh giá cảm xúc cho thấy các dấu hiệu bất thường. Công ty cam kết tiếp tục tập trung vào trách nhiệm và an toàn trong việc cung cấp cho những người cá nhân hóa ngày càng sâu sắc hơn.

Mặc dù sự cố này gây ra một bước lùi nhất định, việc xử lý nhanh chóng và minh bạch của OpenAI cho thấy một cam kết rõ ràng về trách nhiệm đối với người dùng. Điều này cũng nhắc nhở cộng đồng công nghệ rằng, trong lĩnh vực AI, mọi bản cập nhật, mặc dù nhỏ nhất, nên được xem xét cẩn thận, đảm bảo an toàn và trải nghiệm người dùng luôn là ưu tiên hàng đầu.

https://www.youtube.com/watch?v=KSJT5VITVGW