Google tạm dừng chương trình săn tiền thưởng lỗi nguồn mở vì vấn nạn báo cáo rác từ AI

Google vừa quyết định đình chỉ chương trình săn tiền thưởng lỗi bảo mật mã nguồn mở, với lý do xuất phát từ làn sóng các báo cáo lỗ hổng tự động kém chất lượng do trí tuệ nhân tạo (AI) tạo ra.

Quyết định tạm dừng Chương trình Thưởng Lỗ hổng Phần mềm Mã nguồn Mở (Open Source Software Vulnerability Rewards Program) đã chính thức có hiệu lực từ ngày 1/10. Sáng kiến này vốn dùng để chi trả tiền thưởng cho các nhà nghiên cứu bảo mật khi họ phát hiện lỗ hổng trên những dự án mã nguồn mở của Google. Trong thời gian đóng băng để đánh giá lại tính hiệu quả, Google cho biết trên website và tài khoản X rằng hãng dự kiến sẽ đưa ra bản cập nhật tiếp theo vào quý 1 năm 2027.

Khủng hoảng vì làn sóng "ảo giác" tự động

Google xác nhận rằng làn sóng báo cáo gửi về tự động với số lượng khổng lồ đã buộc công ty phải đưa ra quyết định này, đồng thời nhấn mạnh đại đa số các báo cáo nhận được đều hoàn toàn vô giá trị.

"Đợt tạm dừng này bắt nguồn từ sự gia tăng đột biến của các báo cáo gửi về tự động, trong đó phần lớn đều không hợp lệ", phía công ty cho biết.

Theo nguồn tin từ Tom's Hardware, các kỹ sư và đội ngũ duy trì mã nguồn mở của Google đã phải vật lộn dưới áp lực hành chính nặng nề khi lọc qua hàng loạt tuyên bố vô căn cứ. Rất nhiều báo cáo trong số đó chứa các thông tin bịa đặt hoặc hiện tượng ảo giác (hallucination) thường thấy ở các công cụ AI tạo sinh.

Thách thức ngày một lớn với các chương trình bảo mật

Sự việc này đã phản ánh một bài toán nan giải trên diện rộng của bức tranh an ninh mạng hiện nay. Trước đó, các chuyên gia trong ngành từng gióng lên hồi chuông cảnh báo về mối đe dọa từ "rác AI" (AI slop) đang làm xói mòn các sáng kiến bảo mật dựa vào cộng đồng (crowdsourced). Khi các công cụ tự động giúp việc tạo và gửi hàng trăm báo cáo lỗ hổng nhìn-có-vẻ-thuyết-phục trở nên quá dễ dàng, các đội ngũ kiểm duyệt thủ công phải đối mặt với tình trạng tồn đọng nghiêm trọng những lỗ hổng sai lệch hoặc chưa được kiểm chứng.

Trong thời gian này, Google lưu ý rằng các chuyên gia bảo mật nếu phát hiện lỗ hổng vẫn có thể chuyển hướng đóng góp sang các chương trình săn tiền thưởng lỗi khác đang hoạt động của hãng.