AI sẽ không công bằng khi tuyển dụng, và sự thao túng dữ liệu thời tiết đang gia tăng

Khi máy tính "thiên vị" còn hơn con người

Lần tới khi bạn nộp đơn xin việc, AI có thể sẽ là người tiên tiếp xem hồ sơ của bạn trước khi bất kỳ con người nào. Nhưng có lý do chính đáng để hoài nghi liệu AI có xét xử công bằng hay không. Cộng đồng nghiên cứu đã từ lâu biết rằng các mô hình ngôn ngữ lớn (LLM) có xu hướng tiếp thu những thiên vị của con người từ dữ liệu huấn luyện. Nhưng một nghiên cứu mới vừa công bố cho thấy rằng LLM không chỉ dừa lại ở đó—chúng còn có khả năng phát triển những thiên vị riêng từ kinh nghiệm của bản thân, và mức độ phân biệt đối xử ứng viên công việc của chúng thậm chí còn cao hơn mức độ mà con người làm.

Vấn đề càng trở nên nghiêm trọng khi các công ty AI đang đua nhau xây dựng những mô hình agentic—những mô hình có khả năng ghi nhớ những chi tiết nhỏ nhất về người dùng. Chính khả năng ghi nhớ chi tiết này mà lại tạo ra những "đạn dược" để các mô hình phát triển và củng cố các thiên vị của chúng. Khi một hệ thống không chỉ nhớ tên, trường cấp, hay công ty cũ của bạn, mà còn nhớ lĩnh vực chuyên môn, khoảng thời gian bạn ở từng vị trí, hay thậm chí những chi tiết về cách bạn trình bày thông tin cá nhân—tất cả đều có thể trở thành điểm khởi phát cho những quyết định có thiên vị. Nghiên cứu đầy đủ về vấn đề này đã được công bố, cho thấy rõ ràng rằng AI đang có khả năng để stereotype ứng viên theo những cách mà con người có thể không làm.

Thực phẩm cơm cơm bị xáo trộn: Mối nguy từ việc thao túng dữ liệu thời tiết

Mỗi buổi sáng trên toàn thế giới, những nhân viên điều phối của các hãng hàng không, người vận hành lưới điện, và những nông dân đều đưa ra những quyết định quan trọng dựa trên dự báo thời tiết. Nhưng gần đây, dự báo thời tiết đã trở nên có liên quan đến một ngành công nghiệp mới: thị trường dự đoán, nơi mà con người đặt cược tiền bạc vào tất cả loại sự kiện thực tế trong thế giới thực, bao gồm cả thời tiết. Sự cám dỗ để thao túng dữ liệu thời tiết nhằm giành lợi thế trong những thị trường này, kết hợp với xu hướng toàn cầu chuyển sang sử dụng các mô hình dự báo thời tiết AI chạy bằng dữ liệu, bắt đầu tạo ra những rủi ro cho độ chính xác của các dự báo thời tiết.

Các chuyên gia trong lĩnh vực này có thể dự thấy những tình huống mà những rủi ro này sẽ lũ lượt leo thang thành những vấn đề lớn hơn nhiều và mang tính hệ thống hơn. Nếu dữ liệu thời tiết bị thao túng—kể cả một cách nhỏ—các mô hình AI có thể đưa ra những dự báo sai lệch. Những dự báo sai lệch này lại ảnh hưởng đến quyết định của các nhà điều hành lưới điện, công ty hàng không, và nông dân. Từ đó có thể dẫn đến mất cân bằng lưới điện, chuyến bay bị hoãn không cần thiết, hoặc những quyết định canh tác sai lầm có thể ảnh hưởng đến sản lượng nông sản.

Thế giới AI ngày càng phức tạp hơn

Những vấn đề này không tồn tại riêng lẻ. Chúng là phần của một bức tranh rộng lớn hơn về vai trò ngày càng gia tăng của AI trong các quyết định quan trọng của chúng ta. Newsletter The Download cũng đề cập đến nhiều phát triển khác trong tuần này: SpaceX đang đàm phán để bán năng lực tính toán AI cho Lầu Năm Góc; Anthropic đang thảo luận việc mua năng lực máy tính từ Meta; các chính sách về các robot vũ trang đang được mở rộng; và Moonshot của Trung Quốc tạm dừng các đăng ký mới do nhu cầu cao với mô hình Kimi K3. Tất cả những điều này phản ánh sự thực rằng AI đang xâm nhập vào mọi lĩnh vực của xã hội—từ quân sự, tài chính, cho đến những hoạt động hàng ngày.