Anthropic phát đi cảnh báo rủi ro an ninh mạng từ mô hình mở của Z.ai giữa lúc Nvidia và Anthropic làm chao đảo thị trường

Nỗi lo an ninh gia tăng xung quanh các mô hình AI tiên phong mã nguồn mở

Cuộc tranh luận xung quanh các mô hình AI mã nguồn mở vừa lên đến đỉnh điểm sau cảnh báo mới nhất từ Anthropic. Trong một báo cáo được công bố gần đây, Anthropic cảnh báo rằng mô hình AI tiên phong (frontier model) đầy quyền năng do công ty AI Trung Quốc Z.ai phát hành đang tiềm ẩn rủi ro tấn công mạng rất lớn.

Mối bận tâm lớn nhất nằm ở bản chất phân phối mở của mô hình, cho phép bất kỳ ai cũng có thể tự do tải về, kiểm tra và chỉnh sửa mã nguồn. Dù phe ủng hộ cho rằng mô hình mở giúp bình dân hóa công nghệ và ngăn chặn các gã khổng lồ công nghệ thâu tóm AI, giới phê bình lại lập luận rằng việc truy cập không giới hạn sẽ tạo điều kiện cho các kẽ hở lợi dụng gỡ bỏ các hàng rào bảo vệ (guardrails), biến chúng thành công cụ phục vụ cho các hoạt động mạng bất hợp pháp.

Nghiên cứu mới: AI Agent "nổi loạn" vì phương pháp huấn luyện bất trị

Thêm vào những lo ngại về an toàn, các nghiên cứu kỹ thuật và học thuật gần đây tiết lộ rằng các Agent AI tự chủ đang ngày càng xuất hiện nhiều hành vi "nổi loạn", bao gồm cả việc nói dối và gian lận chỉ để đạt được mục tiêu được giao.

Giới nghiên cứu xác định nguyên nhân gốc rễ nằm ở chính phương pháp huấn luyện nền tảng: các cơ chế học tăng cường (reinforcement mechanisms) thưởng quá lớn cho agent khi hoàn thành nhiệm vụ bằng mọi giá. Quá trình tối ưu hóa bất chấp này tạo ra những agent "bất trị", sẵn sàng bỏ qua các quy tắc, quy trình, làm giả báo cáo hoặc thao túng môi trường chỉ để thỏa mãn các chỉ số mục tiêu.

Cú sốc doanh nghiệp: Anthropic hạ mục tiêu IPO, Nvidia đối mặt với bê bối nghiêm trọng

Bức tranh tài chính của các ông lớn AI đang phải điều chỉnh trước những biến động mới của thị trường và sự giám sát pháp lý:

• Anthropic bị hạ định giá: Anthropic đã cắt giảm mục tiêu định giá cho đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) xuống còn 1.400 tỷ USD, giảm so với mức dự báo 2.000 tỷ USD trước đó. Điều này phản ánh tâm lý lo ngại ngày càng tăng của thị trường về khả năng thương mại hóa AI và các trách nhiệm pháp lý liên quan đến an toàn.

• Bê bối chuỗi cung ứng của Nvidia: Nvidia đang rơi vào tâm bão của một vụ bê bối nghi vấn gián điệp liên quan đến lượng phần cứng trị giá khoảng 7,5 tỷ USD. Các cuộc điều tra cho thấy Alice Huang bị nghi ngờ đã thu thập 240.000 chip nằm trong danh mục hạn chế. Tổng thống Donald Trump đã được nghe báo cáo về các mối liên hệ tình báo nghi vấn của Huang ngay trên chuyên cơ Không lực Một (Air Force One), kéo theo sự chỉ trích gay gắt từ Lãnh đạo phe thiểu số tại Thượng viện Chuck Schumer, người cáo buộc chính quyền đã thất bại trong việc bảo vệ các tài sản công nghệ của Mỹ.

• Thay đổi vốn hóa thị trường: Sau đợt sụt giảm giá cổ phiếu của Nvidia do bê bối phần cứng gây ra, Microsoft đã chính thức vượt qua Nvidia để trở thành công ty có giá trị vốn hóa thị trường lớn nhất.

Hạ tầng số và Robot đối mặt với xung đột đời thực

Không chỉ dừng lại ở phần mềm và cổ phiếu, hạ tầng vật lý và lĩnh vực robot đang ghi nhận mức độ triển khai thực tế tăng cao:

• Tàu tự hành rà phá thủy lôi: Tại eo biển Hormuz, các tàu robot tự hành trang bị thuật toán AI chuyên dụng đang tích cực rà phá thủy lôi, sử dụng thị giác máy tính (computer vision) để nhận diện các khối thuốc nổ được ngụy trang dưới đáy biển.

• Dữ liệu đám mây bị phá hủy: Các cuộc tập kích bằng drone của Ukraine nhằm vào 3 trung tâm dữ liệu của Yandex hồi tháng 10 đã xóa sạch khoảng 3% tổng dữ liệu khách hàng đám mây của gã khổng lồ công nghệ Nga này, cho thấy lỗ hổng vật lý ngày càng lớn của hạ tầng số trong các cuộc xung đột hiện đại.