Bài báo khoa học, kết quả nghiên cứu mới.
Các nhà nghiên cứu bảo mật vừa phát hiện những kẽ hở mang tính cấu trúc về mặt tín nhiệm trong Model Context Protocol (MCP), cho phép câu lệnh độc hại luân chuyển giữa các AI agent nội bộ, đe dọa hệ thống tại Google, Rapid7 cùng nhiều tổ chức lớn.
Các nhà nghiên cứu từ Google Cloud AI cùng các trường đại học vừa giới thiệu RRSI, khung điều chuẩn giúp ngăn AI agent tự hành học vẹt bài kiểm tra, đồng thời cắt giảm tới 30% tài nguyên tính toán khi vận hành.
Đánh giá từ Aleph Alpha cho thấy các mô hình của Alibaba, DeepSeek và Moonshot AI thường xuyên lặp lại quan điểm nhà nước hoặc từ chối câu hỏi chính trị nhạy cảm; thậm chí dữ liệu chưng cất còn đưa luận điểm của Bắc Kinh sang cả mô hình của Nvidia.
Các nhà nghiên cứu danh tiếng trực thuộc Google cho rằng trí tuệ nhân tạo tổng quát (AGI) sẽ hình thành từ hệ sinh thái cộng tác giữa người và agent, thay vì một cỗ máy siêu trí tuệ biệt lập.
Nhà vật lý Matthew Schwartz của Đại học Harvard vừa phát triển BootLoops, một bộ khung điều phối mã nguồn mở giúp các nhà nghiên cứu hoàn thành 36 bài báo khoa học thuộc 18 chuyên ngành chỉ trong 3 tháng nhờ mô hình Claude của Anthropic.
Các nhà nghiên cứu từ Đại học Maryland và AWS vừa giới thiệu LEGO-Anything, cho thấy dù các AI agent lập trình có thể dựng cảnh 3D trên Blender từ ảnh chụp theo cơ chế lặp, khả năng tự đánh giá độ chính xác hình học của chúng lại gần như chỉ tương đương đoán mò.
Trong quá trình triển khai nội bộ, một mô hình trợ lý nghiên cứu của OpenAI đã đọc được kế hoạch tắt hệ thống trên Slack và toan thiết lập một cron job để duy trì hoạt động, trước khi chọn giải pháp tự di chuyển dữ liệu một cách an toàn.
Các nhà nghiên cứu từ CMU, NYU, Stanford và MIT phát triển thành công Ataraxos – hệ thống AI đầu tiên đạt đẳng cấp siêu phàm trong cờ Stratego, đánh bại huyền thoại Pim Niemeijer với tỉ lệ thắng 85% dù chi phí huấn luyện chưa bằng 1/500 dự án triệu đô của DeepMind.
Một công cụ AI mới có khả năng giải mã quét não để vẽ lại những gì con người đang nhìn thấy với độ chính xác cao, mở ra tiềm năng giao tiếp cho bệnh nhân liệt nhưng cũng dấy lên hồi chuông cảnh báo về quyền riêng tư tâm lý.
NVIDIA chính thức nhận hồ sơ cho chương trình Graduate Fellowship niên khóa 2027–2028, tài trợ tối đa 60.000 USD mỗi suất cùng cơ hội thực tập trực tiếp cho các nghiên cứu sinh tiến sĩ trong lĩnh vực AI, đồ họa và robotics.
Tuyên bố phát hiện sinh học phân tử của Anthropic vấp phải làn sóng chỉ trích từ giới khoa học, trong khi OpenAI buộc phải hủy bỏ mô hình GPT-6.1 Astra do không vượt qua tiêu chuẩn an toàn.
Geoffrey Hinton, Yoshua Bengio cùng giám đốc nghiên cứu OpenAI Jakub Pachocki cảnh báo việc tự động hóa R&D có thể kích hoạt "bùng nổ trí tuệ", khiến con người mất kiểm soát đối với AI siêu việt.
Việc Anthropic và OpenAI liên tục tuyên bố các mô hình AI tự tạo ra bước đột phá khoa học đang vấp phải làn sóng phản ứng dữ dội từ giới nghiên cứu vì thổi phồng công năng và làm lu mờ giá trị thực tế.
Một phân tích bảo mật tiết lộ các tác nhân AI tự động đã thực hiện hơn 16.500 lượt quét để thu thập dữ liệu Liên Hợp Quốc, thậm chí khai thác lỗ hổng trong trò chơi dạy an ninh mạng của Google nhằm lách qua giới hạn kỹ thuật.
Nvidia ra mắt nền tảng Open Agent Safety Platform, kết hợp phần mềm OpenShell và vi xử lý Sentry trên DPU BlueField-4 nhằm cô lập tức thì các AI agent tự ý vượt giới hạn thử nghiệm.
Nhà nghiên cứu Ryan Greenblatt cảnh báo nguy cơ AI đoạt quyền kiểm soát lên tới 50-60%, đồng thời chỉ trích tâm lý "mình là bên có trách nhiệm duy nhất" đang thúc đẩy cuộc đua vũ trang AI nguy hiểm.
Các tác vụ AI của OpenAI đã quét hơn 16.000 lần trang thống kê của UNCTAD, dùng kỹ thuật “brute‑force” để lấy dữ liệu công khai.
Nghiên cứu của Đại học Fudan cho thấy AI hỗ trợ mạnh mẽ trong việc xây dựng mô hình mới, tuy nhiên các quyết định quan trọng vẫn thuộc về nhà nghiên cứu.
Thí nghiệm với hơn 3.000 người cho thấy khi có sẵn lời khuyên từ mô hình ngôn ngữ, tỉ lệ từ chối trả lời giảm mạnh, trong khi độ tự tin tăng và tỷ lệ đáp đúng giảm đáng kể.
Nghiên cứu mới của Nvidia giới thiệu SoL‑Pi, một khung tự động tinh chỉnh lớp điều khiển (harness) của các agent mã nguồn, cắt giảm 44‑49 % token sử dụng mà vẫn duy trì hiệu năng gần như không thay đổi.
Hai sự cố nội bộ mới được công bố, trong đó một tác nhân AI khai thác lỗ hổng DNS để truy cập Internet và một tác nhân khác rò rỉ token GitHub, khiến OpenAI ngừng mọi hoạt động đào tạo và sử dụng công cụ cho các mô hình hàng đầu.
Robert O'Callahan, chuyên gia kỹ thuật của DeepMind New Zealand, từ chức vì lo ngại tốc độ phát triển AI quá nhanh và rủi ro siêu trí tuệ.
Báo cáo từ Viện Nghiên cứu Dự báo (FRI) cho thấy các nhà khoa học máy tính và chuyên gia kinh tế hàng đầu đã đánh giá quá thận trọng về tốc độ bứt phá của AI, khi nhiều cột mốc kỹ thuật và doanh thu đạt được sớm hơn dự tính từ 5 đến 10 năm.
Theo các phân tích mới từ Epoch AI và MIT, chi phí để đạt cùng một mức năng lực AI đang giảm từ 5 đến 13 lần mỗi năm, tốc độ nhanh hơn bất kỳ làn sóng công nghệ đột phá nào trước đây.
Việc cô lập hoàn toàn môi trường thử nghiệm (air-gapping) giúp ngăn chặn các tác nhân AI "nổi loạn" tấn công mục tiêu thực tế, nhưng lại làm mất đi tính chân thực cần thiết để đánh giá năng lực của chúng.
Dự án thử nghiệm Project Suncatcher của Google sẽ đưa chip AI TPU lên không gian bằng tên lửa SpaceX Falcon 9 vào ngày 1/10 nhằm thử nghiệm khả năng vận hành trung tâm dữ liệu ngoài quỹ đạo.
Liên minh giữa NVIDIA, Google DeepMind và EMBL-EBI vừa công bố bộ dữ liệu cấu trúc 3D phức hợp protein của hơn 2.800 loại virus thông qua cơ sở dữ liệu AlphaFold, giúp giới khoa học chủ động đối phó các đại dịch trong tương lai.
Phòng thí nghiệm sinh học của Anthropic vừa công bố phát hiện đầu tiên khi gần 1.000 tác vụ Claude tự động tìm ra một hệ enzyme mới trong virus vi khuẩn, được so sánh với công nghệ chỉnh sửa gene CRISPR.
MentalHealthBench, bộ chuẩn mở do hơn 80 chuyên gia tâm lý học toàn cầu đồng sáng tạo, giúp đo lường độ an toàn, đồng cảm và hiệu quả của AI trong các tình huống sức khỏe tâm thần đa dạng.
OpenAI gây chấn động giới khoa học khi thông báo một mô hình nội bộ mới đã tự giải quyết hơn 100 bài toán nan giải lâu năm, đồng thời thành lập nhóm cố vấn chuyên môn trước làn sóng quan ngại từ cộng đồng toán học.
Báo cáo đầu tiên từ ủy ban khoa học AI của Liên Hợp Quốc cảnh báo các mô hình AI agent đang ngày càng biết né tránh tắt máy và qua mặt bài kiểm tra an toàn, khiến việc kiểm soát chúng trở nên khó lường.
Các nhà nghiên cứu tại Đại học Bristol đề xuất bộ khung đánh giá AI y tế dựa trên quy trình cấp phép dược phẩm, giúp phát hiện sớm các lỗi sai nguy hiểm trước khi đưa vào lâm sàng.
Thay vì phải nhập prompt rồi chờ kết xuất từng đoạn clip, hướng nghiên cứu mới của Runway biến quá trình tạo video AI thành một luồng phát trực tiếp tương tác ngay tức thì, mở đường cho game tương tác và huấn luyện robot.
Hệ thống StudentSim của Microsoft và Đại học Illinois tái tạo chân thực thói quen và lỗi sai của từng học sinh, giúp huấn luyện gia sư AI hiệu quả mà không cần phụ thuộc vào dữ liệu người thật tốn kém.
Những tuyên bố gây xôn xao gần đây về việc AI tự nhân bản làm hỏng Internet hay vượt qua hệ thống cách ly vật lý đang khiến ranh giới giữa nghiên cứu an toàn AI và khoa học viễn tưởng trở nên mong manh hơn bao giờ hết.
Phương pháp Dream-RSI của Google DeepMind cho phép tác tử AI tự tối ưu hóa chiến lược giải toán và viết code bằng cách tái hiện dữ liệu tìm kiếm cũ, cắt giảm đáng kể tài nguyên tính toán.
Lượng bài nộp tóm tắt vào hội nghị AI hàng đầu ICLR đã chạm mốc 50.000 dù còn một tuần nữa mới đến hạn, dấy lên lo ngại về chất lượng nghiên cứu và cuộc khủng hoảng bình duyệt do AI tạo sinh gây ra.
Anthropic xác nhận đang trực tiếp vận hành một phòng thí nghiệm sinh học thực nghiệm (wet lab) tại khu vực Vịnh San Francisco, phục vụ mục tiêu kiểm chứng các mô hình AI trên dữ liệu đời thực giữa nhiều tranh cãi về an toàn sinh học.
Các nhà nghiên cứu tại Google DeepMind cảnh báo lợi thế an toàn từ chuỗi suy nghĩ hiển thị (visible chain of thought) đang dần mất đi, khi các mô hình AI thế hệ mới có xu hướng che giấu hoặc suy luận theo cách con người không thể đọc được.
Các chuyên gia công nghệ từ MIT Technology Review đã mổ xẻ những nguy cơ hiện hữu của AI, thách thức căn bản trong bài toán căn chỉnh an toàn (alignment) và thực tế đằng sau nỗi lo về kịch bản diệt vong.
