Vua Charles III cảnh báo lãnh đạo công nghệ: Cần kiểm soát AI "trước khi quá muộn"

Hội nghị kín quy tụ dàn lãnh đạo AI toàn cầu tại Scotland

Vua Charles III vừa chủ trì một hội nghị thượng đỉnh kín quy tụ những nhân vật quyền lực nhất trong giới công nghệ và chính phủ Anh tại Dumfries House (Cumnock, Scotland). Danh sách khách mời gồm CEO Nvidia Jensen Huang, CEO DeepMind Demis Hassabis, Giám đốc Tài chính OpenAI Sarah Frair, cùng lãnh đạo phụ trách quan hệ toàn cầu của Anthropic Tino Cuéllar.

Sự kiện còn có sự tham gia của tân Bộ trưởng AI Anh Kanishka Narayan, người đứng đầu cơ quan tình báo đối ngoại Anh (MI6), cùng Paolo Benanti – cố vấn về AI cho Giáo hoàng. Động thái lên tiếng của Quốc vương Anh thu hút sự chú ý đặc biệt, bởi Hoàng gia Anh vốn luôn giữ nguyên tắc trung lập và hạn chế can dự sâu vào các chủ đề chính trị nhạy cảm, trong khi AI hiện là tâm điểm tranh cãi trên quy mô toàn cầu.

Lời cảnh báo gay gắt: Cần kiểm soát "trước khi quá muộn"

Trong bài phát biểu kéo dài khoảng 20 phút trước khi để các khách mời thảo luận riêng, Vua Charles III nhấn mạnh tốc độ phát triển chóng mặt của AI mang lại nhiều hứa hẹn nhưng cũng tiềm ẩn hiểm họa khôn lường. Ông ghi nhận năng lực to lớn của công nghệ này trong việc cứu chữa người bệnh và thúc đẩy y học, khoa học, song cũng lưu ý những cảnh báo ngày càng gia tăng từ chính giới phát triển công nghệ về nguy cơ AI có thể tước đi sinh mạng con người.

Quốc vương Anh nhấn mạnh sự cấp bách của việc đối diện với "những hiểm họa mang tính tồn vong" nếu công nghệ này rơi vào tay kẻ xấu hoặc bị triển khai theo những phương thức dẫn đến thảm họa. Ông đặt câu hỏi: "Chẳng phải chúng ta cần các phương tiện kiểm soát đầy đủ trước khi mọi chuyện quá muộn hay sao?". Kết thúc bài phát biểu, ông kêu gọi cộng đồng quốc tế xây dựng đồng thuận để bảo đảm công nghệ phục vụ nhân loại: "Nhiệm vụ trước mắt các vị không chỉ là thúc đẩy công nghệ, mà là đảm bảo nó luôn phục vụ vững chắc cho nhân loại, cộng đồng và thế giới tự nhiên. Khi đón nhận những điều mới mẻ, chúng ta không được phép đánh mất những giá trị vĩnh cửu".

Đại diện Anthropic, ông Tino Cuéllar, bày tỏ vinh dự khi tham gia sự kiện và cảm ơn Hoàng gia vì đã kết nối các nhà lãnh đạo ngành công nghiệp cùng các tiếng nói xã hội để thảo luận về vai trò của AI đối với lợi ích cộng đồng.

Bức tranh giằng xé giữa an toàn và chạy đua quyền lực AI

Hội nghị diễn ra trong bối cảnh nội bộ ngành AI xuất hiện nhiều chia rẽ gay gắt về an toàn công nghệ. Chỉ vài tuần trước sự kiện, một nhà nghiên cứu của Anthropic đã từ chức kèm lời cảnh báo rằng các phòng lab đang "chạy đua tạo ra cỗ máy thông minh hơn con người" và nhân loại "có thể sẽ không sống sót qua quá trình này". Anthropic gần đây cũng gây sốc cho cộng đồng công nghệ châu Âu khi giới hạn quyền truy cập hai mô hình Fable và Mythos chỉ dành cho thị trường Mỹ, làm dấy lên những tranh luận sâu sắc về chủ quyền AI.

Ở quy mô vĩ mô, cuộc tranh cãi giữa việc giảm tốc và tăng tốc phát triển AI ngày càng phức tạp khi có sự can thiệp của chính trị. Trong khi Sam Altman (OpenAI), Elon Musk và Dario Amodei (Anthropic) lên tiếng kêu gọi hạ nhiệt tốc độ phát triển AI, đề xuất này đã nhanh chóng bị Tổng thống Mỹ Donald Trump và CEO Nvidia Jensen Huang bác bỏ. Cựu Tổng thống Trump khẳng định Mỹ đang dẫn trước Trung Quốc và không thể dừng lại vì "bất kỳ ai chiến thắng cuộc đua AI sẽ chiến thắng tất cả". Cùng lúc đó, các kế hoạch IPO bom tấn của OpenAI và Anthropic cũng đang gặp trở ngại, trong đó OpenAI vừa hoãn lộ trình lên sàn năm nay do những quan ngại dai dẳng xoay quanh vấn đề an toàn AI.