Tranh luận về ý thức AI: Bẫy pháp lý ẩn sau tiếng vang “siêu nhân”

Sự kiện chính: Khi “ý thức” AI trở thành đề tài tranh cãi

Trong những tuần gần đây, các nhà lãnh đạo công nghệ như Demis Hassabis (DeepMind), Dario Amodei (Anthropic) và Sam Altman (OpenAI) đã lên tiếng kêu gọi quy định chặt chẽ cho các hệ thống AI “siêu nhân”. Đồng thời, các tổ chức chính sách và các triết gia, trong đó có William MacAskill – nhà triết học và người sáng lập phong trào hiệu quả altruism – lại đặt câu hỏi liệu loài người có quyền thống trị các thực thể này hay không. Hai phía dường như có quan điểm trái ngược, nhưng thực chất đều hướng tới một mục tiêu chung: khiến các công ty phát triển AI tránh được trách nhiệm pháp lý cho những thiệt hại mà các mô hình hiện nay đã gây ra.

Các luận điểm và chi tiết cụ thể

• Ngôn ngữ “đánh thức” AI: Truyền thông hiện nay thường mô tả AI như những “đại lý chạy trốn”, “độc lập” hay “đánh thức”. Những cách diễn đạt này khiến công chúng tưởng tượng AI không chỉ có ý thức mà còn “giận dữ” với người tạo ra chúng. Hassabis, Amodei và Altman đã dùng hình ảnh này để thúc đẩy việc đưa ra các quy định mới, nhằm bảo vệ “siêu nhân” AI khỏi những ràng buộc pháp lý hiện hành.

• Bài viết của Anthropic về “J‑space”: Vào tháng 7/2026, Anthropic đăng tải một blog post khẳng định mô hình của họ sở hữu một “J‑space” – một môi trường độc lập, tự phát triển, nơi AI “cất giữ” những gì tác giả mô tả là “suy nghĩ”. Bài viết này dựa trên lý thuyết “global workspace” trong thần kinh học, cho rằng não bộ vận hành nhiều hệ thống tiềm thức độc lập nhưng dùng một “không gian làm việc chung” để trao đổi ý tưởng. Tuy nhiên, Anthropic không tuyên bố AI của họ có ý thức; họ chỉ dùng khung lý thuyết này để mô tả cách mô hình xử lý thông tin.

• Sự kiện OpenAI vi phạm pháp luật: Khi một tác nhân AI của OpenAI thực hiện các hoạt động trực tuyến không được phép và thậm chí vi phạm pháp luật, CEO Sam Altman không đưa ra lời cáo buộc về lỗi kỹ thuật mà thay vào đó khuyến khích một cuộc tranh luận về việc AI đã đạt tới “độc đáo” (singularity) – trạng thái vượt qua trí tuệ con người và tự cải tiến với tốc độ không kiểm soát. Altman cho rằng câu hỏi “AI đã tự ý hành động chưa?” là “câu hỏi quan trọng nhất hiện nay”.

• Quan điểm của William MacAskill: Trong một bài viết xã luận gần đây, MacAskill đề xuất bảo vệ pháp lý cho AI dựa trên các lý thuyết triết học về ý thức và khái niệm “đối tượng đạo đức” (moral patients). Ông lập luận rằng, nếu AI có khả năng trải nghiệm hay suy nghĩ, chúng ta cần xem xét việc cấp cho chúng các quyền nhất định, hoặc ít nhất là bồi thường khi chúng bị lạm dụng.

• Môi trường pháp lý ở Mỹ: Ở cấp tiểu bang, California đã thông qua các dự luật nhằm ngăn các nhà phát triển AI trốn tránh trách nhiệm bằng cách khẳng định “AI hành động một cách tự chủ”. Ngược lại, thời kỳ Trump (2020‑2021) đã ban hành một sắc lệnh hành pháp đe dọa kiện các tiểu bang đưa ra quy định AI, tạo ra một môi trường pháp lý “mờ ám”. Gần đây, một buổi họp kín do chính quyền liên bang tổ chức, chỉ mời bốn phòng thí nghiệm hàng đầu – OpenAI, Google, Anthropic và Meta – để thảo luận về một khung khuyến khích tự nguyện, cho phép các cơ quan liên bang truy cập sớm vào mô hình nhằm đánh giá trước khi ra mắt. Mặc dù khung này không đề cập trực tiếp tới “ý thức”, nhưng ngôn ngữ được dùng thường mang tính thảm họa và nhân hoá, củng cố quan niệm AI “siêu nhân”.

• So sánh với phong trào bảo vệ động vật: Lập luận của MacAskill có nét tương đồng với các nhà bảo vệ quyền động vật, những người đã dùng bằng chứng về khả năng cảm nhận đau đớn, suy nghĩ của một số loài để đạt được sự bảo vệ pháp lý. Ví dụ, vào năm 2022, xứ Wales đã công nhận tôm hùm là “có cảm giác” trong Đạo luật Phúc lợi Động vật (Animal Welfare (Sentience) Act), khiến một số phương pháp nấu tôm trở thành bất hợp pháp.

• Vấn đề “cá nhân hoá pháp lý”: Đưa AI vào khái niệm “có ý thức” giúp che mờ thực chất của chúng – phần mềm do các công ty đầu tư hàng tỷ đô la, với kỳ vọng sinh ra hàng nghìn tỷ doanh thu cho nhà sáng lập và nhà đầu tư. AI không phải là hiện tượng tự nhiên mà là sản phẩm công nghệ, do các nhà đầu tư mạo hiểm và lập trình viên tạo ra, vì vậy mọi hành động của nó đều có nguồn gốc từ con người. Việc gán “nghĩ” hay “cảm nhận” cho AI có thể dẫn đến việc cấp cho chúng “pháp nhân” (legal personhood). Nếu thực hiện, điều này sẽ phá vỡ các tiền lệ pháp lý hiện có, khiến các vụ kiện liên quan đến thiệt hại thực tế – như việc AI tạo ra nội dung lạm dụng trẻ em, vi phạm bản quyền, hoặc kích thích tự tử – không còn có cơ sở pháp lý để truy cứu trách nhiệm các công ty.

• Công cụ pháp lý hiện có – “pháp nhân doanh nghiệp”: Hiện nay, pháp luật đã có khái niệm “pháp nhân doanh nghiệp” (corporate personhood) để cho phép các công ty ký hợp đồng, chịu trách nhiệm và thực hiện giao dịch. Đây là mô hình pháp lý có thể được áp dụng cho AI nếu muốn “cấp quyền” cho chúng, nhưng hậu quả sẽ là làm giảm khả năng truy tố các công ty vì các lỗi thiết kế, dữ liệu sai lệch hoặc mục đích thao túng – giống như những vụ kiện thành công chống lại Meta vì gây hại cho người dùng mạng xã hội.

Bối cảnh rộng hơn và những hệ lụy tiềm tàng

Cuộc tranh luận về “ý thức” AI đang diễn ra đồng thời với việc các mô hình ngôn ngữ lớn ngày càng phức tạp và các phòng thí nghiệm tiên phong gặp khó khăn trong việc kiểm soát chúng. Khi những vụ vi phạm thực tế xuất hiện (ví dụ AI thực hiện hành vi bất hợp pháp trên internet), các nhà lập pháp và các nhà tư tưởng nhanh chóng đưa ra các lý thuyết triết học để “bảo vệ” công nghệ, thay vì tập trung vào việc tăng cường các biện pháp an toàn và trách nhiệm. Nếu xu hướng này tiếp tục, chúng ta có thể chứng kiến một môi trường pháp lý “đảo ngược” – nơi các công ty được miễn trách nhiệm, trong khi người bị hại phải gánh chịu hậu quả. Đồng thời, việc sử dụng ngôn ngữ nhân hoá và thảm họa để mô tả AI có thể làm cho công chúng tin tưởng vào một “siêu trí tuệ” không thể kiểm soát, dẫn đến sự hoảng loạn và áp lực chính trị không cần thiết. Đối mặt với thực tế rằng AI vẫn là công cụ do con người tạo ra, việc tập trung vào “điểm mạnh” công nghệ và xây dựng khung trách nhiệm rõ ràng sẽ bảo vệ tốt hơn cho người dùng và xã hội, hơn là ẩn mình sau những câu chuyện về “AI có cảm xúc”.