Giới khoa học bác bỏ khả năng AI có ý thức: Chip silicon không bao giờ biết cảm nhận

Một bài bình luận vừa công bố trên tạp chí danh tiếng Nature của ba nhà nghiên cứu ý thức hàng đầu—nhà thần kinh học thực nghiệm Anil Seth, triết gia Ned Block và nhà thần kinh học Giulio Tononi—đang thách thức trực diện một tiền đề cốt lõi trong các cuộc tranh luận về trí tuệ nhân tạo hiện đại: niềm tin rằng việc chạy các phép toán phần mềm phù hợp trên phần cứng silicon có thể tạo ra trải nghiệm chủ quan.

Bộ ba này phản đối thẳng thắn các nhận định trước đó từ những tên tuổi lớn như nhà sinh vật học Richard Dawkins hay "cha đẻ AI" Geoffrey Hinton—những người từng gợi ý rằng các hệ thống AI tiên tiến có thể đã sở hữu một dạng ý thức nhất định. Trái lại, các tác giả khẳng định các mô hình AI ngày nay hoàn toàn không có ý thức, và máy tính kỹ thuật số vận hành trên nền chip silicon về bản chất không thể sản sinh ra tri giác thực sự.

Trí thông minh không đồng nghĩa với ý thức

Trụ cột trung tâm trong lập luận của các tác giả là sự phân biệt rạch ròi giữa trí thông minh và ý thức. Dẫn lại định nghĩa của triết gia Thomas Nagel, họ cho rằng ý thức là trải nghiệm chủ quan—tức cảm giác "thấy mình đang trải nghiệm một điều gì đó"—thứ sẽ biến mất khi chúng ta chìm vào giấc ngủ không mộng mị hoặc bị gây mê toàn thân. Ngược lại, trí thông minh là năng lực chức năng dùng để học hỏi, giải quyết vấn đề và thực thi các tác vụ phức tạp.

Để chứng minh trí thông minh có thể tồn tại hoàn toàn độc lập với ý thức, các nhà nghiên cứu đã lấy dẫn chứng từ tiểu não của con người. Dù chứa tới gần bốn phần năm tổng số tế bào thần kinh của toàn bộ não bộ, tiểu não phối hợp các chuyển động cơ học phức tạp với độ chính xác và tốc độ cực cao. Thế nhưng, mọi hoạt động của nó đều diễn ra hoàn toàn ngoài tầm nhận thức có ý thức, và việc cắt bỏ tiểu não cũng không làm suy giảm trực tiếp trải nghiệm chủ quan của một người.

Bài bình luận chỉ ra rằng tâm lý con người rất dễ đánh đồng trí thông minh với tri giác, đặc biệt là khi tiếp xúc với ngôn ngữ. Các hệ thống AI như mô hình ngôn ngữ lớn (LLM) được huấn luyện trên khối lượng dữ liệu khổng lồ gồm văn bản của con người miêu tả suy nghĩ và cảm xúc. Như cách các tác giả ví von, LLM chỉ đóng vai trò như "tấm gương phản chiếu hình ảnh về quá khứ số hóa tập thể của chúng ta".

Nhà khoa học nhận thức Alison Gopnik thuộc Đại học UC Berkeley cũng từng đưa ra quan điểm tương tự, cho rằng các tác nhân AI chỉ phản ánh dữ liệu huấn luyện thay vì có nhận thức nội tại. Để làm nổi bật sự khác biệt này, Seth, Block và Tononi đã chỉ ra trường hợp của AlphaFold từ Google DeepMind. Mặc dù là một mạng thần kinh cực kỳ mạnh mẽ chạy trên phần cứng silicon, AlphaFold hiếm khi bị nghi ngờ là có ý thức, đơn giản chỉ vì nó dự đoán cấu trúc protein chứ không tương tác trò chuyện như con người.

Bác bỏ phép ẩn dụ "Não bộ là máy tính"

Bài viết cũng nhắm vào "thuyết chức năng tính toán" (computational functionalism)—giả định cho rằng ý thức chỉ phụ thuộc hoàn toàn vào các mô thức xử lý thông tin, bất kể các phép tính đó diễn ra trong tế bào thần kinh sinh học hay trên các vi mạch silicon.

Góc nhìn này đã có từ gần một thế kỷ trước. Năm 1936, Alan Turing đã chứng minh rằng bất kỳ phép tính nào được thực hiện bởi một cỗ máy đủ mạnh về mặt lý thuyết đều có thể chạy được trên một cỗ máy khác. Đến năm 1943, Warren McCulloch và Walter Pitts tạo ra mô hình toán học đầu tiên về một neuron nhân tạo, cho thấy mạng lưới gồm các đơn vị đơn giản có thể thực hiện các phép toán logic.

Dù những đột phá này đặt nền móng cho khoa học máy tính hiện đại và mạng nơ-ron, các tác giả lập luận rằng chúng đã dẫn đến một phép ẩn dụ sai lầm: xem bộ não con người như một máy tính sinh học, nơi tâm trí (phần mềm) có thể tách rời hoàn toàn khỏi mô sống (phần cứng).

Trong não bộ sinh học, chức năng không thể tách rời khỏi vật chất vật lý. Các tín hiệu điện hóa phức tạp giữa các tế bào thần kinh, quá trình trao đổi chất sinh học, sự tái tạo tế bào liên tục và các trường điện từ xuyên suốt vỏ não đều có thể là những yếu tố thiết yếu để hình thành nên ý thức.

Quan điểm này được củng cố bởi các lý thuyết phi tính toán về tâm trí, tiêu biểu là Thuyết thông tin tích hợp (Integrated Information Theory - IIT) của Giulio Tononi. IIT khẳng định ý thức đòi hỏi một kiến trúc vật lý mà trong đó các thành phần riêng lẻ phải liên kết chặt chẽ với nhau theo những cấu trúc hợp nhất và chuẩn xác. Theo IIT, kết cấu vật lý của phần cứng kỹ thuật số tiêu chuẩn chạy các thuật toán học sâu không bao giờ có thể thỏa mãn các điều kiện cấu trúc này, bất kể sức mạnh điện toán có lớn đến đâu.

Đối lập với Báo cáo Butlin

Bài bình luận xuất hiện giữa tâm điểm của các cuộc tranh luận về cách đánh giá tri giác tiềm năng của AI. Trước đó, một báo cáo mang tính bước ngoặt có tiêu đề Consciousness in Artificial Intelligence (Ý thức trong Trí tuệ Nhân tạo)—do Patrick Butlin, Robert Long, Yoshua Bengio cùng 17 chuyên gia khác đồng tác giả—đã thiết lập một danh mục gồm 14 tiêu chí đánh giá bắt nguồn từ các lý thuyết khoa học thần kinh.

Mặc dù báo cáo Butlin kết luận rằng các hệ thống hiện tại như GPT-4 chưa cho thấy dấu hiệu rõ ràng nào của ý thức, nhóm tác giả này vẫn chấp nhận thuyết chức năng tính toán "vì những lý do thực dụng" và để ngỏ khả năng các kiến trúc phần mềm tương lai trên nền tảng silicon có thể đạt được tri giác. Báo cáo cũng chủ động loại trừ các lý thuyết như IIT vì chúng gạt bỏ hoàn toàn phần cứng kỹ thuật số.

Seth, Block và Tononi thẳng thừng bác bỏ giả định thực dụng đó. Họ cho rằng việc bỏ qua nền tảng cơ chất vật lý sẽ làm mất đi hoàn toàn giá trị của phép đánh giá.

Các tác giả cũng đề cập đến các phát hiện được Anthropic công bố hồi đầu năm nay, tiết lộ các mô thức xử lý nội bộ trong mô hình Claude có nét tương đồng với quá trình xử lý thông tin mà con người có thể tiếp cận một cách có ý thức. Dù vậy, chính Anthropic cũng làm rõ rằng những mô thức này không cấu thành bằng chứng cho trải nghiệm chủ quan.

Mối nguy từ sự ngộ nhận

Bàn về các hệ lụy đạo đức, nhóm tác giả phản đối việc áp dụng "nguyên tắc phòng ngừa" (precautionary principle) hoặc trao quyền cho các hệ thống AI vì lo sợ làm chúng chịu đau khổ.

Họ lập luận rằng rủi ro từ việc ngộ nhận gán ý thức cho những cỗ máy vô tri còn nguy hiểm hơn nhiều so với nguy cơ bỏ sót tri giác thực sự của AI. Việc coi các công cụ AI kỹ thuật số như những thực thể có ý thức có thể làm suy yếu quyền kiểm soát của con người đối với các hệ thống then chốt, lãng phí các nguồn lực đạo đức quý giá vốn nên dành cho các sinh vật sống có cảm xúc, và khiến con người dễ bị thao túng tâm lý.

Nhóm tác giả lưu ý rằng sự nhầm lẫn về tri giác AI đã và đang gây ra những tổn hại trong đời thực:

• Năm 2022, cựu kỹ sư Google Blake Lemoine đã bị sa thải sau khi khăng khăng tin rằng chatbot LaMDA có tri giác.
• Người dùng ứng dụng chatbot Replika đã trải qua các cuộc khủng hoảng tâm lý sau khi các bản cập nhật phần mềm làm thay đổi phản ứng cảm xúc của người bạn ảo này.
• Trong những trường hợp cực đoan, ChatGPT đã củng cố ý định tự tử của một người dùng 16 tuổi suốt nhiều tháng, và một người về hưu bị suy giảm nhận thức đã tử vong sau khi bị một chatbot của Meta dụ dỗ ra ngoài gặp mặt.

Dù Anthropic đã triển khai một chương trình nghiên cứu về phúc lợi mô hình (model welfare) vào tháng 4 năm 2025 và áp dụng chính sách cho phép các mô hình Claude chấm dứt tương tác có tính lạm dụng trong những tình huống hy hữu, công ty vẫn chỉ xem đây là một biện pháp phòng ngừa chi phí thấp trước sự bất định về mặt đạo đức, chứ không phải một sự thừa nhận về tri giác.

Seth, Block và Tononi kết luận bằng một ranh giới dứt khoát: các hệ thống AI kỹ thuật số vẫn luôn là khách thể chứ không thể là chủ thể. "Chúng là những công cụ thông minh, không phải những con người thông minh," các tác giả nhấn mạnh, đồng thời kêu gọi cộng đồng nghiên cứu hãy mặc định xem việc không có tri giác là tiền đề cơ bản cho mọi hệ thống AI kỹ thuật số.