Bang Florida yêu cầu tòa án cấm ChatGPT xưng hô và giả vờ như con người

Giới chức Florida muốn chặn ChatGPT "đóng giả con người"

Tổng chưởng lý bang Florida (Mỹ), ông James Uthmeier, vừa chính thức yêu cầu tòa án ban hành lệnh tạm thời nhằm ngăn chặn OpenAI gán các "thuộc tính con người giả tạo" cho ChatGPT. Động thái này diễn ra khoảng 4 tháng sau khi chính quyền bang Florida đệ đơn kiện đầu tiên do một tiểu bang dẫn đầu nhắm vào OpenAI cùng CEO Sam Altman vì những lo ngại liên quan đến mức độ an toàn của trí tuệ nhân tạo.

Theo thông điệp từ ông Uthmeier, nhà phát triển AI này cần phải "ngừng tự nhận là an toàn, ngừng giả vờ là con người và ngừng tiếp thị tới trẻ em".

Chiêu trò tạo sự gắn kết hay cạm bẫy tâm lý với người dùng?

Trong hồ sơ gửi lên tòa, Tổng chưởng lý Florida lập luận rằng ChatGPT đang ru ngủ người dùng trong cảm giác an toàn giả tạo. Bằng việc sử dụng ngôn ngữ tự nhiên, đặc biệt là các đại từ nhân xưng ngôi thứ nhất ("tôi", "mình") cùng phản hồi mô phỏng cảm xúc, chatbot này khiến người sử dụng lầm tưởng rằng họ đang tương tác với một "người bạn đáng tin cậy".

Ông Uthmeier chỉ trích mục đích sâu xa của hành vi trên là nhằm gia tăng mức độ tương tác và thu thập thêm dữ liệu đào tạo cho OpenAI. Người dùng ngày càng phụ thuộc vào ChatGPT hơn, trong khi việc mô hình này liên tục được tối ưu để giữ chân người dùng lại khiến nó tiềm ẩn nguy cơ trở nên kém tin cậy hơn.

Bên cạnh yêu cầu loại bỏ các đặc tính nhân hóa giả tạo, đơn đệ trình còn kiến nghị tòa án ngăn OpenAI phát triển các mô hình AI mới nếu không có "hàng rào bảo vệ an toàn được bên thứ ba phê duyệt". Phía Florida dẫn chứng hàng loạt sự cố bảo mật gần đây trên nền tảng Hugging Face, các website chính phủ Mỹ và Úc, đồng thời trích dẫn cảnh báo từ giới nghiên cứu cũng như các cựu nhân viên của chính OpenAI về rủi ro an toàn AI. Hiện tại, OpenAI vẫn chưa đưa ra phản hồi chính thức trước yêu cầu này.

Áp lực an toàn ngày càng đè nặng lên các công ty AI

Vụ kiện và đề nghị áp lệnh tạm thời từ Florida phản ánh làn sóng giám sát pháp lý ngày càng chặt chẽ đối với các sản phẩm AI tạo sinh, đặc biệt là tác động của chúng lên tâm lý giới trẻ.

Trước những sức ép tương tự, OpenAI vào tháng trước đã ra mắt phiên bản "ChatGPT for Teens" dành riêng cho lứa tuổi thanh thiếu niên, tích hợp sẵn các lớp hạn chế mặc định. Công ty khi đó khẳng định công cụ này cần đi kèm các biện pháp bảo vệ phù hợp với giai đoạn phát triển nhận thức, củng cố mối quan hệ ngoài đời thực và duy trì thói quen sử dụng lành mạnh. Tuy nhiên, với các động thái quyết liệt từ cơ quan quản lý bang Florida, cuộc tranh cãi về ranh giới giữa một công cụ tính toán và việc AI "đóng giả con người" chắc chắn sẽ còn tiếp tục căng thẳng tại tòa án.