Hãy nhớ: AI chatbot không phải là bạn bè của bạn

Cảnh báo từ lãnh đạo Signal

Meredith Whittaker, Tổng giám đốc Signal - ứng dụng nhắn tin nổi tiếng về bảo mật - vừa đưa ra lời cảnh báo rõ ràng trong một cuộc phỏng vấn với Bloomberg: "Các chatbot AI không phải là bạn bè của bạn. Chúng không có ý thức. Chúng không phải là những đối thoại viên có sự sống."

Whittaker thừa nhận cô sử dụng các công cụ AI để định dạng tài liệu thỉnh thoảng, nhưng khẳng định rằng cô "không hỏi chúng những câu hỏi". Bà nói: "Tôi rất nghiêm túc với suy nghĩ và cách viết của mình, không muốn quá trình làm việc với một ý tưởng bị chặn lại hoặc che khuất bởi phản ứng của một hệ thống chỉ lấy giá trị trung bình từ những gì đã có sẵn."

Nguy hiểm từ quyền truy cập quá rộng

Lời cảnh báo của Whittaker trở nên cụ thể khi bà bình luận về dự báo của Mustafa Suleyman (CEO AI tại Microsoft) về việc để Copilot xử lý toàn bộ mua sắm Giáng sinh.

Theo Whittaker, kịch bản này đồng nghĩa với việc cấp cho hệ thống quyền truy cập vào: thẻ tín dụng, trình duyệt, ứng dụng Signal, khả năng gửi tin nhắn thay cho người dùng, địa chỉ nhà, và lịch hẹn.

"Những gì bạn vừa mô tả là một hệ thống có quyền truy cập vô cùng rộng rãi trên nhiều ứng dụng và dịch vụ," Whittaker nhận xét. "Trong bối cảnh Signal, điều này sẽ tạo thành một loại cửa sau."

Câu hỏi an toàn trong thời đại AI

Lời cảnh báo này nhấn mạnh một vấn đề cơ bản: sự mâu thuẫn giữa tiện lợi và an toàn. Trong khi các công ty công nghệ quảng cáo lợi ích của tự động hóa, các chuyên gia bảo mật như Whittaker lo ngại về rủi ro từ việc cấp quyền truy cập quá rộng rãi.

Thông điệp của Whittaker rất đơn giản: hãy cẩn thận với những lời hứa của AI, luôn ghi nhớ rằng chúng chỉ là công cụ, không phải đồng minh đáng tin cậy.