Max Spero của Pangram: Vì sao phát hiện AI khó hơn “Thật hay Giả”

Tin tức nổi bật

Vào ngày 7 /3/2024, TechCrunch công bố một video phỏng vấn Max Spero, đồng sáng lập công ty khởi nghiệp Pangram, về vấn đề ngày càng nghiêm trọng của việc xác định nội dung do trí tuệ nhân tạo (AI) tạo ra. Spero nhấn mạnh rằng, trong bối cảnh internet đang đối mặt với “khủng hoảng niềm tin”, việc chỉ phân biệt nội dung “thật” hay “giả” không còn đủ; thay vào đó, chúng ta cần những công cụ phát hiện AI tinh vi hơn để ngăn chặn việc AI xâm nhập vào các lĩnh vực như hồ sơ xin việc, đánh giá sản phẩm và thậm chí là yêu cầu bảo hiểm.

Chi tiết phỏng vấn

Trong buổi trò chuyện, Max Spero giải thích rằng AI ngày nay đã vượt qua mức độ “giả mạo” đơn thuần. “Các mô hình ngôn ngữ hiện đại như GPT‑4, Claude và Gemini không chỉ sao chép câu chữ mà còn nắm bắt phong cách, ngữ điệu và thậm chí là cách suy nghĩ của con người,” ông nói. Vì vậy, việc chỉ dựa vào các dấu hiệu bề ngoài để quyết định một văn bản là “thực” hay “giả” đã trở nên lạc hậu.

Spero cho biết Pangram đang phát triển một nền tảng phát hiện AI dựa trên ba trụ cột chính:

1. Phân tích ngữ cảnh – đánh giá toàn bộ chuỗi nội dung, không chỉ các câu rời rạc.
2. Đánh giá ý định – xác định liệu người viết có mục đích lừa dối hay chỉ sử dụng AI để hỗ trợ.
3. Cập nhật mô hình liên tục – hệ thống sẽ tự động học từ các phiên bản mới của mô hình ngôn ngữ để không bị lạc hậu.

Ông chia sẻ một ví dụ thực tế: “Chúng tôi đã phát hiện một loạt hồ sơ xin việc được tạo bằng AI, trong đó các kỹ năng và kinh nghiệm được mô phỏng một cách tinh vi đến mức các bộ phận nhân sự khó có thể phân biệt.” Đối với các nền tảng thương mại điện tử, Spero cho biết đã có “hàng trăm” đánh giá sản phẩm được viết bởi AI, khiến người tiêu dùng gặp khó khăn trong việc tin tưởng vào chất lượng thực tế của sản phẩm.

Về thị trường, Spero nhắc đến “một nhóm các startup” đã xuất hiện trong vòng 12 tháng qua, bao gồm Originality.AI, ZeroGPT và Sapling, những công ty đang cố gắng cung cấp giải pháp phát hiện AI cho các doanh nghiệp. Tuy nhiên, ông cảnh báo rằng “cuộc đua vũ trang giữa các nhà phát triển AI và các công cụ phát hiện đang diễn ra rất nhanh”. Mỗi khi một mô hình mới ra mắt, các công cụ phát hiện lại phải “điều chỉnh lại thuật toán” để duy trì độ chính xác.

Spero cũng đề cập tới một thách thức pháp lý: “Hiện tại, không có khung pháp lý rõ ràng nào quy định việc sử dụng AI trong hồ sơ xin việc hay yêu cầu bảo hiểm. Điều này tạo ra một khoảng trống mà các công cụ phát hiện phải tự mình đưa ra chuẩn mực.” Ông cho biết Pangram đang hợp tác với một số công ty bảo hiểm lớn ở Mỹ để thử nghiệm hệ thống phát hiện AI trong quy trình xử lý yêu cầu bồi thường.

Cuối cùng, Max Spero nhấn mạnh tầm quan trọng của “giá trị niềm tin”. “Nếu người dùng không còn tin tưởng vào nội dung trên mạng, toàn bộ hệ sinh thái số sẽ bị suy giảm. Vì vậy, chúng tôi không chỉ muốn phát hiện AI, mà còn muốn xây dựng một môi trường mà người dùng có thể yên tâm rằng thông tin họ nhận được là chính xác và không bị thao túng.”

Bối cảnh ngành và so sánh

Hiện tượng AI tạo nội dung lan rộng không phải là mới, nhưng tốc độ tiến bộ của các mô hình ngôn ngữ lớn (LLM) trong năm 2023‑2024 đã khiến vấn đề trở nên cấp bách hơn. Các nền tảng xã hội như TikTok, Instagram và Facebook liên tục báo cáo lượng “spam” AI tăng mạnh, trong khi các công ty tuyển dụng và bảo hiểm đang phải đối mặt với các hồ sơ và yêu cầu được “tối ưu” bằng AI.

So với những năm trước, khi các công cụ phát hiện chỉ dựa vào các “dấu vết” như tần suất từ khóa hay cấu trúc câu, hiện nay các giải pháp mới như Pangram, Originality.AI hay ZeroGPT đang chuyển sang phân tích sâu hơn về ngữ cảnh và mục đích sử dụng. Điều này phản ánh một xu hướng “đánh giá nội dung dựa trên hành vi” thay vì chỉ dựa vào hình thức bề ngoài.

Trong khi các ông lớn như OpenAI, Anthropic và Google Gemini liên tục nâng cấp mô hình, các startup phát hiện AI cũng phải “cập nhật nhanh chóng” để không bị lạc hậu. Sự cân bằng giữa việc phát triển AI mạnh mẽ và duy trì niềm tin người dùng đang trở thành một trong những thách thức chiến lược quan trọng nhất của ngành công nghệ hiện nay.