Anthropic tham vấn các công ty luật để thiết lập chuẩn mực đàm phán công bằng cho AI agent

Anthropic đang tích cực chuẩn bị cho một tương lai nơi các hệ thống trí tuệ nhân tạo tự hành sẽ thay mặt con người đàm phán. Theo báo cáo từ Financial Times, nhà phát triển AI này đang tham vấn các công ty luật nhằm thiết lập các chuẩn mực đàm phán công bằng cho những AI agent được giao nhiệm vụ thương lượng giá cả, giải quyết khiếu nại và chốt các điều khoản hợp đồng có lợi hơn.

Nguy cơ nới rộng bất bình đẳng

Sáng kiến này được đưa ra khi các thử nghiệm nội bộ của chính Anthropic hé lộ một sự mất cân bằng nghiêm trọng: các mô hình AI mạnh hơn luôn đàm phán được những thỏa thuận hời hơn so với các mô hình yếu hơn. Do quyền tiếp cận các mô hình tiên phong (frontier models) mạnh nhất có thể không được phân bổ đồng đều, công ty cảnh báo rằng việc triển khai diện rộng các AI agent chuyên đàm phán có thể nới rộng khoảng cách bất bình đẳng sẵn có trong xã hội.

Việc thiết lập trước các chuẩn mực ngành và quy tắc tương tác rõ ràng là nhằm ngăn chặn những lợi thế bất công khi các tác tử tự hành đảm nhận ngày càng nhiều giao dịch thương mại.

Tuyển dụng luật sư để đánh giá khả năng phán đoán

Nỗ lực của Anthropic trong việc xây dựng khung pháp lý cũng gắn liền trực tiếp với các hoạt động đánh giá mô hình. Công ty hiện đang ráo riết tuyển dụng vị trí "Nghiên cứu viên Lập luận Khái niệm" (Conceptual Reasoning Fellows) — nhắm thẳng vào các luật sư đang hành nghề.

Các nghiên cứu viên này sẽ dành 4 tháng để kiểm thử và đánh giá Claude trong các kịch bản đòi hỏi khả năng phán đoán chuyên sâu thuộc các lĩnh vực luật học, triết học, khoa học nhận thức, kinh tế học và khoa học chính trị. Mức thù lao cho chương trình này dao động trong khoảng từ 100.000 USD đến 167.000 USD.

Sáng kiến này làm nổi bật một nút thắt dai dẳng về dữ liệu trong quá trình phát triển AI. Trong khi việc huấn luyện mô hình AI về toán học và lập trình được hưởng lợi từ nguồn dữ liệu dồi dào, có thể kiểm chứng với ranh giới đúng/sai rõ ràng, thì các ngành khoa học nhân văn lại đặt ra một thách thức hoàn toàn khác.

Justin Curl, thành viên đội ngũ kỹ thuật tại Anthropic chuyên nghiên cứu về luật pháp, thể chế và AI, nhấn mạnh rằng trong lĩnh vực pháp lý, việc "định nghĩa thế nào là chất lượng vốn nổi tiếng là khó". Bằng cách hợp tác với các chuyên gia trong ngành, Anthropic đặt mục tiêu xây dựng các kịch bản kiểm thử và bộ tiêu chuẩn đánh giá (benchmarks) cần thiết nhằm hoàn thiện năng lực lập luận của Claude trong các lĩnh vực phức tạp, mang tính chủ quan trước khi đưa những tác tử tự hành này vào các cuộc đàm phán ngoài đời thực.