Anthropic consulta a firmas de abogados para establecer normas de negociación justas para agentes de IA
Anthropic colabora con expertos legales para crear pautas justas para agentes de IA que negocian acuerdos, advirtiendo que los modelos más avanzados podrían profundizar la desigualdad social.
Anthropic se está preparando activamente para un futuro en el que los sistemas autónomos de inteligencia artificial negocien en nombre de los seres humanos. Según un informe del Financial Times, el desarrollador de IA está consultando a firmas de abogados para establecer normas de negociación justas para agentes de IA encargados de regatear precios, resolver quejas y conseguir mejores condiciones contractuales.
El riesgo de ampliar la desigualdad
La iniciativa surge después de que los propios experimentos de Anthropic revelaran un desequilibrio crítico: los modelos de IA más avanzados obtienen sistemáticamente mejores acuerdos que los menos capaces. Dado que el acceso a los modelos de frontera más potentes podría no distribuirse de manera equitativa, la compañía advierte que la implementación generalizada de agentes negociadores podría agravar las desigualdades sociales existentes.
El establecimiento anticipado de normas industriales claras y reglas de interacción tiene como objetivo evitar ventajas injustas a medida que los agentes autónomos asuman un mayor número de transacciones comerciales.
Contratación de abogados para evaluar el criterio
La incursión de Anthropic en los marcos legales también se conecta de forma directa con sus esfuerzos de evaluación de modelos. La empresa está reclutando activamente "Conceptual Reasoning Fellows", con un enfoque orientado específicamente a abogados en ejercicio.
Estos especialistas pasarán cuatro meses probando y evaluando a Claude en escenarios de alto juicio crítico en disciplinas como derecho, filosofía, ciencias cognitivas, economía y ciencias políticas. El programa ofrece una compensación que oscila entre los $100,000 y los $167,000 dólares.
La iniciativa resalta un persistente cuello de botella en los datos dentro del desarrollo de la IA. Mientras que el entrenamiento de modelos en matemáticas y programación se beneficia de datos abundantes y verificables con respuestas correctas o incorrectas bien definidas, las humanidades plantean un reto totalmente diferente.
Justin Curl, miembro del equipo técnico de Anthropic que investiga derecho, instituciones e IA, señaló que en el ámbito legal es "notoriamente difícil definir la calidad". Al trabajar con expertos del sector, Anthropic busca construir los casos de prueba y benchmarks necesarios para fundamentar el razonamiento de Claude en campos complejos y subjetivos antes de que los agentes autónomos sean lanzados a negociaciones en el mundo real.
