Gigantes da tecnologia assinam pacto de autorregulação em segurança de IA do governo Trump
Líderes de Google, Meta, OpenAI, Anthropic, xAI e Nvidia assinaram o "Joint Commitment On Frontier Responsibilities", comprometendo-se a seguir quatro regras de autorregulação para supervisionar a segurança da IA de fronteira.
Principais executivos de tecnologia apoiam acordo de IA da Casa Branca
Grandes executivos dos setores de inteligência artificial e semicondutores assinaram um pacto de segurança de IA "moralmente vinculativo", intermediado pelo presidente Donald Trump. Batizado de "Joint Commitment On Frontier Responsibilities", o documento foi publicado na internet pelo fundador de tecnologia e conselheiro presidencial David Sacks.
O acordo reúne lideranças dos principais laboratórios de IA de fronteira e fabricantes de chips. Entre os signatários estão Sundar Pichai, da Google, Dario Amodei, da Anthropic, Mark Zuckerberg, da Meta, Greg Brockman, da OpenAI, Elon Musk, da xAI, e Jensen Huang, da Nvidia.
De acordo com o texto de abertura do acordo, as empresas argumentam que padrões liderados pela própria indústria são fundamentais para construir a confiança pública: "Para construir um futuro positivo para o povo americano e o mundo, acreditamos que cada empresa é responsável por desenvolver sua própria tecnologia de forma segura e de uma maneira que construa a confiança de clientes e do público." Sob o pacto, as empresas participantes concordam em se reunir regularmente para estabelecer padrões de segurança e melhores práticas.
Os quatro pilares do acordo de IA de fronteira
O acordo estabelece quatro requisitos específicos de governança projetados para garantir que os sistemas de IA de fronteira funcionem como pretendido e que falhas de segurança sejam resolvidas rapidamente:
- Controles internos e monitoramento de ameaças: As empresas devem implementar salvaguardas internas rigorosas para acompanhar as capacidades e o alinhamento dos modelos tanto na fase de treinamento quanto na de implementação. Isso inclui o monitoramento contra ameaças de biossegurança, químicas e de cibersegurança, além de evitar que os modelos realizem ataques virtuais ou obtenham acesso não autorizado à infraestrutura técnica.
- Equipes dedicadas de remediação: Cada organização deve capacitar uma equipe interna dedicada para supervisionar esses mecanismos de detecção e monitoramento e solucionar quaisquer vulnerabilidades descobertas.
- Auditorias externas independentes: Os signatários devem formar parcerias com avaliadores ou auditores externos e independentes para analisar se os controles internos e os sistemas de detecção e monitoramento estão funcionando de maneira adequada.
- Supervisão a nível de conselho: Cada empresa deve designar um comitê independente em seu conselho de administração. Esse comitê tem a tarefa de receber relatórios de equipes internas, avaliadores externos e auditores, assegurando que quaisquer riscos de segurança identificados sejam resolvidos.
O pacto destaca que essas medidas visam dar às empresas, usuários e ao público em geral "confiança de que a tecnologia está operando como pretendido".
Autorregulação em meio a crescentes preocupações com segurança
O acordo se baseia na autorregulação corporativa em vez de mandatos legais imediatos, embora o documento observe que "[c]om o tempo, pode fazer sentido codificar essas etapas em leis ou regulamentos".
O acordo chega em um momento em que as preocupações públicas e da indústria sobre as capacidades da IA de fronteira continuam a crescer. Embora a estrutura comprometa os líderes de tecnologia com reuniões de rotina e avaliações de terceiros, a conformidade depende atualmente da cooperação voluntária do setor, em vez de uma fiscalização governamental legalmente aplicável.
