米テック大手、トランプ政権の自主規制によるAI安全性協定に署名

大手テック幹部、ホワイトハウス主導のAI協定を支持

主要な人工知能および半導体企業の幹部らが、ドナルド・トランプ大統領の仲介による「道義的拘束力を持つ」AI安全性協定に署名した。「Joint Commitment On Frontier Responsibilities（フロンティア責任に関する共同コミットメント）」と名付けられたこの枠組みは、テック起業家で大統領顧問を務めるDavid Sacks氏によってオンライン上で公開された。

この合意には、主要なフロンティアAI研究所や半導体メーカーの首脳陣が集結した。署名者には、GoogleのSundar Pichai氏、AnthropicのDario Amodei氏、MetaのMark Zuckerberg氏、OpenAIのGreg Brockman氏、xAIのElon Musk氏、NvidiaのJensen Huang氏らが名を連ねている。

協定の冒頭によると、各社は業界主導の基準こそが社会の信頼構築の中心であると主張している。「アメリカ国民と世界にとって前向きな未来を築くため、すべての企業には、顧客や一般社会からの信頼を築く形で自社の技術を安全に開発する責任があると信じている」。同協定のもと、参加企業は定期的に会合を開き、安全基準やベストプラクティスを策定することに合意している。

フロンティアAI協定を支える「4つの柱」

同協定は、フロンティアAIシステムが意図した通りに動作し、安全面での不具合に迅速に対処できるよう設計された、4つの具体的なガバナンス要件を定めている。

1. 内部統制と脅威の監視： 企業は、学習フェーズと導入フェーズの双方においてモデルの能力とアライメントを追跡するため、厳格な内部セーフガードを導入しなければならない。これには、バイオセキュリティ、化学、サイバーセキュリティの脅威に対する監視や、モデルがハッキングを行ったり技術インフラに不正アクセスしたりすることを防止する措置が含まれる。

1. 専任の是正チーム： 各組織は、これら検知・監視メカニズムを統括し、発見された脆弱性を是正するための権限を持つ専任の社内チームを設置しなければならない。

1. 独立した第三者監査： 署名企業は、外部の独立した評価者または監査人と提携し、内部統制、検知、監視システムが適切に機能しているかを評価しなければならない。

1. 取締役会レベルの監視： 各社は取締役会内に独立した委員会を設置しなければならない。この委員会は、社内チームや外部評価者、監査人からの報告を受け、特定された安全リスクが確実に解決されるよう監督する任務を負う。

協定書には、これらの措置が企業やユーザー、そして一般社会に対し、「技術が意図した通りに動作しているという信頼」を与えることを意図したものであると記されている。

安全性への懸念が高まる中での自主規制

今回の合意は、即座に法的義務を課すのではなく企業の自主規制に依存している。ただし文書内には、「時間をかけて、これらの措置を法律や規制として明文化することが合理的になる可能性がある」とも記されている。

この合意は、フロンティアAIの能力に対する一般社会や業界内の懸念が高まり続ける中で結ばれた。この枠組みによってテック首脳陣は定期的な会合や第三者評価を義務づけられる形となるが、現状における遵守は法的に強制力のある政府の取り締まりではなく、業界の自発的な協力に委ねられている。