AnthropicのAI駆動研究の急増が安全懸念を呼び、同社は開発のスローダウンを訴える

AnthropicのAI研究が劇的に加速

AI安全性グループMETRがAnthropic内部で実施した11週間の調査によると、同社のAIモデルは約2倍の速度で進化していることが明らかになった。ベンチマークデータは「過去1年間で約2年分の歴史的進歩があった」と示している。METRの研究者は、この加速は単に計算リソースの増加によるものではなく、10月の加速の大部分はAI支援作業そのものに起因すると指摘している。

Anthropic社員の生産性向上

非公式のSlack投票と従業員インタビューによれば、Anthropicの最も高性能な社内モデルを使用した研究者は、AI支援がない場合に比べて約12倍の生産性を実感しているという。この数値は、数か月前に使用されていた旧社内システムMythos 5時点の自己報告生産性の約2倍に相当する。

急増を牽引する新たな社内モデル

METRは、Anthropicが短期間で訓練を完了した未公開モデルを3つ特定した：

さらに、2022年の“Unreleased 2022”モデルも言及されている。これらのモデルは依然として非公開であり、その能力が報告された生産性向上の大部分を支えていると考えられている。

大幅な赤字が公開情報を制限

AnthropicはMETRに機密研究、性能データ、従業員インタビューへのアクセスを許可したが、これは当初の予想を上回る範囲であった。しかし、同社は報告書の公開版において証拠の大半を赤字する権利を行使した。METRは、削除された多くのセクションが「ハイレベル」ながらも独立した検証に不可欠であると指摘している。Anthropic共同創業者のSam McCandlishは、商業上の理由から赤字を正当化し、加速要因を公開すれば競合に「ロードマップ」を提供し自社の作業を加速させる恐れがあると主張した。

言葉と実践のパラドックス

この調査結果は、AnthropicがIPOを準備している時期に公表された。一方、CEOのDario Amodeiは公にAIラボに対し開発の「ブレーキ」を踏むよう呼びかけている。批評家は矛盾を指摘しており、同社は安全性を掲げ進捗の減速を訴える一方で、内部プロセスはAI能力の急速な拡大を加速させているように見える。

業界の反応と政策圧力

• Marius Hobbhahn、Apollo ResearchのCEOは、報告書はAI支援R&Dが多くの予測よりも速く進んでおり、安全対策を上回る可能性があると指摘した。

• Alan Chan、GovAIは、結果は懐疑論者に対し完全自律AIの貢献タイムラインを再評価させるべきだと主張した。

• Alex Bores（ニューヨーク州議会議員）は、議会に対し再帰的自己改善（RSI）を「可能であれば今年中に」禁止するよう求め、立法関心の高まりを示した。

展望：透明性と監督が焦点に

METRの報告書は、最先端AIラボに対する透明性の向上と独立した監督の要求を一層強めた。Brianna Rosen（Institute for AI Policy and Strategy）ら研究者は、アクセスが制限されなければ公共の信頼と民主的監督は脆弱なままであると警告している。Anthropicは「今後数週間」でAI進捗に関する独自の報告書を公表し、新たな安全策を示す計画を発表したが、詳細の範囲は不透明である。

結論: Anthropicの社内AI活用は研究ペースを劇的に加速させているが、同社は公に慎重さを訴えている。METRの調査結果の大幅な赤字は、企業の責任、透明性、急速に進展するAI環境における既存安全枠組みの適切性について議論を呼んでいる。