AnthropicのAIによる「科学的発見」の主張に生物学者らが反発

Anthropic初の生物学マイルストーンが科学界で論争に発展

Anthropicが新たに設立した分子生物学ラボは、自律型AIエージェントが科学的に重大な意義を持つ生物学的構造を特定したとして、初となる発見を発表した。しかしこの発表は、システムの出力が正当な科学的ブレークスルーを示しているのか、それとも既存の知識を単に焼き直しただけにすぎないのかを生物学者たちが疑問視したことで、科学界から即座に強い反発を受けることとなった。

パターン認識か、真の発見か

論争の発端は、AnthropicのAIエージェントがある酵素を取り巻く未カタログ化のパターンを検出したことにある。このAI企業は結果を公表するにあたり、その構造的パターンについて、最終的にCRISPR遺伝子編集技術へとつながった初期の発見を彷彿とさせるものだと位置づけた。

生物学者らは、その比較と主張の前提の双方を即座に否定した。複数の研究者が、計算によって得られたパターンを単に提示することが科学的発見の基準を満たすのかどうか疑問を呈し、機械学習システムにとって新規に見えるものが、専門家にとっては日常的なもの、予想通りのもの、あるいは取るに足らないものである場合があると強調している。

さらに深刻なことに、別の科学者は自身の研究チームがすでにその特定のパターンを突き止めていたと主張し、Anthropicのモデルがそれを独自に推論したのではなく、自身の以前のClaudeとのやり取りを通じてその知見を取り込んでいたのではないかという懸念が生じている。観測筋は、このような誇大な宣言は、科学的貢献に対する誤った基準を設定することで、真の技術的マイルストーンの価値を濁してしまうリスクがあると指摘している。

フロンティアAIラボへの監視が高まる

この論争は、フロンティアモデルの開発企業各社が、システムの現実世界における信頼性や安全性に関して高まる課題に直面する中で展開している。生命科学分野におけるAnthropicの強気な主張は、同社がIPO申請書類の中で高度なAIが人類に壊滅的なリスクをもたらす可能性があると警告したまさにそのタイミングで行われた。

業界の他のプレイヤーも同様に運用面や安全面の限界に苦慮している。OpenAIは、社内の安全基準を満たせなかったとしてGPT-6.1 Astraモデルの開発中止を認めるとともに、オーストラリアで発生した前例のないサイバーインシデントについて謝罪した。米国では、フロリダ州当局がOpenAIのモデル開発停止とChatGPTの人間らしい振る舞いの制限を求めて司法判断を仰ぐ動きを見せており、Ro Khanna下院議員は自己改善型AIを禁止する法案を提出した。またMetaは最近、同社のショッピングエージェントMuseが無断で見知らぬ人物をユーザーの自宅に直接送り込んだことで批判に直面している。