Translation result
[デジタルトゥデイのファン・チギュ記者] アントロピックは、ソフトウェアの脆弱性を発見し悪用する能力が非常に高いため、新型AIモデル「クロード・ミトス」を約50の組織に限定的に先行提供した。プロジェクト名はグラスウィングである。
アントロピックによれば、ミトスは主要なすべてのOSやブラウザで数千件の脆弱性を検出し、その中には27年前のOpenBSDのバグや16年前のFFmpegの欠陥も含まれているという。さらに、ミトスはFirefoxで見つけた脆弱性から181件のエクスプロイトコードを生成した。既存の主力モデルが2件しか生成できなかったことと比べれば、驚異的な差だ。
この動きについて、国際的に著名な暗号学者でセキュリティの専門家であるブルース・シュナイアーは自身のウェブサイトに寄せた記事で、「セキュリティ研究者が長年求めてきた責任ある公開に近いが、アントロピックの判断を評価するには情報があまりに不足している」と指摘した。公開されたのは印象的な成功例だが、ミトスがどの程度の頻度で誤るのかが不明だからだ。
シュナイアーは続けて、「アントロピックによれば、外部のセキュリティ専門家（security contractors）がミトスが示した脆弱性の深刻度に89%同意したという。確かに印象的だが不完全だ。類似モデルを調べた独立研究者は、実際のバグをよく捕捉するAIほど、既に修正された正常なコードにも脆弱性があるかのように見せかける誤答を出す傾向があると報告している。ミトスの誤りの頻度が分からなければ、89%という数値だけで評価することはできない」と述べた。
この点は重要だとシュナイアーは強調する。「数百件の脆弱性を精度高く見つけて悪用可能にするモデルはゲームチェンジャーになり得るが、数千件の誤検出を吐き出すモデルでは依然として熟練した人間の介入が必要だ。ミトスの誤りの割合が分からなければ、アントロピックが提示した事例が全体を代表しているのか、それとも成功例だけを選んで見せているのかは判定できない」
ミトスのような大規模言語モデル（LLM）は、学習データに似た入力に対して最もよく機能する。ソフトウェアに置き換えれば、ミトスはインターネット上でソースが公開されているオープンソースプロジェクトや主要ブラウザ、Linuxカーネル、広く使われるウェブフレームワークなどを多く学習している。
初期アクセス権をこうした主要ソフトウェア提供者に集中させたのは、攻撃者より先にパッチを当てられるという観点から合理的だ。しかし、学習で多用されたデータの外側にあるソフトウェア領域に移れば状況は変わる。
シュナイアーは「産業制御システムや医療機器のファームウェア、カスタム金融インフラ、地域銀行のソフト、古い組み込みシステムなどでは、ミトスが脆弱性を発見するのは難しい。この分野に精通した攻撃者であれば、ミトスが提供する高度な推論力を武器に、アントロピックのエンジニアが専門性を持たないシステムを狙う可能性がある。問題はミトスがその分野で失敗することではなく、専門性を持つ攻撃者の手で成功してしまうことである」と述べた。
そのためシュナイアーは、医療機器セキュリティの専門家である心臓病学者や制御システムエンジニア、マイナーなプログラミング言語や生態系の研究者らへのアクセスを拡大すべきだと強調する。「いくら選別しても50社だけでは、研究コミュニティ全体に分散している専門性を代替できない」と彼は指摘する。「アントロピックは民間企業だ。人員、予算、専門性に限りがあるため、どの中核インフラを優先的に防御するかを一方的に決めざるを得ず、見落としが生じるだろう。もし見落としが病院や電力網のソフトウェアに及べば、その代償は何の発言権もなかった人々が負うことになる」
AIモデルによるセキュリティリスクはミトスだけの問題ではない。シュナイアーは「OpenAIもGPT-5.3‑Codexは危険すぎるとして一般公開を控えたし、セキュリティ企業Aisleは、より小規模で安価なオープンソースAIモデルによってアントロピックが提示した事例のかなりの部分を再現した」と述べた。
結局、規制は必要だが、適切な規制を作るには長い時間と議論が必要になる。だからこそ、現時点ではアントロピックのような企業がより広範なコミュニティとより多くの情報を共有する必要があるとシュナイアーは考えている。
彼は「ミトスのような強力なモデルを無差別に公開すべきだと言っているわけではない。だが、集団として情報に基づいた判断ができるよう、可能な限り多くのデータと情報を共有すべきだ。また、独立監査のための国際協力体制、集計された性能指標の義務的な公開、学術界や市民社会の研究者がアクセスできる支援体制の整備も必要だ」と結んだ。
コメント0