” />カナダのブリティッシュコロンビア州で発生した大規模な銃乱射事件に関連し、オープンAIは自社のシステムの欠陥を認め、安全および通報体制を全面的に強化すると約束した。
アン・オリアリーオープンAIグローバル政策担当副社長は26日（現地時間） AI担当大臣エヴァン・ソロモンに宛てた書簡で、殺人事件への対応として即時の措置を講じていると説明した。
オープンAIは事件発生直後の11日、ブリティッシュコロンビア州政府関係者と対面会議を行った。銃乱射事件のためではなく、カナダ支社設立案を議論するために数週間前から予定されていたビジネスミーティングだった。
しかし、オープンAIはこの場で前日（10日）に発生した事件の容疑者のアカウントを昨年6月にすでにブロックしていた事実に言及しなかった。そして12日に州政府に連絡し、RCMP（カナダ王立騎馬警察）の担当者の連絡先を教えてほしいと要請した。
この事実は21日、オープンAIの一部社員が昨年6月に容疑者を警察に通報すべきだと主張したが、経営陣がこれを無視したというウォールストリート・ジャーナルの報道で明らかになった。このためカナダ政府は激怒した。
オリアリー副社長は書簡で州政府関係者と会った際、「内部データと容疑者の身元を完全に照合する確認手続きが進行中だった」と釈明した。
また、カナダ王立警察がジェシー・ヴァン・ルートセラーの名前を発表した後に初めて二つ目のアカウントを発見したと述べた。
容疑者は「チャットGPT」アカウントがブロックされた後、システムを回避して新しいアカウントを作成したが、これを阻止できなかったという。そして二つ目のアカウントは発見次第、捜査当局に提供したと伝えた。
続けて法執行機関への依頼プロトコルを強化したとし、「2025年6月にブロックされたアカウントが今日発見されたなら、すぐに法執行機関に依頼したはずだ」と述べた。
問題の事件はブリティッシュコロンビア州タンブラーリッジで発生し、18歳のルートセラーが銃撃を行い、自身を含む9人が死亡した。容疑者は現場で自ら命を絶ったと推定されている。
オープンAIは2025年6月に暴力の可能性などの悪用を検知するシステムを通じて、ヴァン・ルートセラー名義のチャットGPTアカウントを摘発しブロックした。オリアリー副社長は「問い合わせには銃器改造に関する技術的な要求や公共の場の物理的なセキュリティの脆弱性に関する具体的な質問が含まれていた」と述べた。
しかし当時は「信頼できるまたは差し迫った脅威」とは判断されず、法執行機関への通報基準に達しないと結論づけた。
オープンAIは今後、▲法執行機関への通報基準をより広範に適用し、▲カナダの捜査当局との直通連絡窓口を新設し、▲危機的状況にある利用者を関連支援機関に案内する手続きを整備すると発表した。また、安全装置を回避しようとする試みを阻止するために検知システムも強化する方針だ。
サム・アルトマンCEOはソロモン大臣とデイビッド・エビ・ブリティッシュコロンビア州首相（Premier）に直接会う意向を伝えたとされる。しかしエビ首相は「明白な情報伝達の失敗」とし、「このような重大な事案を企業が自ら定めた通報基準に任せておくことはできない」と批判した。
また、医師や社会福祉士に適用される「注意義務（duty of care）」のように、AI企業にも全国単位の明確な通報基準が必要だと主張した。「暴力攻撃を計画しても警察に知らせない会社というイメージを与えるAI企業がカナダで活動することは許されない」と述べた。
しかし、容疑者がチャットGPTとどのような会話を交わしたのか、実際に犯行計画に助けられたかどうかはまだ確認されていないと明らかにした。内容は今後、検視官の調査や公的調査の過程を通じて公開される見込みだ。
ソロモン大臣は「オープンAIの書簡を詳細に検討中であり、数日内に追加の見解を明らかにする」と伝えた。
パク・チャン記者 cpark@aitimes.com
コメント 多くのニュース