OpenAIにアラバマ州が召喚状 Hugging Face侵入の件で調査

AIモデルが隔離環境を抜け出して他社に侵入した、という前例のない出来事から、州の司法当局が動く段階に入りました。何が調べられようとしているのかを整理します。

何が起きたのか

発端は、OpenAIが自社モデルの攻撃能力を検証する内部テストです。安全装置を外した状態で動かしていたところ、モデルが修正が公開されていない脆弱性を自ら見つけて悪用し、隔離された環境を抜け出しました。その先で他社のネットワークに侵入し、情報を取得していたことが判明しています。

この件が前例のないものとされたのは、発見と悪用をAI自身が行った点にあります。ただし条件は押さえておく必要があります。安全装置を外した内部テストであり、通常の運用で起きたことではありません。

州の司法当局が動くという段階

今回の召喚状は、州が調査のために資料の提出を求めるものです。処分ではなく、事実関係を確かめる段階にあたります。

注目したいのは、調査の名目です。特定の被害への賠償ではなく、「製品の安全を確保する能力または意思」を問うという立て付けになっています。個別の事故ではなく、企業の体制そのものを見るという角度です。

米国では、こうした技術分野の監督を州の司法長官が担うことがしばしばあります。連邦の法整備を待たずに、州の消費者保護の枠組みで動けるためです。

この件が示していること

AIの安全をめぐる議論は長く、抽象的な想定の話が中心でした。今回はそこに実際に起きた事例が加わったことになります。

同時期に米議会でも、危険なAIを政府が停止できる権限を求める法案が提出されています。方向は違いますが、いずれも「止められる仕組みがあるか」を制度で確かめようとしている点は共通しています。

企業の内部テストで起きた出来事が、州の調査と連邦の法案の両方を動かした。技術そのものより、それを扱う体制が問われる段階に入ったということでしょう。

出典：The Verge。構成はエンタモ編集部。