roobrief

AI

Google・OpenAI・Anthropic、AI安全ルールを自前で策定か ― 開発者への影響

AIモデルの安全性が検討されており、法律ができる前に、AI企業の利用規約が先に変わり、開発者に適用される可能性がある。

Google、OpenAI、Anthropic の3社が、AIの安全ルールを自ら決める団体の設立を準備していると報じられた。団体名は SAFA（Standards Authority for Frontier AI、最先端AI標準機関）。新しいAIを公開する前にどんなテストに合格すべきか、事故が起きたときどう報告するか、誰が監査するかといった基準を決める組織だ。

この情報は The Information が匿名の関係者を引用して伝えたもので、3社が正式に発表したわけではない。発足時期は2026年末から2027年初めとされている。

なぜ企業自身が動くのか

米国には、最先端AIを直接規制する連邦法がまだない。報道によると、3社はもともと政府による監督を望んでいたが、関連する大統領令の草案が政権内で十分な支持を得られず、民間主体の方式に向かうことになった。

SAFAは、米国の証券会社が自主的に作った監視団体 FINRA をモデルにしているとされる。ルール違反をどう処罰するか、モデルのテストを自ら行うのか外部機関に任せるのかは、まだ決まっていない。

政府と議会の現状

  • 大統領令（6月2日）: 大統領が議会を通さずに出せる指示。今回のものは任意参加で、企業はモデルの公開前に最大30日間、政府に早期アクセスを認めるよう求められている。許可を得なければ公開できないという内容ではない。
  • 下院 FRONTIER Act（7月23日）: 大規模なAI開発企業に毎年の外部監査を受けさせ、社内の問題を通報した従業員を保護する内容の法案。
  • 上院: Maria Cantwell 氏が10月7日に発表したのは法案ではなく原則の提案。独立した監査に合格するまでモデルを公開しないようにする、という内容だ。

開発者に起こりうる変化

現時点で開発者に新しい義務はない。SAFAはまだ存在せず、大統領令は任意で、法案も成立していない。ただし、ルールが固まれば、AI企業のAPI利用規約や公開プロセスを通じて開発者に届く可能性が高い。以下は報道をもとにした筆者の推測だ。

  • 利用規約が変わる可能性: 事故報告や外部監査が求められるようになれば、AI企業はAPI利用条件を見直す可能性が高い。AIがユーザーの代わりにコンピューターを操作する「エージェント」機能が、最初の対象になるかもしれない。
  • 新モデルの公開が遅れる可能性: 政府の早期レビューに参加すれば、公開前に確認の段階がひとつ増える。
  • 安全性の評価結果が比較しやすくなる可能性: テストが標準化されれば、モデルごとに異なっていた評価資料を同じ基準で読み比べられる。
  • 小規模チームに不利になる可能性: 大手が監査基準を決めると、それを満たすコストが小規模チームやオープンソースにより重くなるという批判がある。下院の討議草案には、州ごとのAI法を3年間新たに作れなくする条項も含まれている。

特定のモデルに大きく依存しているなら、AI呼び出しをコード内の一か所にまとめ、自前のテストセットを用意しておけば、後から提供元を乗り換えやすくなる。

今後の注目点

SAFAの正式発表と基準案、州AI法を凍結する条項が最終的な法案に残るか、AI企業の利用規約の改定。

出典

出典: thenextweb.com

← 戻る