2024年12月16日（月）、九段会館テラスにて、「AIガバナンスの現在地と未来を描くシンポジウム」（スマートガバナンス株式会社主催、日本マイクロソフト株式会社協賛）を開催しました。
当日は、国内外でＡＩ産業をリードされている企業の方をはじめ、官公庁、学術界からも多くの方にご参加いただきました。
以下、本シンポジウムの様子のハイライトをお伝えします。
開催概要
日時：2024年12月16日（月）13:00-16:00
会場：九段会館テラス コンファレンス＆バンケット 3F真珠の間
主催：スマートガバナンス株式会社
協賛：日本マイクロソフト株式会社
後援：一般社団法人AIガバナンス協会、一般社団法人日本ディープラーニング協会、一般社団法人AIデータ活用コンソーシアム
１．オープニングスピーチ
開会に寄せて、スマートガバナンス株式会社（以下、当社）の代表取締役共同創業者である落合孝文がオープニングスピーチを行いました。
当社の設立のきっかけともなったアジャイル・ガバナンスの考え方を紹介しながら、そのフレームワークが、AI事業者ガイドラインに組み込まれ、これからのAIガバナンスの分野で一層重要となっていくことが語られました。
２．キーノートスピーチ
続いて、米マイクロソフト社のコーポレートヴァイスプレジデントであるアントニー・クック（Antony Cook）氏より、「Global Governance for the New AI Economy」と題したキーノートスピーチが行われました。
クック氏は、AIは単なる一技術を超えて、電気のように経済・社会の構造自体を変化させる「汎用技術（GPT: General Purpose Technology）*1」 であると位置付け、その経済・社会的影響とAIガバナンスの特徴、目標について説明されました。
昨今、Microsoftなど多くのプレイヤーは、特にインフラ層のAIに対して多くの資本を投下していますが、AIはインフラ層に限らず、基盤モデル、ツール、アプリケーションなど広範な産業や日常生活に浸透し、それぞれの層ごとに異なる規制やガバナンスのあり方が求められることが説明されました。
*1 なお、ChatGPTなどの生成モデルで言及されるGPTは「Generative Pre-trained Transformer（生成事前学習型トランスフォーマー）」を指すものですが、クック氏は、それを超える汎用技術（General Purpose Technology）としてのAIのインパクトを強調されていました。
AIガバナンスにおける目標として、クック氏は下記の３点を挙げます。
- 広範で包摂的なアクセス：技術が全ての人々に利益をもたらすように設計されることが必要。
- 世界的に重要なリスクガバナンス：安全/セキュリティなどのリスクの実務レベルでの落とし込みが必要。
- 規制の相互運用性：企業の大小、国境を超えて運用できる規制、ガバナンス作りが必要。
最後に、クック氏からは、G7広島AIプロセスの主導や、AIセーフティ・インスティテュートの早期設立、国内でのAIに関する規制やガイドライン提供などの日本の先進的な取り組みに言及した上で、AI分野におけるグローバルリーダーとしての日本の役割に期待する旨が述べられました。
続いて、当社CEOの羽深宏樹より、「フロンティアAIに対するルールのデザイン」と題したキーノートスピーチを行いました。
まず、AI分野のあるべきルールについて下記の３点のポイントを指摘しました。
- リスクの特定：「AIリスク」の内容は多岐にわたる
→ 法律やガイダンス・標準に全てを書き込むことはできない - 既存ルールとの関係：ほとんどの「ハイリスク」は既存法でカバーされている
→ これらを「AI対応版」にアップデートする必要がある - 技術中立性：規制されるべきは「技術」ではなく「結果（リスク）」
→「AIだからこそ生じるリスク」はあるのかを検討すべき
講演では上記も踏まえて、AI関連のEU、アメリカ、日本でのルールの動向について紹介し、いずれの国のルール形成もまだ過渡期である状況を説明しました。
こういった明確なルールが定まらない状況下において、事業者がAIの研究開発や利用を進める上での考え方として、アジャイル・ガバナンスの考え方の有効性を羽深CEOは紹介します。
アジャイル・ガバナンスは、現場レベルのPDCAサイクルを回すことに加え、それを実施する体制や評価基準自体を見直し続ける経営層レベルのPDCAサイクルも二重に回し、ステークホルダーへのアカウンタビリティを果たすというものです。こうした二重のサイクルは、海外におけるガバナンスフレームワークとも共通する仕組みであり、事業者としては、官民・マルチステークホルダーの連携を図りながら、アジャイル・ガバナンスを実施していくことが重要であると羽深CEOは強調しました。
キーノートスピーチの最後として、AIセーフティ・インスティテュート副所長の寺岡秀礼氏より、「AIセーフティ・インスティテュート(AISI)の取り組みと今後の展開について」と題したキーノートスピーチが行われました。
寺岡氏はまず、AIセーフティの基本的なスタンスとして、リスクをゼロにするのではなく、可能な限り軽減しつつAIの利用を推進することが重要であると説明されました。また、AIに伴うリスクとして、技術的リスク（バイアスや誤判定など）や社会的リスク（プライバシー侵害や政治活動への影響など）、さらには企業にとってのレピュテーションリスクや法務リスクを挙げられ、これらのリスクを管理するためのハードローとソフトローのバランスが重要だと述べられました。日本でのAISIの活動はAIを安全かつ安心して利用するための標準的なツールや評価方法を提供し、これらのリスクの管理を目指しているとのことです。
講演の後半では、関連する政府のガイドラインを統合したAI事業者ガイドラインや、AISIが策定したＡＩセーフティに関する評価観点ガイド、ＡＩセーフティに関するレッドチーミング手法ガイドなどの具体的なガイドラインとその基本的なコンセプトについての解説と、現在AISIでなされている研究と取組について簡単に紹介がなされました。（詳しくはAISIの団体HP（https://aisi.go.jp/）参照）
３．パネルディスカッション「AIガバナンスの未来の共創に向けて」
パネリスト
アントニー・クック氏 米マイクロソフト社 コーポレートヴァイスプレジデント
原山優子氏 GPAI東京専門家支援センター センター長
岡田隆太朗氏 一般社団法人日本ディープラーニング協会 専務理事
佐久間弘明氏 一般社団法人AIガバナンス協会 業務執行理事
モデレータ
落合孝文 スマートガバナンス株式会社 代表取締役共同創業者
このパネルディスカッションでは、AIガバナンスの現状と未来について、各界の専門家が多角的な視点から議論を交わしました。
まず、各パネリストが簡単な自己紹介をしたのち、主に①国際的なAI規制の動向、②日本におけるAIガバナンスの現状、③官民連携と今後の課題、という３点について活発な意見が交わされました。
①国際的なAI規制の動向について
議論の冒頭で、原山氏は各国のAI規制の動向について概説しました。どの国でも完全に企業の裁量に委ねるだけでは不十分であり、政府が一定程度介入する必要があるとの認識はコンセンサスとなっているとの指摘がありました。ただし、規制のあり方としては、ハードローで全てを規律するのではなく、一定の柔軟性を持たせ、透明性や報告を重視するという傾向が見られるとのことです。本シンポジウムのように、業界横断的にルールについて情報共有する機会の重要性についても言及されました。プレイヤーとしては、これまでのEU、アメリカのような先進国に加え、インド、シンガポールといったアジア諸国、そしてグローバルサウスの国々も発信力を持っているとのご指摘もありました。
クック氏は、アメリカでは生成AI企業による大統領への自主的コミットメントにおいてガバナンスの議論が加速した一方で、EUではそれより前からAI規制が議論されてきているという背景事情が指摘されました。その上で、AIのみを対象とする強度な規制を行うと、AIのイノベーションが阻害される可能性があることにも言及されました。また、企業による既存の法律の遵守と適切な行動規範の策定と実施が重要であることが強調されました。
②日本におけるAIガバナンスの現状
佐久間氏は、日本におけるAIガバナンスの現状について、諸外国と比して日本では企業が自主的にガイドラインを守ろうとする傾向が強い一方で、リスクを過度に意識することでAIの導入が遅れる懸念を指摘されました。AIガバナンス協会では、アジャイル・ガバナンスの考え方に基づき、チェックリスト方式の硬直的な規制でなく、リスクを許容可能な範囲に抑えつつ、AIの活用を促進するためのAIガバナンスナビといったツール作りを進めていることが紹介されました。
岡田氏は、佐久間氏の言及した日本特有の企業がグレーゾーンを避け、イノベーションが起きにくくなっている状況を改善する必要があると主張されました。そのための取組として、グレーな領域の適法性を具体的に紹介する情報発信を、日本ディープラーニング協会としても政府の検討委員としても心掛けていることが説明されました。
原山氏からは、G7広島AIプロセスに見られるように、AIガバナンスは日本がリーダーシップを持って取り組んできた分野であり、これからはそれをどのように広げるかが重要になるとの指摘がありました。その上で、今後のAIガバナンスにおいて、日本はアジア圏という地理的、言語的特性を活かすこと、安全性をエンジニアリングの段階で埋め込む「セキュリティバイデザイン」のアプローチに注目することが重要になってくるのではないかという示唆がなされました。
クック氏からは、セキュリティバイデザインの考え方は、米マイクロソフト社も大変重要視してきたことが指摘されました。また、規制には地域ごとの特殊性が尊重されるべき一方で、一貫性、横断性も重要であり、日本はその両者をバランスする上で重要な役割を果たしうることが言及されました。
③官民連携と今後の課題
岡田氏は、日本が、アジア特有の少数言語に特化したLLMの開発に取り組んでいくべきではないかと言及されました。また、規制のグレーゾーンについては官民で事例を共有しあってどんどん前向きにチャレンジしていくべきであること、また、日本ディープラーニング協会が提供するG検定などを通した、AIリテラシーに関する人材育成も重要である旨が述べられました。
原山氏は、GPAIにおいてもマルチステークホルダーを重視しているとした上で、ステークホルダーが多い中では、共通言語、倫理をしっかりと言語化していくことが重要であると言及されました。また、日本の今後については、教育分野におけるAIの扱いについてはまだ正解が出ておらず、国民全員で考えていくべきだと言及されました。
佐久間氏は、民間側の立場から企業が今後AIガバナンスに取り組む際のポイントとして、ゴールベースでの思考、アジャイルなアップデート、そしてアジャイルなプロセスへの信頼の３つが大切である点を説明されました。
クック氏は、AIがフロントエンドではシンプルに見えてもバックエンドでは複雑になるという特性を持っており、技術の信頼のためには対話が不可欠であること、また、規制自体に正解がないフロンティアであるからこそ各プレイヤーが納得感を持つためにも本シンポジウムのようなマルチステークホルダーでの対話が重要となることを強調されました。
４．クロージングスピーチ
最後に、当社の羽深宏樹CEOが、クロージングスピーチを行いました。
AIガバンナンスは、政策・技術・産業・国家といった様々な層が重なる極めて複雑な構造をしており、その正解にはまだ誰も辿り着いていないフロンティアであることを強調した上で、当社としてはアジャイルかつマルチステークホルダーなプロセスを重視しつつ、今後も水先案内人として道を作っていきたいという決意が述べられました。
最後に
本シンポジウムでは、AIを巡るルールやガバナンスの現状と課題を多角的に議論しました。各国、各分野の専門家が結集し最先端の議論が行われ、AIガバナンスの「激動」の2024年を締めくくるにふさわしいイベントになったと考えております。当社では、今後も、AIやデータを中核とするイノベーションに伴う予測不能なリスクを適切にマネジメントし、テクノロジーの価値を最大化するための「ガバナンス」の社会実装に貢献して参ります。本シンポジウムに関わって下さった全ての皆様に、心より御礼申し上げます。