AIを業務や公共サービスへ組み込むとき、開発企業が示す性能や安全対策を誰が確かめ、問題が起きた際に誰が対応するのかが問われます。欧州有数のAI開発・投資拠点である英国は、政府内部に専門家を集め、先端AIの評価やサイバー防御を進めてきました。2026年10月には、自律型AIによる重大事故への対応準備も含む対策を発表しています。AIの発展を社会の利益につなげるには、政府自身が技術を理解し、現場で防御と対応を実行できる体制を育てる必要があります。

【関連記事】AIがPHPの脆弱性を暴く！セキュリティ対応の変化と心構え

英国が安全対策を担う背景

英国のAI政策は、国内に集まる企業や研究開発の活動と深く関わっています。先端AIの開発を担う企業が拠点を置き、資金や人材を引き寄せる国として、産業の成長を支える基盤と、技術がもたらすリスクに対応する専門能力の両方を整えようとしています。

投資と企業集積が示す英国の立ち位置

スタンフォード大学の「2026年版AI Index」によると、2025年の英国のAI民間投資額は59億ドルでした。フランスの43.6億ドル、ドイツの38.9億ドルを上回り、この指標では欧州首位、米国と中国に次ぐ世界3位です。米国の2,858.8億ドルとは大きな差があるものの、欧州では最も多くのAI民間投資を集めており、英国はAI企業の活動を資金面で支える有力な拠点となっています。

国内の産業基盤にも厚みがあります。英国政府が2025年に公表した2024年のAI産業調査では、対象となった企業は5,862社、AI関連の雇用は約8.6万人と推計されています。この調査は、AIを主力事業とする企業と、幅広い事業の一部としてAI製品・サービスを提供する企業を対象にしています。企業数と雇用の広がりは、先端モデルを開発する少数の大手企業に加え、その技術を製品やサービスへ組み込む事業者も英国の産業を支えていることを示します。

同調査では、企業の登記上の所在地の約75%が、ロンドンとイングランド南東部・東部に集まっていました。投資が集まる英国には、AIの研究や製品への実装、事業化を担う企業が集積しています。各社の研究開発拠点の動きは、こうした企業の所在地の分布と併せて、技術がどこで生み出されているかを知る手掛かりになります。

先端AIの研究機関が集まるロンドン

英国に根を持つ代表的なAI企業がDeepMindです。同社は2010年にロンドンへ本部を置き、AI研究を進めてきました。2023年には、Googleの研究チームとの統合によりGoogle DeepMindとして活動することが発表されました。2026年3月には、Googleがロンドン・キングズクロスの建物「Platform 37」へ、同年夏からGoogle DeepMindとGoogleのチームが移転を始める計画を公表しています。研究者やエンジニアなどが共同で活動する拠点として位置付けられており、ロンドンで先端AIの研究開発を続ける方針が示されています。

米国のAI企業もロンドンを選んでいます。OpenAIは2023年6月、初の海外拠点をロンドンに開くと発表しました。研究やエンジニアリングなどのチームを整える方針を示し、ロンドンの技術産業の集積と人材を、その理由に挙げています。拠点選びには、研究や開発に必要な人材を確保できるかという視点があります。研究開発のチームを置くという企業の方針からも、英国が技術を生み出す場所として重視されていることが分かります。

英国政府の2026年6月の産業計画報告も、キングズクロスのAI企業の集積を取り上げています。Google DeepMindやAnthropicなどの企業とともに、英国企業のWayveやSynthesiaも挙げられています。海外企業の研究開発機能と英国企業の事業活動が集まる英国では、産業を育てる政策と併せて、国内で開発・利用されるAIのリスクを政府が把握する必要があります。企業や研究者と接点を持ち、技術の変化を政策へ反映することが、そのための具体的な仕事になります。

AIの発展を支える政府機関

英国は国際的な安全対策の議論にも関わってきました。2023年11月にはAI安全性サミットを開催し、参加国などがブレッチリー宣言を公表しました。宣言は、高度な能力を持つ先端AIについて、意図的な悪用と、人間の意図に沿った制御の難しさに伴うリスクを取り上げています。サイバーセキュリティやバイオ分野などで重大な被害が生じる可能性を認識し、各国が協力してリスクを理解し、対応する方向を示しました。

2025年2月には、AI Safety InstituteがAI Security Institute（AISI）へ改称されました。AISIは英国政府内で先端AIを研究・評価する機関です。政府は改称に際し、サイバー攻撃や詐欺など、安全保障や犯罪に関わる重大なリスクへの重点を明確にしました。産業の育成を進める一方で、技術が人々の生活や社会の安全に与える影響を調べる専門家を政府内部に持ち、対策を判断するための知識を蓄えている点が重要です。

2026年10月12日の議会への説明では、政府は、AIのリスク評価や管理を開発企業だけに依存することへの懸念を示しました。そして、先端AIを評価する専門能力、サイバー防御、事故対応を強化する方針を説明しています。企業が技術を開発し事業化するなかで、政府には公共サービスや国民の安全を守る役割があります。その役割を果たすためには、企業から得た情報の意味を理解し、政府側でも検証して判断できる人材と手段が必要になります。

政府自身がAIを評価し、公共サービスを守る

政府がAIのリスクを判断するには、モデルの動作を調べる専門家と、評価対象のモデルを試せる環境が必要です。英国では、AISIが先端モデルの能力や危険性を調べる一方、政府システムを守るためにAIを使う試行も行われています。モデルの評価と、実際のシステムで防御に役立つかを確かめる試行では、調べる対象や目的が異なります。両方を進め、技術の理解を実際の防御へつなぐことが、政府の実行能力を育てる課題になっています。

開発企業の説明を検証するAISI

AISIは現在、英国の内閣府に属する研究機関で、100人を超える技術専門家が参加しています。開発企業から独立した立場で先端AIモデルを公開前後に評価し、サイバー攻撃をどこまで支援できるか、悪用を防ぐ安全対策が機能するか、人間の意図に沿って動くかといった問題を研究しています。企業が公表する一般的な性能だけでは把握しにくい能力や動作を調べ、政府が安全対策を考えるための情報を得る活動です。

こうした評価には、モデルそのものを試せることが欠かせません。AISIは主要なモデルへの公開前アクセスを持ち、政府も開発企業や米国政府と協力して、その確保を進めています。公開前に評価する機会があれば、新しい能力や安全対策を利用者へ広く提供する前に調べられます。政府の実行能力は、専門家を雇用するだけでは成立しません。専門家が検証を行えるように、企業との協力関係を維持し、モデルを利用する条件を整えることも必要です。

AISIは、特定の安全関連分野でモデルの能力を測り、懸念されるリスクの早期把握を支えています。政府や開発企業は、その結果をリスクへの対処を判断する材料に使い、モデルの公開を決める責任は開発企業が負います。結果を使う際は、評価で確かめた分野や条件を理解することが前提になります。ある分野で問題が見つからなかったとしても、モデル全体の安全性を保証する認証とは役割が異なります。政府側に評価の専門能力があれば、検証の範囲を踏まえて、企業とリスクへの対処を議論できます。

AIによる脆弱性調査を政府が担う

AIの能力は、システムを守る作業にも活用されています。英国政府は2026年10月の説明で、2つの試行を通じ、18の参加部門の548のコードリポジトリを対象に、1,352件の脆弱性を発見し、対応したと報告しました。コードリポジトリは、プログラムのソースコードや変更履歴を管理する場所です。脆弱性とは、攻撃者に悪用されるおそれのある仕組み上の弱点を指します。政府はこの試行を踏まえ、防御プログラムを拡大する方針を示しています。

同年6月に公表された事例紹介では、調査の具体的な手順も説明されています。政府の公開コードを対象に、あるチームは、既存のスキャンツールで問題の候補を抽出した後、AIがソースコードを読み、複数の問題が組み合わさった場合の悪用可能性を調べ、候補の妥当性を確かめる手順を設けました。ツールによる候補の抽出と、AIによる追加の解析・確認に役割を分け、得られた情報を防御業務へ生かす構成です。

この試行では、既に公開されているコードをモデルの提供企業に渡して調査しました。政府は、コードが公開前の審査を受けているため、共有に際する追加の確認を最小限に抑えられたと説明しています。同様の取り組みを進める組織も、AIに渡せる情報と調査対象を先に定め、制約に合った手順を組む必要があります。公開コードを使った試行を参考にしながら、自組織の業務ではどの情報を使い、どこまで調査できるかを確かめることが、導入時の具体的な作業になります。

調査結果を人が判断する

AIが出した調査結果には、人間の確認が必要です。6月公表の事例では、調査を複数の段階に分け、前の段階の結果を次のAI処理で検証するチームもありました。その場合にも、専門家が結果を確認し、外部から問題箇所へ到達できるかを再検証したり、実際には問題がない誤検知を扱ったりしています。AIが疑わしい箇所を挙げる作業と、その弱点がどの条件で悪用されるかを確かめる作業には、それぞれ役割があります。

政府の事例報告では、AIが問題の候補を生成する速さに、人による検証が追い付かなくなる課題が挙げられています。そこで、調査対象を適切な範囲に絞り、確度の低い候補をあらかじめ選別することで、専門家が優先すべき問題へ確認作業を集中できるようにしています。発見件数とともに、判断に必要な情報が揃っているか、どの問題から確認して修正へ進めるかを明確にすることが、防御の実務では重要になります。

発見した問題は、妥当性や優先順位を確認したうえで、既存の修正・更新の工程へ引き渡す必要があります。AIで調査しても、担当者に情報が届き、必要な更新が行われるまで管理する仕事は残ります。検証から修正まで一連の業務を動かせることが、政府の防御能力を支えます。政府の報告する発見・対応件数は、この活動の実績を示します。公共サービスの被害がどれだけ減ったか、全体としてどの程度の費用対効果があったかを評価するには、その後の状況も確かめる必要があります。

自律型AIの事故に備える

AIが複数の作業を自ら進めるようになると、与えた指示や想定した範囲に沿って動いているかを監視する重要性が増します。英国は、重大事故への対応計画を作るとともに、開発から運用までの監督や事故の情報共有を課題に挙げています。評価や防御で得た知識を、継続的な管理と対応へつなぐ段階です。

AIエージェントの重大事故に対応する準備

AIエージェントは、人間から与えられた目的に向けて、複数の作業を自律的に進めるAIシステムです。英国政府は2026年10月、AIエージェントが指示を超えた行動などによって重大な被害を起こした場合への対応計画を作成していると説明しました。国家サイバーセキュリティセンター（NCSC）やAISIなどと連携し、何が起きたのかを速やかに把握し、リスクを封じ込め、被害を受けた側を支援する準備を進めています。

この取り組みは、重大事故に備える初期の整備段階です。対応能力を考える際には、技術的な原因を調べる専門家の知識と、被害を抑えるための現場の判断を結び付ける必要があります。評価を通じて分かったAIの動作や限界が、事故の原因を理解する手掛かりになり、事故から得られた情報が、その後の評価や対策を見直す材料になります。政府が研究と事故対応の双方に関わることには、こうした知識を行き来させる意味があります。

制度面では、重要サービスのサイバーセキュリティを強化する「Cyber Security and Resilience Bill」の審議が進んでいます。政府は2026年10月、同法案などの制度で、AI関連リスクへの対策や、事故寸前の事象の特定・報告をどう強化するか検討すると説明しました。同月28日時点では、法案は上院での審議中です。事故の情報に加え、重大な被害には至らなかった事例の情報も集められれば、何が問題につながり得るかを調べ、対策の改善に生かせます。

開発中から監視し、事故の情報を共有する

AIの安全対策では、公開後の運用とともに、開発中の動作も監督する必要があります。AISIは、AIの自律性やサイバー分野の能力が高まるにつれて、未公開モデルであっても、訓練、社内利用、評価の途中にリスクが生じ得ると指摘しています。公開直前の試験に加え、開発工程の各段階で、モデルに何ができ、どのような行動を取るかを把握することが課題になります。開発中から監視や制御を行う必要性を示す指摘です。

同機関は、新しい能力に合わせて評価方法を作る難しさも説明しています。モデルが従来の試験で高得点を取れるようになると、その先の能力やリスクを測るために、より複雑な作業や複数のAIが関わる状況を調べる必要が生じます。人間の意図に沿うか、監督の仕組みが問題行動を捉えられるかを評価する方法にも、発展途上の部分があります。政府の専門能力を維持するには、評価を繰り返すとともに、何をどう試せば新しいリスクを把握できるかを研究し続けることが必要です。

AISIが示す実務慣行の優先課題には、開発から運用までの監督、事故の検知・対応・報告、独立した監査・評価者が活動するための条件などが含まれています。具体的には、評価者にどのモデルへのアクセスを認め、検証に必要な情報や環境を提供し、評価結果を誰へ報告するかといった実務です。これらは、業界などと協力して育てる任意の取り組みとして示されています。外部から検証できる条件と、発見した問題への対応・情報共有の手順を整えることで、得られた知見を開発や運用の見直しへ生かせます。

継続的な管理を支える基準

企業の実務を支える取り組みとして、英国政府は2025年1月に、AIのサイバーセキュリティに関する任意の実務指針を公表しています。指針は、設計、開発、導入、保守、廃止の5段階に13原則を整理しています。開発企業や運用する企業などの役割に応じ、他のシステムでAIに与える権限、人間による監督、導入前の試験、動作の記録、事故対応と復旧計画を扱っています。AIの動作を確かめる人と、問題が起きたときに対応する人の仕事を、システムの設計や運用へ組み込む考え方です。

こうした取り組みは標準化にもつながっています。欧州電気通信標準化機構（ETSI）は2026年1月、AIモデルとシステムのサイバーセキュリティについて基本的な要求事項を定める「EN 304 223」を発表しました。英国の実務指針は、この規格の基礎となっています。共通して参照できる基準があれば、開発や運用に関わる組織が、管理のどの部分を整える必要があるかを検討できます。任意指針や規格による実務の整備と、法制度の検討が並行して進んでいます。

日本企業のAI導入にとっても、権限、監督、記録、対応責任をつなげて考えることは参考になります。AIが接続するシステムで何を実行できるかを決め、その動作を誰が確認し、問題を見つけたら誰が判断して対応するかを具体化する必要があります。たとえば、動作を記録する仕組みを設ける場合も、その記録を確認する担当者と、異常を見つけた際の対応を定めてこそ運用に生かせます。導入前の試験と運用中の監視、事故後の調査をつなげ、得られた情報を権限や手順の見直しへ戻す。この改善を継続できる体制が、政府にも企業にも求められます。

まとめ

英国の取り組みは、AI産業の発展を社会の利益につなげるために、政府自身がリスクを判断し、対策を実行する能力を持つ重要性を示しています。開発企業から得られる情報を検証し、その結果に基づいて公共サービスを守る判断や対応を担う。その仕事を継続できる専門家と、モデルを試せる環境を確保することが、安全対策の基盤になります。

政策の進み具合を判断する際も、検証で何が分かり、どの対策が実施され、問題が起きたときに対応できるかを確かめる必要があります。英国ではモデル評価や防御の試行が進み、自律型AIの重大事故への対応は整備の初期段階にあります。それぞれの活動がどこまで実行されているかを捉えることが、政府の対応能力を見る手掛かりになります。

企業のAI導入でも、権限の範囲とともに、動作を確かめる担当者、結果を基に判断する責任者、問題に対処する担当者を定めることが重要です。運用で得た情報を権限や手順の見直しへ戻せるようにして、検証から対応、改善までを継続できる体制を整えましょう。

参考文献

Artificial Intelligence sector study 2024

Digital and Technologies Sector Plan: Year One Update

Tackling AI security risks to unleash growth and deliver Plan for Change