【国際】英政府、AI安全研究所発足。米国とシンガポールと安全テストで協働。科学報告書発行も

　英リシ・スナク首相は11月2日、バッキンガムシャーのブレッチリー・パークで開催されているAIの安全性に焦点をあてた世界初のサミット「AI安全サミット」に出席し、AI安全研究所を創設したと発表した。事前の10月26日に構想を伝えていた。

【参考】【イギリス】オンライン安全法成立。AI安全では大手7社がポリシー制定。市場リード狙う（2023年10月31日）
【参考】【国際】英政府、ブレッチリー宣言発表。28ヶ国・地域署名。AI安全性での国際協調（2023年11月2日）

　英政府は、社会リスクの大きい非常に能力の高い汎用AIモデルや特定のAIを「フロンティアAI」と呼称している。英政府は、フロンティアAIのリスク対策として、フロンティアAIタスクフォースを運営していたが、今回AI安全研究所に発展的に衣替えした。イアン・ホガース氏が、引き続き理事長を努める。同タスクフォースの外部アドバイザリーボードも引き続きAI安全研究所の諮問機関となる。

　AI安全研究所は、データサイエンスとAIの国立研究所として、アラン・チューリング研究所と緊密に連携することも検討されている。また、米国のAI安全性研究所と、シンガポール政府との間で、AIの安全性テストについて協力することでも合意している。

　同研究所の研究員はすでに決定しており、研究をサポートするため、欧州最大級のスーパーコンピュータを含む3億ポンド規模のネットワークが提供される。

　AI安全サミットは11月2日に閉幕。2日間の議論では、AI先進国と主要AI企業の代表がフロンティアAIの安全性テスト計画に初めて合意した。同計画では、フロンティアAIモデルの配備前と配備後の双方のテストが含まれ、特に国家安全保障、安全、社会への重大な危害に関するテストにおける政府の役割も検討される。さらに、「AIの生みの親」と言われるヨシュア・ベンジオ氏が「科学の現状」報告書の作成を率いることにも合意した。

【参照ページ】Prime Minister launches new AI Safety Institute
【参照ページ】Prime Minister's speech at the AI Safety Summit: 2 November 2023
【参照ページ】World leaders, top AI companies set out plan for safety testing of frontier as first global AI Safety Summit concludes
【参照ページ】Chair’s Summary of the AI Safety Summit 2023, Bletchley Park

株式会社ニューラル サステナビリティ研究所