【アメリカ】連邦政府、AI関連8社を招集し責任あるAIコミットメントを誓約。合計15社に

[caption id="attachment_95371" align="aligncenter" width="1000"] Cyborg woman look at logo AI hanging over phone. Abbreviation AI consists pcb elements.[/caption]

　米ジーナ・ライモンド商務長官とジェフ・ザイアンス首席補佐官は9月12日、AI関連大手8社を招集し、AIに関する自主コミットメント第2弾を発表した。バイデン大統領が7月、7社を招集した会合で第1弾コミットメントを発表しており、それに続くものとなった。

【参考】【アメリカ】政府とマイクロソフト等7社、責任あるAIで共同コミットメント発表。8項目（2023年7月30日）

　今回収集されたのは、Adobe、Cohere、IBM、Nvidia、Palantir、Salesforce、Scale AI、Stabilityの8社。前回は、マイクロソフト、アマゾン、グーグル、メタ・プラットフォームズ、OpenAI、Anthropic、Inflectionの7社が招集されており、これでコミットメント企業は合計15社となった。コミットメントした内容は7月時と同一。

上市前にその安全性を確認する

• 各社は、AIシステムのリリース前に、社内外のセキュリティテストを実施する。テストは、部分的にでも独立した専門家によって実施され、バイオセキュリティやサイバーセキュリティ等の最も重大なAIリスク、及び広範な社会的影響から保護する。
• 各社は、AIのリスク管理について、業界全体及び政府、NGO、学界と情報を共有することにコミットする。これには、安全性に関するベストプラクティス、セーフガードを回避しようとする試みに関する情報、技術協力等が含まれる。

セキュリティ・ファーストのシステム構築

• 各社は、独自開発した発表前のモデル・ウェイト（アルゴリズムでの重み付け）を保護するため、サイバーセキュリティと内部脅威に対するセーフガードに投資することにコミットする。これらのモデル・ウェイトはAIシステムの最も重要な部分であり、各社は、モデル・ウェイトは意図された場合にのみ、またセキュリティリスクを考慮した場合にのみ公開されることが極めて重要であることに同意する。
• 各社は、AIシステムの脆弱性を第三者が発見し、報告することを促進することにコミットする。問題の中には、AIシステムがリリースされた後でも残るものがあり、強固な報告メカニズムがあれば、それらを迅速に発見し、修正することができる。

世間の信頼の獲得

• 各社は、電子透かしシステム等、コンテンツがAIによって生成されたものであることをユーザーに確実に伝えるための強固な技術的メカニズムを開発することにコミットする。この行動により、AIを使った創造性が開花するだけでなく、詐欺や欺瞞の危険性を低減できる。
• 各社は、自社のAIシステムの能力、限界、適切な使用領域と不適切な使用領域を公に報告することにコミットする。報告では、セキュリティリスクと、公正さやバイアスへの影響を含めた社会的リスクの双方をカバーする。
• 各社は、有害な偏見や差別の回避、プライバシーの保護等、AIシステムがもたらしうる社会的リスクに関する研究を優先することにコミットする。AIのトラックレコードは、これらの危険の狡猾さと蔓延を示しており、両社はこれらを軽減するAIを展開することにコミットする。
• 各社は、社会が直面する最大の課題に対処するための高度なAIシステムを開発し、展開することにコミットする。がん予防から気候変動緩和まで、AIは適切に管理されれば、すべての人の繁栄、平等、安全保障に大きく貢献することができる。

　米連邦政府は今回、同コミットメントの策定で、オーストラリア、ブラジル、カナダ、チリ、フランス、ドイツ、インド、イスラエル、イタリア、日本、ケニア、メキシコ、オランダ、ニュージーランド、ナイジェリア、フィリピン、シンガポール、韓国、アラブ首長国連邦（UAE）、英国と協議したことも表明。国際ルールとして形成されていることを強調した。

　米国ではAI規制法案の策定も検討されており、シューマー連邦上院民主党院内総務ら米連邦議会の超党派議員が9月13日、グーグル、メタ・プラットフォームズ、マイクロソフト、OpenAIの各CEOと、ビル・ゲイツ氏、イーロン・マスク氏の他、AI倫理の専門家ら約20人を招集。ヒアリングを行った。参加者全員がAI規制の必要性に賛同したという。特に偽情報の蔓延について規制の必要性が叫ばれた模様。

【参照ページ】FACT SHEET: Biden-⁠Harris Administration Secures Voluntary Commitments from Eight Additional Artificial Intelligence Companies to Manage the Risks Posed by AI

株式会社ニューラル サステナビリティ研究所