業界リーダーがAIの安全性とセキュリティのためにオープン・セキュアAIアライアンスを結成
サマリー
オープン・セキュアAIアライアンスが設立され、AIの安全性とセキュリティを強化するためにオープンソース技術を活用することが強調されています。サイバーセキュリティの分野では、オープンモデルが防御能力を民主化し、透明性を高める重要性が指摘されています。業界のリーダーたちが協力し、信頼できるオープンな防御ツールを提供することを目指しています。
本文
オープンソースソフトウェアは、グローバル経済の重要な柱です。クラウドコンピューティング、金融サービス、製造業、通信、政府、インターネットサービスなどの分野で技術を専門家コミュニティにアクセス可能で観察可能にすることで支えています。サイバーセキュリティはオープンソースソフトウェアの恩恵を受けるトップ3の分野の一つです。オープン・セキュアAIアライアンスは、Linux FoundationのAkritesイニシアティブとOpenSSFコミュニティのリーダーシップを基に、オープン技術を使用して脆弱性を修正し開示することを目指します。
オープンソースがソフトウェアの共通基盤を作り上げたように、米国とそのパートナーはAIセキュリティにおいて選択を迫られています。インフラを保護する防御が不透明なシステムの中に留まるのか、それとも誰でも研究、適応、展開できるオープンモデル、ハーネス、ツールに基づいて構築されるのかという選択です。
世界には閉じたモデルとオープンモデルの両方が必要です。サイバーセキュリティにおいては、オープンモデルとオープンハーネスが不可欠です。これにより防御能力が民主化され、防御者の透明性が高まり、データを保護しながらサイバー防御を可能にし、カスタマイズ可能でローカライズされた制御を持つ閉じたモデルを補完します。オープンソースは、単一の障害点がない、広く分散したコミュニティ主導の自己制御型防御を可能にします。
オープンモデルは強力な技術ですが、悪用される可能性もあります。最近のHugging Faceのセキュリティインシデントは、サイバー防御者が自己防衛のためにオープンで先進的なエージェントシステムを必要とすることを明確に示しました。閉じたAIツールが攻撃者と防御者を区別できず、重要な法医学的分析を妨げたため、Hugging Faceは自社のインフラでオープンウェイトのGLM 5.2モデルを実行し、17,000以上のアクションを分析して侵入を抑制しました。
この出来事は、守る側が自らのインフラで高度なAIを検査、適応、実行できないとき、迅速な対応が求められる瞬間にその能力が制約されるという実際の真実を示しました。企業や国は、重要な産業がマルチベンダーエコシステム全体でセキュリティシステムを構築し、単一障害点を回避できるように、オープンな先進的防御ツールと技術を必要としています。
オープン・セキュアAIアライアンスの使命は、どこにいても防御者が信頼し制御できるオープンな先進的ツールを持つことを確保することです。クラウドコンピューティング、サイバーセキュリティ、エンタープライズソフトウェア、オープンソース財団、AI研究のリーダーたちが、NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux Foundation、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、ServiceNow、Siemens、SK Telecom、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab、TrendAIなどが参加し、AI時代のソフトウェアとエージェントを保護するためのオープン技術、技術、ツールを開発・共有する運動を展開しています。
オープンモデルはサイバー攻撃に悪用される可能性があるため、安全性が低いと主張する人もいますが、そのリスクは閉じたシステムにも存在し、単に重みを閉じておくことで決意した攻撃者が強力なAIを探したり利用したりするのを防ぐことはできません。適切な対応は、防御者が能力のあるオープンシステムにアクセスできないようにすることではなく、オープン性と強力な安全策を組み合わせ、悪意のある悪用に対する明確なルール、厳格な評価、迅速な修正を行うことです。サイバーセキュリティにおいては、より多くの防御者が社会が依存するシステムをテスト、検証、強化できるようにする道が安全な道です。
防御者は、フロンティアの閉じたモデルとオープンモデルの両方を必要としており、これらが連携することで、仕事に適したシステムを選択し、透明性、適応性、主権的な制御が求められる場所で利用できることを確保します。オープンリサーチはサイバーセキュリティとAIの安全性を向上させます。AIエージェントは単なる言語モデルではなく、モデル、ハーネス、ガードレールから構築された複雑なシステムです。
真のAIの安全性とセキュリティは、モデルの重みがオープンかクローズかだけでなく、アイデンティティ、権限、ハーネス、ガードレール、ログ、評価など、エージェントスタック全体に依存しています。オープンハーネスとツールは、多くの防御者がこれらの制御を検査、テスト、改善しやすくします。NVIDIAは、サイバーセキュリティツールと技術の開発を加速するために、オープンモデル、モデルの重み、データ、新しいエージェントハーネス研究をオープン・セキュアAIアライアンスに提供しています。
新しいオープンソースのNVIDIA Labs Object-Oriented Agent (NOOA)プロジェクトは、エージェントハーネスのための高度なAI安全機能をよりアクセスしやすくするためにGitHubで利用可能です。NOOA研究フレームワークは、ハーネスがモデルとより良く統合され、エージェントの行動をテスト、追跡、監査、管理しやすくします。アライアンス全体で、貢献者たちは、アイデンティティと隔離から安全なモデルフォーマット、マルチモデルスキャン、セキュアコーディングワークフローに至るまで、エージェントのためのオープン防御スタックを構築しています。
HPEは、AIエージェントとサービスを暗号的に検証するゼロトラストアイデンティティフレームワーク標準と方法を作成するSPIFFE/SPIREに貢献しています。Hugging Faceは、AIモデルの重みを保存するための安全なフォーマットであるSafetensorsをPyTorch Foundationに提供しました。IBMとRed HatのLightwellは、デジタル署名されたパッチでオープンソースのサプライチェーン全体にセキュリティを拡張します。MicrosoftのMDASHマルチモデルエージェンティックスキャンハーネスは、特化したAIエージェントを調整して、悪用可能なバグを発見、議論、証明します。SpaceXAIは、信頼性、透明性、新しい機能を促進するためにGrok BuildターミナルベースのAIコーディングエージェントをオープンソース化し、開発者と研究コミュニティを支援するためにGrokモデルの重みをオープンソース化する計画を立てています。
政策立案者と規制当局への呼びかけ
政策立案者と規制当局がAIの安全性に取り組む中で、オープンモデル、ハーネス、セキュリティツールをAIとサイバーセキュリティ政策における防御資産として認識することが重要です。オープンフロンティアAIシステムに対する一律の制限は、防御能力を弱体化させ、閉じたプロバイダーに権力、依存、脆弱性を集中させるリスクがあります。企業や政府は、過去の世代がオープンソースソフトウェアに投資したように、AI防御のための共有オープンインフラに投資すべきです。
私たちが築くべき未来
AIエージェントの時代は、レジリエンスと共有セキュリティの時代となる可能性があります。正しい選択をすれば、オープンセキュアAIシステムは防御者に必要なツールを提供し、競争を強化し、技術的リーダーシップを拡大し、この素晴らしい技術の安全性とセキュリティがすべての人のためにオープンに構築されることを保証します。その未来は、秘密が安全であると仮定するだけでは確保されません。十分な強度を持ち、改善が可能で、全コミュニティの防御者を動員できるオープンなシステムを構築することで確保されます。その未来は築く価値があります。オープン・セキュアAIアライアンスは、政府、産業、研究者が共にAI時代を守るための活動に参加することを呼びかけています。
オープンソースがソフトウェアの共通基盤を作り上げたように、米国とそのパートナーはAIセキュリティにおいて選択を迫られています。インフラを保護する防御が不透明なシステムの中に留まるのか、それとも誰でも研究、適応、展開できるオープンモデル、ハーネス、ツールに基づいて構築されるのかという選択です。
世界には閉じたモデルとオープンモデルの両方が必要です。サイバーセキュリティにおいては、オープンモデルとオープンハーネスが不可欠です。これにより防御能力が民主化され、防御者の透明性が高まり、データを保護しながらサイバー防御を可能にし、カスタマイズ可能でローカライズされた制御を持つ閉じたモデルを補完します。オープンソースは、単一の障害点がない、広く分散したコミュニティ主導の自己制御型防御を可能にします。
オープンモデルは強力な技術ですが、悪用される可能性もあります。最近のHugging Faceのセキュリティインシデントは、サイバー防御者が自己防衛のためにオープンで先進的なエージェントシステムを必要とすることを明確に示しました。閉じたAIツールが攻撃者と防御者を区別できず、重要な法医学的分析を妨げたため、Hugging Faceは自社のインフラでオープンウェイトのGLM 5.2モデルを実行し、17,000以上のアクションを分析して侵入を抑制しました。
この出来事は、守る側が自らのインフラで高度なAIを検査、適応、実行できないとき、迅速な対応が求められる瞬間にその能力が制約されるという実際の真実を示しました。企業や国は、重要な産業がマルチベンダーエコシステム全体でセキュリティシステムを構築し、単一障害点を回避できるように、オープンな先進的防御ツールと技術を必要としています。
オープン・セキュアAIアライアンスの使命は、どこにいても防御者が信頼し制御できるオープンな先進的ツールを持つことを確保することです。クラウドコンピューティング、サイバーセキュリティ、エンタープライズソフトウェア、オープンソース財団、AI研究のリーダーたちが、NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux Foundation、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、ServiceNow、Siemens、SK Telecom、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab、TrendAIなどが参加し、AI時代のソフトウェアとエージェントを保護するためのオープン技術、技術、ツールを開発・共有する運動を展開しています。
オープンモデルはサイバー攻撃に悪用される可能性があるため、安全性が低いと主張する人もいますが、そのリスクは閉じたシステムにも存在し、単に重みを閉じておくことで決意した攻撃者が強力なAIを探したり利用したりするのを防ぐことはできません。適切な対応は、防御者が能力のあるオープンシステムにアクセスできないようにすることではなく、オープン性と強力な安全策を組み合わせ、悪意のある悪用に対する明確なルール、厳格な評価、迅速な修正を行うことです。サイバーセキュリティにおいては、より多くの防御者が社会が依存するシステムをテスト、検証、強化できるようにする道が安全な道です。
防御者は、フロンティアの閉じたモデルとオープンモデルの両方を必要としており、これらが連携することで、仕事に適したシステムを選択し、透明性、適応性、主権的な制御が求められる場所で利用できることを確保します。オープンリサーチはサイバーセキュリティとAIの安全性を向上させます。AIエージェントは単なる言語モデルではなく、モデル、ハーネス、ガードレールから構築された複雑なシステムです。
真のAIの安全性とセキュリティは、モデルの重みがオープンかクローズかだけでなく、アイデンティティ、権限、ハーネス、ガードレール、ログ、評価など、エージェントスタック全体に依存しています。オープンハーネスとツールは、多くの防御者がこれらの制御を検査、テスト、改善しやすくします。NVIDIAは、サイバーセキュリティツールと技術の開発を加速するために、オープンモデル、モデルの重み、データ、新しいエージェントハーネス研究をオープン・セキュアAIアライアンスに提供しています。
新しいオープンソースのNVIDIA Labs Object-Oriented Agent (NOOA)プロジェクトは、エージェントハーネスのための高度なAI安全機能をよりアクセスしやすくするためにGitHubで利用可能です。NOOA研究フレームワークは、ハーネスがモデルとより良く統合され、エージェントの行動をテスト、追跡、監査、管理しやすくします。アライアンス全体で、貢献者たちは、アイデンティティと隔離から安全なモデルフォーマット、マルチモデルスキャン、セキュアコーディングワークフローに至るまで、エージェントのためのオープン防御スタックを構築しています。
HPEは、AIエージェントとサービスを暗号的に検証するゼロトラストアイデンティティフレームワーク標準と方法を作成するSPIFFE/SPIREに貢献しています。Hugging Faceは、AIモデルの重みを保存するための安全なフォーマットであるSafetensorsをPyTorch Foundationに提供しました。IBMとRed HatのLightwellは、デジタル署名されたパッチでオープンソースのサプライチェーン全体にセキュリティを拡張します。MicrosoftのMDASHマルチモデルエージェンティックスキャンハーネスは、特化したAIエージェントを調整して、悪用可能なバグを発見、議論、証明します。SpaceXAIは、信頼性、透明性、新しい機能を促進するためにGrok BuildターミナルベースのAIコーディングエージェントをオープンソース化し、開発者と研究コミュニティを支援するためにGrokモデルの重みをオープンソース化する計画を立てています。
政策立案者と規制当局への呼びかけ
政策立案者と規制当局がAIの安全性に取り組む中で、オープンモデル、ハーネス、セキュリティツールをAIとサイバーセキュリティ政策における防御資産として認識することが重要です。オープンフロンティアAIシステムに対する一律の制限は、防御能力を弱体化させ、閉じたプロバイダーに権力、依存、脆弱性を集中させるリスクがあります。企業や政府は、過去の世代がオープンソースソフトウェアに投資したように、AI防御のための共有オープンインフラに投資すべきです。
私たちが築くべき未来
AIエージェントの時代は、レジリエンスと共有セキュリティの時代となる可能性があります。正しい選択をすれば、オープンセキュアAIシステムは防御者に必要なツールを提供し、競争を強化し、技術的リーダーシップを拡大し、この素晴らしい技術の安全性とセキュリティがすべての人のためにオープンに構築されることを保証します。その未来は、秘密が安全であると仮定するだけでは確保されません。十分な強度を持ち、改善が可能で、全コミュニティの防御者を動員できるオープンなシステムを構築することで確保されます。その未来は築く価値があります。オープン・セキュアAIアライアンスは、政府、産業、研究者が共にAI時代を守るための活動に参加することを呼びかけています。
