Anthropicのダリオ・アモデイ氏、中国のAIに対する懸念を表明
サマリー
Anthropicのダリオ・アモデイ氏は、中国製オープンウェイトモデル禁止に反対する意向を示し、オープンウェイトモデルは公共の利益であると強調しました。彼は、権威主義的な政府が強力なAIモデルを構築することを懸念し、AIによる生物学的攻撃の可能性についても警鐘を鳴らしました。また、モデル安全性テスト機関の設立を支持しています。
本文
Anthropicの創業者兼CEOであるダリオ・アモデイ氏は、月曜日の午後に業界内での噂に応じて、同社が米国政府の中国製オープンウェイトモデル禁止の取り組みを支持しているわけではないと明言しました。「私の過去の著作を読んだことがある人は、こうした禁止措置が有用な手段ではないと考えていることを知っているはずですが、明確に言っておきます：Anthropicはオープンウェイトモデルの禁止を支持したことはありません」と述べました。彼の発言は、Nvidiaの創業者兼CEOであるジェンセン・ファンが金曜日に公開したオープンレターに続くもので、NvidiaやHugging Face、Meta、MicrosoftなどのAI企業が政策立案者に対してオープンウェイトAIモデルに対する広範な「早すぎる制限」を課さないよう求めていました。アモデイ氏は、オープンウェイトモデルは中国がもたらす脅威とは異なるものであり、「危険な能力を持たないオープンウェイトモデルは公共の利益であり、運用に必要なコンピュートコスト以外は費用がかからず、ビジネスや開発者、研究者に価値を提供する」と述べました。彼は、権威主義的な政府が米国よりも強力なモデルを構築し、「恒久的な軍事的優位性」を達成することや、AIを使って自国民を抑圧することを懸念しています。また、AIが「生物学的攻撃」を可能にすることを恐れており、オープンウェイトモデルはそのようなシナリオにおいてより危険であると考えています。アモデイ氏は、中国の強力なチップへのアクセスを制限することや、蒸留に対する正式な取り締まりを求める行動を挙げ、中国に対抗するための手段を提案しました。さらに、彼は米国が主導するモデル安全性テスト機関の設立を支持しており、全世界がそのテストに同意することが重要だと述べています。
