アメリカがAnthropicのFable 5のリリースを禁止したが、数字は無関心のようだ
サマリー
アメリカ政府がAnthropicのFable 5のリリースを禁止しましたが、サイバーセキュリティの専門家たちはこの決定を危険視しています。Anthropicは他のモデルにも同様の問題があると認めています。市場の反応は冷淡なようです。
本文
先週末、アメリカ政府はAnthropicに対し、Fable 5とMythos 5の2つの最新モデルを国家安全保障上の懸念から引き下げるよう強制しました。これは、Amazonの研究者がFable 5のガードレールを回避する方法を見つけたとされることに起因しています。その後、サイバーセキュリティ研究者たちはこの動きを危険だとする公開書簡に署名しました。また、Anthropic自身も他のモデルにも同様の脱獄手法が存在することを指摘しています。
