AI注目記事のキュレーターページ

簡単な質問です：AIが夫（または妻）に配偶者を完璧に殺す計画を手助けするほどに訓練されることを望みますか？私の直感では、それは「ノー」です。この質問は特に難しいとは思えません。しかし、アメリカには多様な視点があり、その一つをComma AIの創設者であり長年のハッカーであるジョージ・ホッツが週末に共有しました。この投稿は、AI Futures ProjectのAI 2040: Plan A政策文書に対する反応として発表されました。この文書は、世界の研究者たちが人類のためにAIの開発を14年間遅らせることを選ぶ未来を描いています。しかし、もちろん、この文書を読んだすべての人がその前提や結論に同意するわけではありません。実際、ホッツはAIの進歩を集団の利益のために管理すべきだという前提に反対しています。彼は、AIが急速に超人的な能力を得るという仮説的な「ファストテイクオフシナリオ」はあまり意味がないと主張しています。ホッツにとって、AIの整合性と安全性に関する最良のアプローチは、ユーザーの利益に密接に関連したローカルに制御されたAIモデルに焦点を当てることです。これは特に興味深いアイデアで、現在のAIがClaudeやChatGPTのような中央管理型サービスに基づいていることを思い出させます。これらの大規模な最先端モデルをホストするのは高価であり、ほとんどの人が日常的にそれらを使用していないため、真に個人的なAIを正当化するのは難しいのです。しかし、技術が進化するにつれて、これらの要因は重要性が薄れていきます。OpenClawの興奮の一部は、この実験的でDIY的なアプローチにあり、もっと多くのAI製品がそれを再現することを期待しています。しかし、ホッツは本質的に挑発者であり、彼はそこで止まりません。彼はユーザーに合わせたAIを銃に例え、ステップマザーを殺すために使っても文句を言わないと述べています。彼は、真に整合したAIは、あなたが望むならAmazon Primeからメスラボの機器を注文し、その使い方を教えてくれるだろうと言います。ホッツはこの原則を守るために死ぬ覚悟があるとも言っていますが、そのような事態に至る一連の出来事を想像するのは難しいです。「私たちは自由のある世界に住むか、そうでないかのどちらかです」とホッツは書いています。もしそれが選択肢なら、自由のある世界は確かに魅力的です。しかし、すべてが自由だけではありませんよね？多くの人々が関与する構造（社会、市場、企業など）は、個々のニーズを相互依存する好みや責任のネットワークに結びつける必要があります。そして、大衆市場向けの技術製品を展開する人は、そのネットワーク全体を考慮するべきであり、これはまだ殺されていない配偶者や継親の利益を真剣に考えることを意味します。ホッツが経験する自由は、集団的な企業によって可能にされた未来の空間であり、私たちが皆、小さなAI駆動のナポレオンのように振る舞い始めたら、その未来は一夜にして消えてしまうでしょう。ミームが言うように、私たちは社会に生きています。私の利益のために企業世界と戦う意欲のあるローカルAIを持つことは確かに魅力的ですが！レビュー用のユニットが待ち遠しいです。