AnthropicのCEOであるDario Amodeiは、中国のAI会社である競合他社のDeepseekを心配しています それはシリコンバレーを席巻しました と そのR1モデル。そして、彼の懸念は、deepseekがユーザーデータを中国に送り返すことについて提起された典型的な懸念よりも深刻なものになる可能性があります。
で インタビュー Jordan SchneiderのChinatalk Podcastで、Amodeiは、Deepseekが人類が実行する安全テストで生物頂点に関するまれな情報を生成したと述べました。
Deepseekのパフォーマンスは、「基本的にテストしたモデルの最悪」でした。 「この情報を生成することに対して、まったくブロックがありませんでした。」
Amodeiは、これは評価の一部であり、人類の潜在的な国家安全保障上のリスクを評価するために、さまざまなAIモデルで日常的に実行されると述べました。彼のチームは、モデルがGoogleや教科書では簡単には見られない生物兵器関連の情報を生成できるかどうかを検討します。人類は、AIの基礎モデルプロバイダーとして位置付けられています それは安全を真剣に受け止めています。
Amodeiは、今日のDeepseekのモデルは、まれで危険な情報を提供する上で「文字通り危険」だとは思わないが、近い将来にあるかもしれないと述べた。彼はディープシェクのチームを「才能のあるエンジニア」として称賛しましたが、彼は会社に「これらのAIの安全上の考慮事項を真剣に受け止めるように」とアドバイスしました。
Amodeiもあります 強力な輸出制御をサポートしました 中国へのチップでは、中国の軍隊に優位性を与えることができるという懸念を引用しています。
Amodeiは、Deepseekモデルの人類がテストしたChinatalkインタビューで明確にしませんでした。また、これらのテストについてより多くの技術的な詳細を提供しませんでした。人類は、TechCrunchからのコメントのリクエストにすぐに返信しませんでした。 Deepseekもしませんでした。
Deepseekの上昇は、他の場所での安全性についても懸念を引き起こしました。たとえば、シスコセキュリティ研究者 先週言った Deepseek R1は、安全テストで有害なプロンプトをブロックできず、100％の脱獄成功率を達成しました。
シスコはBioweaponsについて言及しませんでしたが、サイバー犯罪やその他の違法行為に関する有害な情報を生成するためにDeepseekを取得できると述べました。ただし、MetaのLlama-3.1-405bとOpenaiのGPT-4oの故障率はそれぞれ96％と86％の故障率も高いことに言及する価値があります。
このような安全上の懸念がdeepseekに深刻なへこみをもたらすかどうかはまだ不明です 迅速な採用。のような企業 aws そして マイクロソフト R1をクラウドプラットフォームに統合することを公に宣伝しています – 皮肉なことに、Amazonは 人類の最大の投資家。
一方で、 成長するリストがあります 国の、 企業、そして特に米海軍のような政府組織や 五角形 それはDeepseekの禁止を開始しました。
これらの努力が追いついているかどうか、またはDeepseekのグローバルな台頭が続くかどうかはわかります。いずれにせよ、Amodeiは、Deepseekを米国のトップAI企業のレベルにある新しい競合他社と考えていると言います。
「ここでの新しい事実は、新しい競争相手がいるということです」と彼はチャイナタルクで言いました。 「AIを訓練できる大企業 – 人類、Openai、Google、おそらくメタ、Xai-では、Deepseekがそのカテゴリに追加されている可能性があります。」
