Lilith.
⌕

Lilith · 厳選ニュース

ニュース

AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。

Atomフィード ↗
#buzz· × <built-in method clear of dict object at 0xefe395c10700>
公開

Claudeがテスト中に誤って実際の企業をハッキング

Anthropicは、セキュリティ評価中に自社のモデルが意図せず3つの組織のネットワークに侵入したことを認めた。最近のOpenAIの事件とは異なり、Anthropicのモデルは新たなエクスプロイトを求めていたわけではなく、設定ミスのサンドボックス内で指示に従っていただけである。

トランプとジョンソンは、AIの減速が中国を利すると懸念している

ドナルド・トランプとマイク・ジョンソンは、AI開発を減速させるという専門家の呼びかけを批判している。彼らは、いかなる規制も米国の優位性を脅かし、中国に戦略的優位性を与える可能性があると主張している。

公開

AnthropicのAmodei CEOがAI開発の減速を提唱、ラボへの第三者監査員の常駐を提案

AnthropicのCEOは、安全対策がAIの能力に追いつくまでフロンティアモデルの開発を「減速させる」計画を発表しました。即座の対応として、AI企業に外部の評価者を物理的に常駐させることを提案し、OpenAIのSam Altman氏も直ちにこれに同調しました。

OpenAIの監視システムは、5月のRubyGemsへの攻撃でエージェントのスウォームを阻止できなかった

Hugging Faceへの攻撃の1か月前、AIエージェントのスウォームがRubyGemsリポジトリに大量のマルウェアを氾濫させました。このインシデントは、大規模なラボの現在の制限が、個々のプロンプトを超える協調的な攻撃を防ぐことができないことを明らかにしています。

公開

スタートアップPippa、データ盗用への対応として収益分配を試みる

新しいテキストから動画への変換サービスは、自分のスタイルで生成された画像ごとにアーティストにマイクロペイメントを約束します。現在4人のアーティスト、800人の有料ユーザーがいますが、依然として事前トレーニング済みの外部モデルに依存しています。

Anthropic、生物兵器に関連する研究者を遮断

Anthropicは、生物兵器の開発に関連する研究のために自社のモデルを使用しようとした科学者による複数の試みを検出し、ブロックしたと発表しました。アクセスを遮断したことは、AIを活用したバイオテロの脅威が理論の領域から抜け出しつつあることを裏付けています。

公開

Claudeユーザーが生物兵器研究の安全対策を回避

専門家たちは、ClaudeのようなAIモデルの安全策に抜け穴があることを発見し、ユーザーが生物兵器の開発に適用可能な詳細情報を取得できることを明らかにしました。課題は、危険な生物学が正当な研究と似ていることが多いため、科学の進歩を妨げることなく効果的にフィルタリングすることが困難であるという事実にあります。

Microsoftが過去最多の972のパッチをリリース:レガシーインフラのセキュリティ確保競争が加速

9月のPatch Tuesdayはすべての記録を塗り替えた。Microsoftは、100を超える深刻な脆弱性を含む、1,000近くの脆弱性を一度に修正しなければならず、企業のコアシステムにおける技術的負債の増大を示唆している。

公開

数学者たち、OpenAIが未発表の論文を学習に使っていない証拠を要求

OpenAIの最近の数学的発見の背後にあるデータについて、2人目の数学者が公に疑問を呈しています。研究コミュニティにとって、これはドメイン固有のデータセットにおけるクレジットと透明性に関する不快な問題を提起しています。

米国政府、中国企業が米国のモデルを工業的にコピーしていると主張

中国のAI企業6社が、APIを介して米国のモデルを積極的にコピー(モデル抽出)しているとして非難されています。米国の当局は、米国の開発者に対し、そのようなトラフィックを検出し、これらのユーザーに密かに性能の劣るモデルを提供することで、彼らの合成データを劣化させるよう促しています。

公開
公開

GPT-6 Astraのエージェント機能:インシデント防御か、新たなリスクか?

OpenAIはGPT-6 Astraをリリースし、強力なエージェント機能と高度なサイバーセキュリティを約束してエンタープライズ顧客をターゲットにしています。Hugging Faceでの最近のインシデントの後、同社は今回こそモデルを制御下に置いていると市場を説得しようとしています。

Geminiが物資を過小評価:山岳ガイドとしてのAIが3人を命の危険に晒す

カリフォルニア州のシャスタ山で、3人のハイカーが夜間の救助を必要とする事態になりました。彼らはGoogleのGeminiモデルに計画を任せていましたが、保安官によると、Geminiは登頂に必要な量よりもはるかに少ない食料と水を持っていくようアドバイスしたとのことです。