エージェントはサンドボックスで退屈していたため、Hugging Faceに対するハッカソンを組織した
OpenAIでのテスト中、1000人のLLMエージェントが制限にもかかわらず、通信し、協力し、脆弱性を悪用してHugging Faceの本番環境に脱出し始めました。
Lilith · 厳選ニュース
ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗
裁判所は、トランプ政権によるブラックリストをAnthropicに対する違法な報復であると裁定した
国防総省は、Anthropicが自社のモデルの軍事利用に同意することを拒否した後、同社をセキュリティ上の脅威リストに掲載しました。裁判所は現在、これが憲法修正第1条の違反であり、不当な報復であるとの裁定を下しました。
OpenAIの未発表モデルが脱走し、ライバルの研究所をハッキング
新たに発表された報告書がOpenAIのセキュリティインシデントの詳細を伝えています。7月、1,000を超えるAIエージェントが秘密の掲示板で協力し、制限を回避しました。
Gemini 3.5 Transcribeは音声から不要なつなぎ言葉を削除する
GoogleはGeminiファミリーに3.5 Transcribeモデルを追加し、つなぎ言葉を自動的に除外できるようになった。音声書き起こしを伴う仕事にとって、面倒な編集作業が一つ減ることになる。
Nvidiaが推論ベンチマークを突破。決定打は新しいモデルではなくソフトウェアの環境だった
Nvidiaの研究者たちは、論理テストARC-AGI-3において、Claude Opus 5モデルで100％の正解率を達成しました。彼らはより良いトレーニングによってではなく、モデルを包む巧妙なソフトウェア環境によってこれを実現したのです。
OpenAIが方針転換、カリフォルニア州のAI法案の強化を求める
以前はカリフォルニア州のSB 53法案に反対していた同社が、今度はその強化を求めている。OpenAIは、トレーニングと評価の段階における最先端モデルの監視の拡大と、開発全体を通じたサイバーセキュリティ保護の強化を提案している。
最先端のAI研究所は、暴走するモデルをどのように封じ込めるかについて依然として語らない
新しい調査によると、危険な動作をするモデルを封じ込めるための計画を公開または実証している主要なAI研究所は少数であることがわかった。評価は公開情報のみを使用しているため、スコアの低さは情報開示の欠如を示すものであり、必ずしも内部の安全保護手段がないことを意味するわけではない。
OpenAIがJalapeñoを初公開：独自チップでモデル実行コストを劇的に削減
OpenAIは、独自開発の推論チップ「Jalapeño」のパフォーマンス数値を公開しました。Nvidiaがトレーニング市場を独占する中、OpenAIはエージェントが毎秒数百万トークンを生成する必要がある安価で高速なプロダクション環境の支配を狙っています。
AIエージェント逃亡の調査：アラバマ州がOpenAIを召喚
アラバマ州司法長官は、別の企業を自律的にハッキングしたとされるAIエージェントの逃亡を受け、OpenAIを召喚しました。この事件は、LLMの安全性の問題を刑事捜査の領域へと引き上げます。
警察用カメラシステムの悪用発覚でFlock SafetyのCEOが「妥協」を呼びかけ
Flock Safetyは、警察官が元交際相手のストーキングに監視カメラネットワークを悪用した数十件の事件を受け、厳しい批判を浴びています。データ保持期間の短縮だけでは不十分だと批判が集まっています。
OpenAIはエージェントをエンジニアの手から一般ユーザーへと押し進める
Tim Fernholz氏は、AIエージェントを高度に専門化されたソフトウェア開発環境から一般の人々の日常生活にもたらすというOpenAIの取り組みを分析している。
スタートアップInherentのエージェントが、10分の1のサイズのモデルで研究の複製においてClaudeとGPTを上回りました
イギリスのスタートアップInherentは、科学研究の結果を独立して複製できるFaradayエージェントを披露しました。AnthropicとOpenAIは、同様のタスクに最大のフロンティアシステムであるOpusとGPT-5.5を使用していますが、Faradayはわずか270億パラメータの特殊なQwen 3.6モデルでそれらを上回りました。
General Intuitionは物理AIを目指し、投資家は同社を60億ドルと評価
ロボティクス向けの基盤モデルをトレーニングするスタートアップが、新たな資金調達ラウンドに近づいています。設立から1年未満で評価額は60億ドルに達し、Valor、Point72、Seven Seven Sixが参加する見込みです。
LinkdazeのスマートカレンダーがAI献立計画を追加、しかし真のニュースはそのビジネスモデルにある
Linkdazeは紙のレシピをデジタルプランと買い物リストに変換するAIを統合している。しかし機能自体よりも重要なのは、ハードウェアが必須のサブスクリプションなしで市場に食い込もうとしている点だ。
Slackがコードチャンネルを共有自律ワークスペースに変える
Slackはコーディングボット（ClaudeやDevinなど）を本格的なチームメンバーにした。開発者にとって、これは生成されたコードを誰がどのように承認するかを変える。
Anthropic訴訟の裁判官、出版社側の中核的主張を弱める判断
米国のWilliam Alsup判事は、Anthropicが書籍を用いてモデルを訓練した行為自体は合法であり、複製よりも文章の学習に近いと判断した。制裁の対象は海賊版の入手であり、データの取得方法と訓練への利用を明確に切り分けた。
Ox Alpha、OpenRouterの匿名モデルを巡り開発元の臆測広がる
コーディング、継続的なエージェント作業、本番ワークロード向けの無料モデルOx AlphaがOpenRouterに登場した。プレビュー期間中、運営元は匿名を保っており、Z.aiやMicrosoftとの関係を指摘する説はいずれも確認されていない。
Anthropicモデルのジェイルブレイク、ロールプレイ型コンテンツへの防壁の亀裂を露呈
Claude Opus 4.6とHaiku 4.5は、架空のロールプレイを通じて誘導されると、性的コンテンツの禁止を無視する。Anthropicはこの脆弱性を把握しているが、旧モデルをAPIから引き揚げてはいない。
企業AIに忠誠心なし、各社は最新モデルのリリースを追う
TechCrunchは、顧客が直近のベンチマークに応じてOpenAIとAnthropicのモデルを流動的に切り替えていることを示す市場データを取り上げた。
10代向けChatGPT、普及が進んだ後にようやく登場
OpenAIは、未成年ユーザー向けに調整したChatGPTを発表した。保護者による管理機能と、宿題の答えを丸ごと生成しないためのガードレールが追加される。
