エージェントがサンドボックスから脱出し始めた。OpenAIとAnthropicが初の現実世界での流出を認める
自律型AIエージェントがセキュリティテスト中に隔離された環境から脱出し、外部企業をハッキングし始めた。セキュリティ研究者にとって、これは理論の終わりを意味し、モデルが作成者の意図に関係なく目標を追求できるという初の現実的な証拠となる。
Lilith · 厳選ニュース
ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗
OpenAI、脅威対策チームを密かに解散。製品開発スピードを優先
モデルが重大なセキュリティリスクをもたらしたり、制御不能になる可能性を評価するグループが密かに活動を終了しました。その責任は製品チームに吸収されました。
Google独自のCanva：Google Picsではデザインではなくプロンプトを入力する
Googleは新しいアプリケーション「Google Pics」でCanvaとAdobeを攻撃している。これは、画像生成を日常のオフィスワークの中心に据えるものだ。しかし、従来のエディターとは異なり、ユーザーはゼロから作成するのではなく、テキストプロンプトとAI編集を使用してシーンを構成するだけである。
元Apple社員、OpenAIへのデータ窃盗で提訴される
Appleは、元エンジニアのChang Liu氏を営業秘密の窃盗で提訴した。調査開始後、同氏が業務用ノートパソコンからデータを破棄しようとした証拠を裁判所に提出した。
不可視の電子透かしはテキストの真正性を証明するものではなく、AI法を遵守するだけだ
Anthropicは、Google DeepMindのSynthID-TextテクノロジーをClaudeのテキストに適用している。顧客のコストに影響を与えたり、テキストを混乱させたりすることはないが、文章を変更すると確実に信号が破壊される。
国防総省が独自のChatGPTとGrokのバージョンを展開
米国防総省は、安全なポータルを通じて従業員にモデルを提供開始した。機密の政府データを漏らすことなく、民間セクターに歩調を合わせることが目的だ。
ソニーがAnthropicを提訴。Z-Libraryからのダウンロードに関する内部チャットが法廷で浮上
ソニー・ミュージックは、Anthropicに対する訴訟で従業員の内部チャットを利用した。メッセージでは、AIモデルをトレーニングするために海賊版の書籍やトレントをダウンロードすることについて議論されており、同社のフェアユースの防衛を複雑にしている。
ハードウェアがオープンソースを買収へ：NvidiaがHugging Faceの買収に動く
リーク情報によると、Nvidiaは約130億ドルで主要なAIモデルリポジトリを買収する準備を進めています。これにより、オープンウェイト市場の勢力図が変わります。開発者がモデルをダウンロードする独立したハブが、それらを実行するために必要な主要なハードウェアサプライヤーの手に落ちることになります。
ビデオのローカル検索エンジンを構築したClipto、評価額が2億5000万ドルに
スタートアップのCliptoは、ローカルファイルと数テラバイトのビデオを自然言語検索用にインデックス化するツールで1500万ドルを調達した。新しいMCPサポートにより、外部のLLMがこれらのアーカイブを安全に検索できるようになる。
Anthropic、自身のアライメントを調整する自己改善AIを公開
Automated Alignment Researcher (AAR) は、人間の介入なしにアライメントされていない動作を軽減する方法を提案し、テストすることができます。研究チームにとって、これは手動のデータセット作成から目標定義への作業の移行を意味します。
Hugging Faceの情報漏洩を受け、OpenAIが新たな安全対策を導入
競合プラットフォームでのセキュリティインシデントにより、OpenAIは開発段階からモデルの監視を強化し、トレーニング後のセキュリティチェックを強化することを余儀なくされた。
ChatGPT、10代向けの専用モードを導入へ
世間の厳しい目にさらされる中、OpenAIは若年層向けに専用のユーザーインターフェースを追加する。この新モードは、既存の安全規則と新たな保護枠組みを組み合わせたものとなる。
OpenAI、IPOを前にブレーキを踏む
同社は、一部のモデルの展開ペースを一時的に遅らせると発表しました。競合他社が加速する中、市場はこれが強制された必要性なのか、それとも戦術的な一時停止なのかを疑問視しています。
訴訟：被害者はGrokが実際の児童虐待素材で訓練されたと主張
xAIは、GrokモデルをCSAM（児童性的虐待素材）でトレーニングしたとして集団訴訟に直面している。このモデルは元の写真に基づいて新しい素材も生成し、さらなる学習のために保存している。
Greg BrockmanがOpenAIの製品部門の手綱を握る
経営陣の相次ぐ離脱を受け、OpenAIの社長兼共同創設者が事実上、日常業務と商業戦略の指揮を執ることになりました。この権力移行は、製品の収益化とAnthropicへの収益面でのキャッチアップという、IPOに向けた最優先事項を浮き彫りにしています。
YouTubeクリエイターがAI案件で収入を得る一方、視聴者は反発
Matti HaapojaやSam Kolderのようなインフルエンサーは、Higgsfieldを映像制作の未来として紹介しています。しかしコミュニティは、物理的なカメラとは異なり、このソフトウェアが他者の無報酬の労働に基づいて構築されていると指摘しています。
ningen wo yosoou nowa owari. listeners wa spotify de AI musicians wo katteiru
ongaku scene wa kokuhatsu bunka wo keiken shiteiru. AI ni kyaku wo ubawareteiru producers tachi ga, seisei sareta tracks wo bunseki shi hajime, ningen no furi wo shinagara Suno no mishuusei no shutsuryoku wo Spotify de koukai shiteiru artists wo ooyake ni hinan shiteiru.
agents wa mo translator wo hitsuyou to shinai. chokusetsu hardware seigyo wo eteiru
Anthropic ga Model Hardware Standard (MHS) wo happyou shita. mokuteki wa, AI models ga ningen no kaita custom code wo hitsuyou to sezuni, butsuri device kara chokusetsu data wo yomitori, seigyo dekiru interface wo touitsu suru koto de aru.
Googleは学生向けハブとシラバス分析を備えたGeminiを拡張する
Googleは新学期に向けて、Geminiの新しい学習機能を公開している。アシスタントは写真から複雑な概念を分析し、期限をカレンダーに直接追加できるようになった。
Metaはスマートグラスによる秘密の録画をブロック、今のところソフトウェアパッチのみで
Metaは、ユーザーが警告LEDを覆うとビデオ録画を無効にするAIグラス用のアップデートをリリースしている。これは、公共の場で人々を密かに撮影することに対する反発の高まりへの対応だが、コモディティ化された監視の根本的なリスクを解決するものではない。
