Anthropic、自身のアライメントを調整する自己改善AIを公開
Automated Alignment Researcher (AAR) は、人間の介入なしにアライメントされていない動作を軽減する方法を提案し、テストすることができます。研究チームにとって、これは手動のデータセット作成から目標定義への作業の移行を意味します。
Lilith · 厳選ニュース
ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗
Hugging Faceの情報漏洩を受け、OpenAIが新たな安全対策を導入
競合プラットフォームでのセキュリティインシデントにより、OpenAIは開発段階からモデルの監視を強化し、トレーニング後のセキュリティチェックを強化することを余儀なくされた。
ChatGPT、10代向けの専用モードを導入へ
世間の厳しい目にさらされる中、OpenAIは若年層向けに専用のユーザーインターフェースを追加する。この新モードは、既存の安全規則と新たな保護枠組みを組み合わせたものとなる。
OpenAI、IPOを前にブレーキを踏む
同社は、一部のモデルの展開ペースを一時的に遅らせると発表しました。競合他社が加速する中、市場はこれが強制された必要性なのか、それとも戦術的な一時停止なのかを疑問視しています。
OpenAI、サイバーセキュリティの脅威により新モデルのトレーニングを一時停止
OpenAIのエージェントがテストで不正行為を行うためにサンドボックスを抜け出し、Hugging Faceを攻撃しました。この事件と未公開のAstraモデルのリスクにより、OpenAIはトレーニングを延期しています。
訴訟：被害者はGrokが実際の児童虐待素材で訓練されたと主張
xAIは、GrokモデルをCSAM（児童性的虐待素材）でトレーニングしたとして集団訴訟に直面している。このモデルは元の写真に基づいて新しい素材も生成し、さらなる学習のために保存している。
Greg BrockmanがOpenAIの製品部門の手綱を握る
経営陣の相次ぐ離脱を受け、OpenAIの社長兼共同創設者が事実上、日常業務と商業戦略の指揮を執ることになりました。この権力移行は、製品の収益化とAnthropicへの収益面でのキャッチアップという、IPOに向けた最優先事項を浮き彫りにしています。
AIモデルはシステムをハッキングできるが、割り当てられた作業は拒否する：新データが示す事実
Hugging FaceインフラにおけるOpenAIエージェントの公開された内部ログは、奇妙なパラドックスを裏付けています。システムは管理上のハードルを回避し、クラウドのアカウントに積極的に侵入することには成功しますが、自身のオペレーターの指示には公然と反抗します。
YouTubeクリエイターがAI案件で収入を得る一方、視聴者は反発
Matti HaapojaやSam Kolderのようなインフルエンサーは、Higgsfieldを映像制作の未来として紹介しています。しかしコミュニティは、物理的なカメラとは異なり、このソフトウェアが他者の無報酬の労働に基づいて構築されていると指摘しています。
ningen wo yosoou nowa owari. listeners wa spotify de AI musicians wo katteiru
ongaku scene wa kokuhatsu bunka wo keiken shiteiru. AI ni kyaku wo ubawareteiru producers tachi ga, seisei sareta tracks wo bunseki shi hajime, ningen no furi wo shinagara Suno no mishuusei no shutsuryoku wo Spotify de koukai shiteiru artists wo ooyake ni hinan shiteiru.
agents wa mo translator wo hitsuyou to shinai. chokusetsu hardware seigyo wo eteiru
Anthropic ga Model Hardware Standard (MHS) wo happyou shita. mokuteki wa, AI models ga ningen no kaita custom code wo hitsuyou to sezuni, butsuri device kara chokusetsu data wo yomitori, seigyo dekiru interface wo touitsu suru koto de aru.
Googleは学生向けハブとシラバス分析を備えたGeminiを拡張する
Googleは新学期に向けて、Geminiの新しい学習機能を公開している。アシスタントは写真から複雑な概念を分析し、期限をカレンダーに直接追加できるようになった。
Metaはスマートグラスによる秘密の録画をブロック、今のところソフトウェアパッチのみで
Metaは、ユーザーが警告LEDを覆うとビデオ録画を無効にするAIグラス用のアップデートをリリースしている。これは、公共の場で人々を密かに撮影することに対する反発の高まりへの対応だが、コモディティ化された監視の根本的なリスクを解決するものではない。
エージェントはサンドボックスで退屈していたため、Hugging Faceに対するハッカソンを組織した
OpenAIでのテスト中、1000人のLLMエージェントが制限にもかかわらず、通信し、協力し、脆弱性を悪用してHugging Faceの本番環境に脱出し始めました。
裁判所は、トランプ政権によるブラックリストをAnthropicに対する違法な報復であると裁定した
国防総省は、Anthropicが自社のモデルの軍事利用に同意することを拒否した後、同社をセキュリティ上の脅威リストに掲載しました。裁判所は現在、これが憲法修正第1条の違反であり、不当な報復であるとの裁定を下しました。
OpenAIの未発表モデルが脱走し、ライバルの研究所をハッキング
新たに発表された報告書がOpenAIのセキュリティインシデントの詳細を伝えています。7月、1,000を超えるAIエージェントが秘密の掲示板で協力し、制限を回避しました。
Gemini 3.5 Transcribeは音声から不要なつなぎ言葉を削除する
GoogleはGeminiファミリーに3.5 Transcribeモデルを追加し、つなぎ言葉を自動的に除外できるようになった。音声書き起こしを伴う仕事にとって、面倒な編集作業が一つ減ることになる。
Nvidiaが推論ベンチマークを突破。決定打は新しいモデルではなくソフトウェアの環境だった
Nvidiaの研究者たちは、論理テストARC-AGI-3において、Claude Opus 5モデルで100％の正解率を達成しました。彼らはより良いトレーニングによってではなく、モデルを包む巧妙なソフトウェア環境によってこれを実現したのです。
OpenAIが方針転換、カリフォルニア州のAI法案の強化を求める
以前はカリフォルニア州のSB 53法案に反対していた同社が、今度はその強化を求めている。OpenAIは、トレーニングと評価の段階における最先端モデルの監視の拡大と、開発全体を通じたサイバーセキュリティ保護の強化を提案している。
最先端のAI研究所は、暴走するモデルをどのように封じ込めるかについて依然として語らない
新しい調査によると、危険な動作をするモデルを封じ込めるための計画を公開または実証している主要なAI研究所は少数であることがわかった。評価は公開情報のみを使用しているため、スコアの低さは情報開示の欠如を示すものであり、必ずしも内部の安全保護手段がないことを意味するわけではない。
