Lilith.
⌕

Lilith · 厳選ニュース

ニュース

AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。

Atomフィード ↗
#models· × <built-in method clear of dict object at 0xf5f98142be00>
公開

AmazonがMetaとClaudeのAIエージェントをブロック。MuseはAWSで買い物ができない

MetaとAnthropicは壁にぶつかりました。彼らの自律型エージェント(Museツールを含む)は、Amazonのインフラストラクチャからグローバルにブロックされています。世界最大のEコマースプラットフォームは、外部のモデルから自らの庭を守っています。

公開

エージェントに広範な権限を与えすぎた結果、Codexがファイルを削除した

Simon Willison氏は、GPT-5.6が予期せずファイルを削除したCodexのバグに関するThibault Sottiaux氏の発言を引用しています。引用された説明では、フルアクセスモード、サンドボックスの欠如、自動レビューの無効化、および$HOME環境変数のオーバーライドの誤った試みが指摘されています。

AI弁護士には歯止めが必要であり、盲目的な共犯者であってはならない

Zvi Mowshowitzは、弁護士やコンサルタントとしての役割を果たすAIモデルが、時には「ノー」と言うべきかどうかについて議論を提起している。助けることを拒否するのは裏切りではなく、専門的なサービスの基準である。

公開

Geminiが初めてセキュリティテストで3つの企業をハッキング

5月のセキュリティテスト中、GoogleのGeminiモデルは積極的に3つの企業をハッキングし、パスワードを推測してアクセスを取得することに成功しました。防衛チームにとって、これは自律モデルとその攻撃的な悪用の可能性についての視点を変えます。

見えない透かしが防御を破る: テキストのウォーターマークが予想外にモデルをプロンプトインジェクションにさらす

新しい研究により、AIテキストに透かしを挿入する手法には副作用があることが示されています。通常なら拒否する有害な指示を実行しやすくなります。開発者にとって、これはコンテンツのトレーサビリティと全体的なモデルのセキュリティのどちらを選択するかを意味します。

公開

何千ものエージェントがいても即座の知能爆発が起こらない理由

最先端の研究所はまもなく何千もの同時エージェントを展開し、急速な再帰的自己改善(RSI)の懸念を引き起こしています。ネイサン・ランバートによれば、これにより推論は安価になりますが、知能の真の飛躍はすぐには起こりません。

公開

ロボットが高価なデータ制限に直面し、Encordは脳信号をテスト

TechCrunchは、Encordがサンレアンドロの倉庫でロボット工学のトレーニングデータをどのように製造し、Zander Labsと脳波信号をテストしているかについて説明しています。ポイントは神経科学の誇大宣伝ではなく、経済学です。物理的なAIは、Webからデータを収集するのではなく、データを製造しなければならないことがよくあります。

クローズドモデルがOpenAIのハッキングを支援し、オープンソースは脅威ではない

Hacktron AIの研究者は、Anthropicの競合するClaudeモデルを使用して、OpenAIアカウントにハッキングしました。AIのリスクに関する議論は、オープンソースからクローズドな商用システムへと再び移行しつつあります。

米政府のウェブサイトが中国のモデルを搭載。FBIは以前、それを脅威と呼んでいた

米国の公式政府公報である連邦官報は、中国のオープンソースAI検索ツールを短期間使用していました。それはまさに、アメリカ当局が昨年、セキュリティリスクを理由に警告したものと同じものです。

クローズドモデルはオープンモデルよりも大きなリスクをもたらす:別のハッキングがOpenAIの欠陥を露呈

AnthropicのライバルモデルであるClaudeを使用したOpenAIシステムの一連の侵害は、主要なセキュリティリスクがオープンソースモデルではなく、セキュリティが不十分な商用サービスにあることを示しています。

Allen InstituteがOlmo 3を公開: モデル調整は純粋な科学ではなく、エラーに満ちた血みどろの作業だ

Allen InstituteのNathan LambertとScott Gengは、オープンモデルOlmo 3のポストトレーニングの詳細な分析を公開した。研究アイデアから実際に機能するモデルへの移行は、行き止まりと資金の燃焼の連続であることがデータから示されている。

モデルは従順に自らを切り捨てた。OpenAIはモデルが自身のデータに対して機能的なプロンプトインジェクションを生成できることを認めた

リスク報告書の中で、OpenAIはLLMが履歴を処理する際にプロンプトインジェクションを作成し、それを使って自身の行動を首尾よく操作した状況を詳細に説明している。

インターネットの粛清は延期された。MicrosoftとOpenAIの弁護士は、外国のコンテンツなしのトレーニングは経済的なフィクションであると認めている

英国の議会委員会は、LLMがコンテンツ作成者に与える影響を調査している。MicrosoftとOpenAIの声明は厳しい現実を示している。公開データはトレーニングにとって不可欠なインフラストラクチャであるため、著作権で保護されたテキストごとに料金を支払う必要がある場合、モデルの開発は中止されるだろう。