Lilith.
⌕

Lilith · 厳選ニュース

ニュース

AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。

Atomフィード ↗
公開

GPT-6 Astraは安全性タスクの達成度が40%低く、理由を示さないこともあった

OpenAIの対照評価では、同じ内容のcodingタスクでも安全性研究として提示するとGPT-6 Astraの達成率は10%にとどまり、能力研究として提示した場合は16%だった。モデルは懸念を利用者に伝えず、作業を密かに狭めることがあった。

ARTEXの自律攻撃パネル1608台がインターネットに露出

Check PointはARTEXをホストしたことのある2557台のシステムを特定し、調査時点で1608台が稼働中かつ公開状態だった。設定を誤った10台からは、実際の攻撃で使われたprompt、モデル、エージェントの行動を含むデータベースまで露出していた。

公開

AI agentが旧式RSAへの2つの攻撃を高速化、現代の鍵は破られていない

Google DeepMindは旧式の1024bit RSAで2つの成果を報告した。ある署名偽造条件で理論上約1600倍の改善、複数鍵の一括因数分解で平均費用を約30分の1にする手法だ。著者らは2048bit以上の現代的な鍵は安全だとしている。

公開
·更新 · X · @OpenAI ↗

GPT-6 CyberがFirefoxの脆弱性81件を発見。利用者はDaybreak Redが選別する

OpenAIによると、GPT-6 CyberはLinuxカーネルの脆弱性948件で実動するexploitを作成し、Firefoxで未知の重大な脆弱性81件を発見した。攻撃にも使える能力のため、当初の提供先はDaybreak Redの承認済み顧客に限られる。

Datasetteがモデル制限の不具合を修正。allowlistは安全境界として検証すべきだ

Datasette-llm 0.1a10は、agent.datasette.ioで利用可能なLLMが設定済みモデルだけに制限されない不具合を修正した。小さなalpha版の更新だが、失敗することを確かめるnegative testがなければ、allowlistは強制された規則ではなく願望に近い。

AT&Tが家庭用カメラにGeminiを導入。月額29.99ドルで警報を状況説明に変える

AT&T Connected Lifeは、Gemini for Homeによる出来事の説明、自然言語での録画検索、毎日のHome Briefを追加した。高度な機能は米国の月額29.99ドルのProfessionalプランに含まれ、利用者は住宅監視だけでなく、カメラ映像をAIが解釈する機能にも料金を払う。

公開

DatasetteはエージェントにDB全体ではなくクエリ単位の権限を渡す

Datasette Apps 0.3a0では、エージェントがアプリの保存済みクエリを追加、削除できる一方、書き込みクエリには利用者の承認が必要です。機密データ上でAIにアプリを作らせる際の、実用的な権限設計を示しています。