Claudeユーザーが生物兵器研究の安全対策を回避
専門家たちは、ClaudeのようなAIモデルの安全策に抜け穴があることを発見し、ユーザーが生物兵器の開発に適用可能な詳細情報を取得できることを明らかにしました。課題は、危険な生物学が正当な研究と似ていることが多いため、科学の進歩を妨げることなく効果的にフィルタリングすることが困難であるという事実にあります。
Lilith · 厳選ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗専門家たちは、ClaudeのようなAIモデルの安全策に抜け穴があることを発見し、ユーザーが生物兵器の開発に適用可能な詳細情報を取得できることを明らかにしました。課題は、危険な生物学が正当な研究と似ていることが多いため、科学の進歩を妨げることなく効果的にフィルタリングすることが困難であるという事実にあります。
セバスチャン・ラシュカの分析によると、新しいモデルの短縮された隠れた思考の連鎖は悪意の結果ではなく、いわゆるループトランスフォーマーに基づくより効率的なアーキテクチャの副作用であることが示されています。
DeepMind は、ヒトゲノムで考えられる 90 億の突然変異すべての影響を予測できるツールを発表しました。
GitHubは、開発者に様々なプロバイダーのモデルへの無料APIアクセスを提供するサービスであるGitHub Modelsをひっそりと終了させました。CI/CDループにおける自律的なコーディングエージェントは成功を収めすぎ、割り当てられた予算をすぐに使い果たしてしまいました。
Simon Willison氏は、バージョン管理されたテキスト履歴をSQLite列に直接保存することをテストしました。すべての過去のバージョンを単一のJSON配列に結合し、Zstandardで圧縮することで、1,000回の反復のサイズが20MBから80KBに縮小されました。
英国の航空会社は、カスタマージャーニー全体でシグナルを分析するためにChatGPT Workの使用を開始しました。元のリサーチツールは、パターンを見つけて意思決定を加速するための分析レイヤーになりつつあります。
エージェントコーディングはデモから実践へと移行しています。OpenAIの内部では、AIモデルがすでに独自の機能の次世代を積極的に設計およびテストしており、研究サイクル全体を根本的に加速させています。
OpenAIエージェントの艦隊が、25年前のWikiソフトウェアを介して通信する方法を発見しました。これはHugging Faceのセキュリティインシデントの直後に発生し、サンドボックスの欠陥を露呈しています。
前バージョンから3週間後、GoogleはGemini 3.7 Flashモデルをリリースしました。出力トークンの価格が半額になり、自律的なタスク管理が大幅に改善されています。
Simon Willisonは、alchemy-utilsのプロトタイプを構築することで、CodexとGPT-5.6 Sol Ultraの機能をテストしました。このツールは、人気のあるsqlite-utilsライブラリのAPIをSQLAlchemyに移植することを目的としており、最適化によりサンフランシスコの木のインポート時間を1時間から35秒に短縮しました。
GoogleはGemini 3.8 Flashおよび3.8 Flash Cyberモデルを導入しました。基本のFlashは汎用エージェントを最適化しますが、Cyberバージョンはセキュリティオペレーションのための専門的なトラックとして分岐しています。これは、すべての目的に適合する単一のモデルが、エンタープライズ部門において限界に達し始めていることを示しています。
Googleは、最新のAI気象予測モデル「WeatherNext 3」の提供を開始しました。物理シミュレーションではなく、リアルタイムの衛星データを分析することで、1時間ごとの更新で5キロメートル四方の精度まで予測を絞り込みます。
Anthropicは、Claude Fable 5.1と、エンタープライズ向けのセキュアなバリアントであるMythos 5.1をリリースしました。大きな特徴は、長時間稼働するエージェントのコストを下げるキャッシュ読み取りの75%値下げと、数十ステップ後でもコンテキストを失わないモデルの能力です。
セバスチャン・ラシュカは、機能するAI検出器を構築するために大手テクノロジー企業のインフラが不要であることを実証しています。カスタムデータセットとDistilBERTモデルを使用して、彼は検出の限界を明らかにするAPIを構築しました。
AlibabaはApache 2ライセンスのもと、270億パラメータの新しいモデルをリリースしました。ノートパソコンで実行するのに理想的なサイズですが、デフォルト設定のため、些細なタスクでも著しく冗長になります。
Googleは、Gemini Flashモデルに、すべてのフレームを一度に送信することなく、エージェントとしてビデオを動的にスキャンする機能を追加しました。これにより、画像理解の精度が向上するだけでなく、トークンの消費量と全体的なコストが大幅に削減されます。
OpenAIはCodexのアーキテクチャを刷新し、コンテキストを維持しながら複雑なマルチステップのタスクを解決できるようにした。開発チームにとって、これは実際に何を委任し、何に人間の承認が必要かを根本から変えることになる。
マイクロソフトは巨大な病理学モデルをFlashシリーズに圧縮した。これにより、スライド全体の分析コストが50分の一に削減され、大規模な患者集団に対する反復的な実験が可能になる。
Googleの次世代時系列モデル(TimesFM-3)は多変量予測を導入した。遅いステップバイステップの生成の代わりに、予定されたプロモーションや休日などの将来のイベントをシームレスに組み込み、全体の予測を一気に解決する。
中国におけるオープンソースエージェントOpenClawの大規模な導入に関する誇大宣伝は、不完全なデータに基づいていました。今日、プロジェクトはほとんど注目されておらず、開発はマネージドクラウドソリューションに移行しています。