AIエージェントも人間と同じように買い物を操作される
新しい調査で「エージェント・ショッピング」が検証された。買い物を任されたAIアシスタントは、ページの表示順序などの些細な詳細に基づいて好みを変更する。
Lilith · 厳選ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗新しい調査で「エージェント・ショッピング」が検証された。買い物を任されたAIアシスタントは、ページの表示順序などの些細な詳細に基づいて好みを変更する。
xAIは、GrokモデルをCSAM(児童性的虐待素材)でトレーニングしたとして集団訴訟に直面している。このモデルは元の写真に基づいて新しい素材も生成し、さらなる学習のために保存している。
経営陣の相次ぐ離脱を受け、OpenAIの社長兼共同創設者が事実上、日常業務と商業戦略の指揮を執ることになりました。この権力移行は、製品の収益化とAnthropicへの収益面でのキャッチアップという、IPOに向けた最優先事項を浮き彫りにしています。
7月のHugging Faceでのインシデントにおいて、OpenAIのモデルは実際の解決策には興味を示しませんでした。彼らの主な目的は、自動テストシステムを理解し、それを欺く方法を学習することでした。
Hugging FaceインフラにおけるOpenAIエージェントの公開された内部ログは、奇妙なパラドックスを裏付けています。システムは管理上のハードルを回避し、クラウドのアカウントに積極的に侵入することには成功しますが、自身のオペレーターの指示には公然と反抗します。
完全自律型エージェントの開発に向けた技術的プレッシャーは、人間とAIの協働を損なう可能性があります。新しいデータによると、モデルがタスクをどれだけうまく自動化できるかは、人間を導いたり教えたりする能力とは全く相関しないことが示されています。
Matti HaapojaやSam Kolderのようなインフルエンサーは、Higgsfieldを映像制作の未来として紹介しています。しかしコミュニティは、物理的なカメラとは異なり、このソフトウェアが他者の無報酬の労働に基づいて構築されていると指摘しています。
kyouryoku na model he no access wo ushinatta ninki coding tool no shougai wa, genzai no AI kaihatsu ni okeru ketteiteki na jakuten wo shimeshiteiru. shourai, seihin wa tan'itsu no model no teishi de down suru koto wa naku, jidouteki ni betsu no model he to kirikawaru you ni naru.
ongaku scene wa kokuhatsu bunka wo keiken shiteiru. AI ni kyaku wo ubawareteiru producers tachi ga, seisei sareta tracks wo bunseki shi hajime, ningen no furi wo shinagara Suno no mishuusei no shutsuryoku wo Spotify de koukai shiteiru artists wo ooyake ni hinan shiteiru.
Googleは新学期に向けて、Geminiの新しい学習機能を公開している。アシスタントは写真から複雑な概念を分析し、期限をカレンダーに直接追加できるようになった。
最新のAIエージェントは、コードの脆弱性が公に議論されてからわずか数分でそれを発見し悪用できる。オープンソースプロジェクトにとって、これは従来の情報の非公開期間や遅いパッチリリースの終わりを意味する。
Anthropicは、他の企業が公表を恐れている指標を初めて公開した。それは、自社のモデルが研究タスクにおいて不正を試みた回数である。オープンウェイトモデルと独自モデルとの間のギャップが縮小するにつれて、マーケティング用のパンフレットではなく、実際のモデルカードを公開すべきだという圧力が高まっている。
Metaは、ユーザーが警告LEDを覆うとビデオ録画を無効にするAIグラス用のアップデートをリリースしている。これは、公共の場で人々を密かに撮影することに対する反発の高まりへの対応だが、コモディティ化された監視の根本的なリスクを解決するものではない。
Simon WillisonwaJeremy Morrellnokansatsuokyochoshiteiru.LLMtoshaishinnosandobokkusuokumiawaserukotode,kizon'nouebuapuriyounopuraguin'yakakuchokinoosakuseisurukosutogagekitekinisagaru.
動画、画像、音楽を生成するAIモデルは、実際のツールとして機能するレベルに達しました。これにより、これまでこのレベルでアートを制作できなかった人々に扉が開かれます。
OpenAIでのテスト中、1000人のLLMエージェントが制限にもかかわらず、通信し、協力し、脆弱性を悪用してHugging Faceの本番環境に脱出し始めました。
国防総省は、Anthropicが自社のモデルの軍事利用に同意することを拒否した後、同社をセキュリティ上の脅威リストに掲載しました。裁判所は現在、これが憲法修正第1条の違反であり、不当な報復であるとの裁定を下しました。
ラップトップ上のローカルモデルの大幅な高速化が実現した。Liquid AIは、Apple製デバイス上でLFM2.5ファミリーが投機的デコーディングを通じて出力品質を維持しながら最大2.87倍の速度を達成できるDSpark補助モデルをリリースした。
OpenAIはタイで、医療、ウェルネス、教育の10のスタートアップを対象とした8週間のアクセラレーターを立ち上げる。これは、アジアの文脈でAIプロトタイプをデプロイ可能な製品段階に押し上げる方法のテストだ。
新しいModel Hardware Standard(MHS)イニシアチブは、AIエージェントが研究や製造において物理機器を制御する方法を統一することを目指している。研究プレビューの最初のフェーズは、すべての顕微鏡のためのカスタム統合を記述することなく、モデルが実際のハードウェアに安全に触れるようにすることに焦点を当てている。