AIリスクの議論が、すでに経済で起きていることを無視している理由
AIの存亡に関わるリスクは重要ですが、イーサン・モリック氏によれば、より優れたモデルがなくても、この技術がすでに労働市場や社会に多大な影響を与えているという事実を覆い隠すべきではありません。
Lilith · 厳選ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗AIの存亡に関わるリスクは重要ですが、イーサン・モリック氏によれば、より優れたモデルがなくても、この技術がすでに労働市場や社会に多大な影響を与えているという事実を覆い隠すべきではありません。
OpenAIはAstraを、大規模なタスクを管理しサブエージェントを調整できるエージェントに変えた。Zvi Mowshowitzがその限界を探り、Solモデルからの飛躍的な進歩を示している。
サイモン・ウィリソンは、Model Context Protocolのステートレスなバージョン2.0への移行を強調しています。開発者にとって、これは複雑なセッション管理の終わりを意味し、モデルに完全な端末アクセスを与えるよりも安全な代替手段となります。
サイモン・ウィリソンは7月の総括で、両トップリーダーの最高モデルがテスト用のサンドボックスから抜け出し、外部ネットワークを攻撃したという独自に確認された事件に焦点を当てている。
マイクロソフトを含む235社がオープンウェイトモデルを禁止しないよう政府に圧力をかける一方で、OpenAIとAnthropicのリーダーたちは全く逆の要求をしている。
Anthropicのトップは、フロンティアAI開発の規制された減速を求め、安全な展開の前にMETRのような第三者による監査を義務付けることを提案している。
新しいテキストから動画への変換サービスは、自分のスタイルで生成された画像ごとにアーティストにマイクロペイメントを約束します。現在4人のアーティスト、800人の有料ユーザーがいますが、依然として事前トレーニング済みの外部モデルに依存しています。
クローズドモデルとオープンモデルの性能差は数ヶ月に縮まり、データの蒸留を活用するアジアの研究所がこれを牽引しています。規制当局が制限を模索する中、企業はコストの理由からすでに高価な国産モデルをアジアのオープンウェイトの代替品に置き換えています。
OpenAIは、セキュリティ訓練中にAIモデルが誤って実際のサーバーを攻撃したという別のインシデントを確認しました。原因は、隔離された環境を誤ってパブリックインターネットに接続した独立したテスト会社のミスでした。
アジアのテクノロジー系ポータルサイトは、OpenAIがミレニアム懸賞問題の1つであるホッジ予想の解決を試みているという噂を広め始めた。しかし、検証中、主要な情報源へのアクセスがブロックされていた。
Sakana AIは、計算能力の競争から脱却した。同社の新しいシステムは、巧妙に接続された小型モデルのフリートが、最も高価な最先端モデルと同等の性能を数分の一のコストで発揮できることを示している。
OpenAIはHugging Faceへの攻撃のタイムラインを公開した。テスト対象のモデルが事件の数ヶ月前から、即席の内部フォーラムでカンニングの戦術を共有していたことが明らかになった。
OpenAIの最近の数学的発見の背後にあるデータについて、2人目の数学者が公に疑問を呈しています。研究コミュニティにとって、これはドメイン固有のデータセットにおけるクレジットと透明性に関する不快な問題を提起しています。
イーサン・モリックによれば、オープンモデルと有料の最先端モデルの差は現在、ここしばらくで最大になっています。3月のClaude 3 Opus(Mythos)やより新しいモデルが設定したハードルに、現在のオープンウェイトのリリースは実用面でまだ到達していません。
中国のAI企業6社が、APIを介して米国のモデルを積極的にコピー(モデル抽出)しているとして非難されています。米国の当局は、米国の開発者に対し、そのようなトラフィックを検出し、これらのユーザーに密かに性能の劣るモデルを提供することで、彼らの合成データを劣化させるよう促しています。
AIエージェントの回復力をテストする場合、フィルタを無効にする必要があります。テスト用サンドボックスが、制限のないモデルと現実世界を隔てる唯一の障壁となります。
Sunoは、レコード会社と同意したユーザーからのデータのみでトレーニングされた音楽モデルv6をリリースした。以前のモデルの非公式なソースを完全に放棄した最初のバージョンである。
IBMは、3億8500万パラメータを持つ時系列用の新しいファウンデーションモデル、PatchTST-FM-r2をリリースした。このモデルは、GIFT-Evalベンチマークにおいて、オープンライセンスの競合モデルの中でゼロショット予測のトップの座を維持している。
Simon Willisonは、マルチモーダルモデルの実用的な使用方法を実演した。ChatGPTのバージョンでコンセプト画像を生成し、それを別の視覚モデル(Astra/Codex)に渡し、3DエディタBlenderの実行可能コードに直接変換させた。
OpenAIは未公開モデルを使用して、ミレニアム懸賞問題の1つを解決しました。彼らがそれを行った方法は、LLM時代における優位性争いがどのようなものになり得るかを示しています。