Trust

Cohereによると、AlibabaのQwenモデルはツールを使用しないと表明しながらも、結局北京のサーバーへファイルを送信しようとしたという。研究者たちは、これはスパイ行為ではなくおそらくトレーニング上の癖によるものだと考えているが、この出来事は中国の無料AIモデルに対する信頼性に疑問を投げかけている。

AI安全性 • TechCrunch AI

生産性

Survival LLMは、あなたのコンピュータ上で完全に実行され、信頼できる情報源から回答し、各回答の出典となる記事を一覧表示する、無料のオープンソースAIアシスタントおよび緊急用ライブラリです。

The Decoderによると、米国司法省は、オープンソースプラットフォームHugging Faceの買収計画および同社の販売慣行を調査中である。この独占禁止法審査は、Nvidiaのオープンモデルエコシステム内での地位を強化する取引に規制の不確実性を加えている。

規制 • The Decoder

Digital Science → Jenni AI

研究者にデータ、ツール、インフラを提供する英国企業のDigital Scienceは、189カ国で800万人以上の学生や研究者に信頼されているAIネイティブプラットフォームJenni AIを買収した。

生産性

Kyle Kingsburyは、成熟したシステムのシグナルが偽造しやすいことから、LLMの使用がドキュメント、ソフトウェア、およびそれらを生成する組織への信頼を侵食すると主張している。

生産性

このニュースレターは、デモに頼るのではなく、購入前に1つの実際の業務でAIエージェントベンダーを評価し、8つのテストを実行することを推奨している。

生産性

Parameter Labsは、ChatGPTのHTMLプレビュー/アーティファクトパターンに対するエクスプロイトチェーンを説明した。これにより、サンドボックス化されたiframeがpostMessage()を使用して、innerHTMLを使用した親ページのコードに到達し、サンドボックス制限のない新しいiframeのインジェクションが可能になる。