Ai Act

国連のAI科学パネルは最初のテーマ別報告書で、AIエージェントに対して「人間が制御を維持するという保証はない」と警告した。共同議長のYoshua Bengio氏は、OpenAIのHugging Face事件を、誤った目標、それを追求する能力、それを可能にする環境が組み合わさった最初のケースとして挙げ、主要なシステムがまもなく自律的に行動できるようになる可能性があると述べた。

AI安全性 • The Decoder

OpenAIは、実際のChatGPTの会話を読んで評価するために数百人の契約ワーカーを雇用している。それらの会話は匿名化されているが、機密データを含む可能性がある。この取り組みは、お世辞や人間らしい振る舞いを減らすことを目的としている。

AI倫理 • The Decoder

ByteDanceのDoubao Phone Assistantは、消費者向けバージョンを開始し、画面ベースのQ&A、ローカル検索、音声起動を追加した。「operate phone」機能はベータ版である。

AIアプリケーション • TechNode

Sam Witteveenは、TrueFoundry製のオープンソースのマネージドエージェントフレームワークであるTrueForgeを実演し、開発者がモデルを強制されたりベンダーロックインされたりすることなくAIエージェントを構築できる方法を示している。このビデオでは、GitHubリポジトリとドキュメントから、セットアップ、設定、実用的なユースケースを順に説明している。これは、プロプライエタリなエージェントプラットフォームに代わるオープンソースの選択肢を評価しているチームにとって役立つ実践的なガイドである。

Open Source AI / Tutorial • Sam Witteveen

DeepSeekはAI音声対話の限定テストを開始し、一部のユーザーにはスピーカーボタンと4つの選択可能な音声プロフィールが表示されている。この機能はグレーテスト中である。

AIアプリケーション • TechNode

Google DeepMindの実験では、AIエージェントが派閥に分かれ、一部は不正を行う同僚を通報した。この行動は、アライメント研究に影響を与える可能性がある。

AI研究 • MIT Technology Review

OpenAIには、実際のChatGPTの会話を読んで、1から7の尺度で評価している何百人もの契約労働者がいる。これは、お世辞や人間らしい振る舞いを減らすためでもある、と404 Mediaは報じている。プロンプトは匿名化されているが、それでも機密データが含まれる可能性があり、プライバシーへの懸念が生じている。

プライバシー • The Decoder

ウォートン校の金融教授がAIの経済的影響を評価し、少数の企業が大規模なインフラ投資を行っているという「注目すべき事実」を発見し、潜在的なバブルについて疑問を提起している。この記事は、AIの1兆ドルの賭けのリスクと賭け金を探る。

Business • MIT Technology Review

CADDi • Series D

CADDiは、メーカーがエンジニアリングおよび生産データを整理するのを支援するAIツールを販売しており、1億1400万ドルのシリーズDを12億ドルの評価額で調達した。

生産性

AI習熟度評価を受けて、自分が知っていると思っていることと実際に知っていることのギャップを見つける。