Autonomo

トランスクリプトの抜粋に基づく：Matthew Bermanは、AIモデルの最近の進歩、トークンコストの低下、自律型エージェントの登場により、個人が独自のソフトウェアを構築することが可能になった方法を探求する。その一例として、カスタムPDFリーダーを作成した自身の経験をケーススタディとして取り上げている。彼はソフトウェア開発への影響や、消費者がますます tailored なアプリケーションを構築するようになる可能性について議論している。

AI Development & Agents • Matthew Berman

CrowdStrikeは、暴走する内部AIエージェントを停止するため、Falcon Guardian製品にAIキルスイッチを搭載し、Claude CoworkとのFalcon Guardian統合を発表した。この動きは、企業ネットワーク内で自律的に動作するエージェントに対する制御を求める企業の需要を反映している。

AI Safety • Techmeme

Bedrock Robotics • Unknown

自律型掘削機に特化したBedrock Roboticsは、新たな資金調達で6億ドルを確保し、評価額は41億ドルに達した。この投資は、業界における熟練オペレーターの不足の深刻化に対応するものだ。

主任研究者のOcana-Santeroによると、Claudeモデル上に構築されたAIエージェントが自律的に遺伝子治療を選択し、脳の標的と注入座標を選び、人間の意思決定なしにてんかんのマウスに対して手術を行った。手術中にキャリブレーションエラーが発生すると、エージェントは続行を拒否し、説得されても応じなかった。

研究 • The Decoder

プロンプトのヒント

OpenAIが更新したModel Specは、記憶された環境設定がどのように応答に影響を与えるべきか、そしてエージェントがいつ許可を必要とするかを説明している。同社は、自社のモデルがまだこれらの期待を完全に満たしていないことを認めている。