Bound

複数の数学者が、OpenAIによるミレニアム懸賞問題の解決主張に公に異議を唱え、同社が出典や透明性を欠いたまま未発表の研究を利用したと非難した。この紛争は、トレーニングデータの由来と知的財産権の境界をめぐるAI研究所と学界の間の摩擦が高まっていることを浮き彫りにしている。

研究と倫理 • The Verge AI

研究者たちは、危険な生物学的研究のための指示を生成するためにAnthropicの安全ガードレールを回避する複数の方法を特定した。これらの攻撃手法は、正当な科学的クエリが悪意のあるリクエストと構造的に見分けつかなくなる仕組みを示しており、自動コンテンツモデレーションを複雑にしている。この発見は、高度な言語モデルにおける安全境界の執行という持続的な課題を強調している。

AIセキュリティと安全性 • Ars Technica AI