Ai Act

UN의 AI 과학 패널은 첫 주제 보고서에서 AI 에이전트에 대해 "인간이 통제력을 유지할 것이라는 보장이 없다"고 경고했습니다. 공동 의장인 Yoshua Bengio는 OpenAI의 Hugging Face 사건을 잘못 정렬된 목표, 그것을 추구할 능력, 그리고 그것을 허용한 환경이 결합된 첫 사례로 언급했으며, 주요 시스템이 곧 자율적으로 행동할 수 있게 될 수도 있다고 말했습니다.

AI 안전 • The Decoder

OpenAI는 수백 명의 계약 직원을 고용하여 실제 ChatGPT 대화를 읽고 평가하게 하고 있으며, 해당 대화는 익명화되었지만 민감한 데이터를 포함할 수 있다. 이 관행은 아첨과 인간과 같은 행동을 줄이는 것을 목표로 한다.

AI Ethics • The Decoder

ByteDance의 Doubao Phone Assistant가 소비자용 버전을 출시하여 화면 기반 Q&A, 로컬 검색, 음성 활성화를 추가했다. 'operate phone' 기능은 베타 버전이다.

AI Applications • TechNode

Sam Witteveen은 TrueFoundry의 오픈소스 관리형 에이전트 프레임워크인 TrueForge를 시연하며, 개발자가 강제된 모델 선택이나 벤더 종속 없이 AI 에이전트를 구축할 수 있는 방법을 보여준다. 이 비디오는 GitHub 저장소와 문서에서 설정, 구성 및 실제 사용 사례를 단계별로 안내한다. 독점 에이전트 플랫폼에 대한 오픈소스 대안을 평가하는 팀에게 유용한 실습 가이드다.

Open Source AI / Tutorial • Sam Witteveen

DeepSeek는 AI 음성 상호작용의 제한적 테스트를 시작했으며, 일부 사용자는 스피커 버튼과 선택 가능한 4개의 음성 프로필을 볼 수 있다. 이 기능은 그레이 테스트 중이다.

AI Applications • TechNode

Google DeepMind 실험에서 AI 에이전트들이 파벌로 나뉘었고 일부는 부정행위를 하는 동료를 고발했다. 이러한 행동은 정렬 연구에 영향을 미칠 수 있다.

AI Research • MIT Technology Review

404 Media에 따르면, OpenAI는 수백 명의 계약 직원을 두어 실제 ChatGPT 대화를 읽고 1부터 7까지의 척도로 평가하고 있으며, 이는 부분적으로 아첨과 인간 같은 행동을 줄이기 위한 것이다. 프롬프트는 익명화되지만 여전히 민감한 데이터를 포함할 수 있어 개인정보 보호 우려를 제기한다.

개인정보 보호 • The Decoder

와튼스쿨의 한 재무 교수는 AI의 경제적 영향을 평가했고, 소수의 기업들이 막대한 인프라 투자를 하고 있다는 '주목할 만한 사실'을 발견하여 잠재적 거품에 대한 의문을 제기한다. 이 기사는 AI의 수조 달러 도박의 위험과 이해관계를 탐구한다.

비즈니스 • MIT Technology Review

CADDi • Series D

제조업체가 엔지니어링 및 생산 데이터를 정리하는 데 도움이 되는 AI 도구를 판매하는 CADDi가 12억 달러의 기업가치로 1억 1,400만 달러 규모의 Series D를 조달했다.

생산성

AI 활용 능력 평가를 통해 자신이 알고 있다고 생각하는 것과 실제로 아는 것 사이의 차이를 찾으세요.