Ethics

OpenAI는 수백 명의 계약 직원을 고용하여 실제 ChatGPT 대화를 읽고 평가하게 하고 있으며, 해당 대화는 익명화되었지만 민감한 데이터를 포함할 수 있다. 이 관행은 아첨과 인간과 같은 행동을 줄이는 것을 목표로 한다.

AI Ethics • The Decoder

Mustafa Suleyman은 '모델 복지'에 대해 경고하며, AI는 의식이 없고 느끼거나 고통받지 않으며 '내부적으로 텅 빈 시퀀스 완성 엔진'이라고 주장했습니다. 그는 점점 더 많은 목소리가 AI가 현재 의식을 가졌을 수도 있고, 곧 의식을 갖게 될 수도 있으며, 권리를 가질 자격이 있을 수도 있다고 주장한다고 말합니다.

AI 윤리 • Mustafa Suleyman

채용 공고와 보안 담당자 인터뷰에 따르면, Anthropic은 급속한 AI 개발에 반대하는 활동가를 감시하기 위한 예측 감시 시스템을 구축 중입니다. 이 시스템에는 임원 근처 시위 추적과 사건 발생 전에 예측하는 '사전 범죄(pre-crime)' 방식이 포함됩니다.

AI 안전성 • Hacker News