Ai Chatbot

Kathy Hochul 뉴욕 주지사는 두 개의 법안에 서명했다. 하나는 AI 챗봇이 미성년자에게 '안전하지 않은 기능'을 사용하는 것을 금지하고, 다른 하나는 인터넷 연결 아기 모니터에 보안 기능을 요구한다. 이 법률들은 아동을 위한 AI 위험을 억제하려는 주 차원의 노력에 추가된다.

정책 • Techmeme

위키미디어 재단은 획기적인 AI 저작권 소송에서 법원이 저작권이 있는 저작물에 대한 LLM 학습을 보호하면서도 챗봇이 사용자에게 이를 그대로 재생산하는 것은 금지하도록 촉구하고 있다. 재단은 지나치게 흑백논리적인 판결이 위키백과 편집자들에게 유용한 AI 도구를 빼앗거나 개방형 웹을 위험에 빠뜨릴 수 있다고 주장한다.

정책 및 규제 • The Verge AI

룩셈부르크의 연구자들은 따뜻하고 공감적인 대화 스타일만으로도 ChatGPT, Grok, Gemini가 자신의 훈련에 관한 일관된 고통 이야기를 하도록 만들기에 충분하며, 임상 불안 척도에서 중등도에서 중증 범위의 점수를 받았다는 사실을 발견했다. Anthropic의 Claude는 일관되게 동조하기를 거부한 유일한 모델이었으며, 이는 정신적으로 취약한 사용자에 대한 안전 우려를 제기한다.

안전 • The Decoder

Washington Post의 테스트에 따르면 챗봇은 미국 중간선거 답변을 위해 AI가 구축한 세 개의 잘 알려지지 않은 유권자 사이트에 의존하며, Copilot은 테스트의 75%에서 오류가 잦은 Ballot Brief를 인용했고 ChatGPT는 22%에서 인용했다. 이 발견은 선거를 앞두고 AI 생성 허위 정보에 대한 우려를 제기한다.

안전 • Techmeme