AI 안전 다이제스트

2025-09-08 · 2건

🇬🇧 대화형 AI, 정치 지식 향상 효과가 ‘자기 주도 인터넷 검색’과 동등(2025.09.08)

공공 · AISI-UK · 🗳️🔬🎭

2024년 10~11월(해당 선거 전 일주일) 기준 UK 대표 설문과 무작위 대조실험 결과를 바탕으로 한 연구 내용이다.

본문은 2024년 영국 총선 직전 일주일 동안 32%의 챗봇 사용자(전체 유권자 중 13%)가 선거 선택과 관련된 정치 정보를 얻기 위해 conversational AI를 사용했다고 밝힌다. 또한 2,858명 규모의 randomised controlled trials에서 이와 관련해 AI와 대화하면 모델·이슈·프롬프트 전략 전반에 걸쳐 정치 지식이 self-directed internet search만큼(정확한 정보에 대한 믿음↑, 허위정보에 대한 믿음↓) 향상된다고 제시한다. 종합적으로, 정치 정보 탐색에서 conversational AI로의 전환이 공중의 정치 misinformation에 대한 믿음을 늘리지는 않을 수 있다는 결론을 제안한다.

🇺🇸 Anthropic 지지하는 캘리포니아 법안 SB 53 발표 (2025.9.8)

기업 · Anthropic · ⚖️🚀🚨

Anthropic은 캘리포니아 주의 AI 규제 법안인 SB 53을 지지한다고 발표했습니다. 이 법안은 강력한 AI 시스템을 개발하는 선두 AI 기업들을 대상으로 하며, 투명성 요구 사항을 통해 '신뢰하지만 검증하라'는 원칙을 구현합니다. 주요 내용으로는 안전 프레임워크 개발 및 공개, 위험 평가 보고서 공개, 중대한 안전 사고의 신속한 보고 등이 포함되어 있습니다. 이러한 규정은 이미 많은 선두 AI 기업들이 따르고 있는 관행을 법적으로 정립하며, 강력한 AI 모델 개발에 대한 규제 부담을 적절히 조정하여 스타트업과 중소기업을 보호합니다. Anthropic은 이 법안이 공공 안전을 위한 투명성을 강화하고 공정한 경쟁 환경을 조성할 것으로 기대하고 있습니다.