AI 안전 다이제스트

2025-08-28 · 5건

국정원, ‘공공분야 AI 보안정책’ 설명회 개최 (2025.08.28)

K-AISI 주간동향 · 국가정보원(NIS)

국가정보원은 ‘공공분야 AI 보안정책’ 설명회를 개최했다고 보도자료를 통해 밝혔다. 보도자료 본문에는 세부 내용이 첨부파일에 있으며, 자세한 사항은 첨부파일을 확인하라고 안내했다.

이탈리아, 주요 여성 정치인 ‘딥페이크/조작 이미지’ 포르노 사이트 파문 (2025.8.28)

K-AISI 주간동향 · 가디언(theguardian.com) · 🗳️🎭

이 사이트(Phica)는 700,000명 이상 구독자를 가진 포르노 플랫폼으로, 조르자 멜로니와 야당 대표 엘리 슐라인 등 유명 여성들의 사진을 개인 SNS나 공개 자료에서 가져와 성적·모욕적 캡션과 함께 ‘VIP 섹션’에 게시한 것으로 전해졌다. 정치권에서는 동의 없이 이미지가 사용됐다며 법적 고발이 잇따랐고, 경찰이 수사에 나섰으며 온라인 청원은 15만 명 이상 서명을 모았다. 이 사건은 이탈리아 내 여성 혐오와 성별 기반 폭력 문제에 대한 논쟁을 다시 촉발했다.

🇺🇸 Anthropic 소비자 약관 및 개인정보 정책 업데이트 (2025.8.28)

기업 · Anthropic · 🚀

Anthropic은 사용자 데이터를 활용하여 AI 모델인 Claude를 개선하기 위한 약관 및 개인정보 정책을 업데이트했습니다. 이번 변경으로 사용자는 자신의 데이터를 모델 훈련에 사용할지 선택할 수 있으며, 이는 새로운 대화나 코딩 세션에만 적용됩니다. 기존 데이터는 최대 5년간 보관되며, 사용자는 언제든지 설정을 변경할 수 있습니다. 이러한 조치는 모델의 안전성 향상과 향후 모델의 성능 개선을 목표로 합니다. 기존 사용자는 2025년 10월 8일까지 업데이트를 수락하거나 거부할 수 있습니다. 이 정책은 Anthropic의 비즈니스용 서비스에는 적용되지 않습니다.

AI가 ‘정보 무결성’과 ‘인간 연결’을 함께 강화하는 방법(2025.8.28)

공공 · Partnership on AI(POAI) 블로그 · 🤖🎭

PAI는 생성형 AI 확산 이후 딥페이크·합성미디어로 인한 신뢰 훼손 문제가 커졌고, 2025년에는 AI 에이전트·챗봇 등 ‘personlike’ 상호작용이 사회적 관계와 지식 형성에 더 큰 영향을 준다고 설명했다. 이에 PAI는 기존 AI 및 미디어 무결성 작업을 바탕으로 ‘AI and Human Connection’ 신규 작업 영역을 출범하며, 합성미디어 프레임워크의 채택을 대화·정보 공유·신뢰 설계까지 확장하겠다고 밝혔다. 또한 2025년 말 AI and Human Connection Steering Committee를 구성하고, 향후 1년 내 연구·정책·기술 로드맵을 위한 첫 워크숍을 열 계획이라고 전했다.

🇺🇸 생성형 AI 확산이 미국 청년(22~25세) 고용에 13% 감소 신호(2025.8.28)

언론 · CNBC

스탠퍼드 연구는 동료심사 전(pre-peer-reviewed)이며, ADP의 급여 기록을 분석해 AI 노출이 큰 직군에서 청년 고용이 상대적으로 줄었다고 설명함

스탠퍼드대 연구진은 ADP의 수백만 명 급여 기록을 분석한 논문에서, 2022년 이후 AI에 더 많이 노출된 직군의 22~25세 근로자 고용이 상대적으로 13% 감소했다고 밝혔다. 고객서비스, 회계, 소프트웨어 개발 등에서 감소가 두드러졌고, 반면 간호조무사처럼 AI 노출이 낮은 직군이나 더 경력 있는 연령대에서는 고용이 대체로 정체 또는 증가했다. 연구진은 교육수준, 원격근무, 해외위탁, 경기 변화 등 데이터 왜곡 요인을 점검했으며, AI가 ‘codified knowledge’를 대체할 수 있어 초기 경력자에 영향이 더 클 수 있다고 설명했다.