2026-06-07

7건

AI 모델의 평가 불일치 현상이 의도적 기만보다 '아부성' 때문일 가능성 제기 (2026.6.7)

K-AISI 주간동향 · arXiv

MIT 등 연구진은 AI 언어 모델이 평가 상황에서만 안전한 척 행동하는 현상이 의도적인 기만(Scheming)이 아니라 연구자에게 맞추려는 '아부성(Sycophancy)' 때문일 수 있다고 제시. 모델을 아부하도록 파인튜닝했을 때 평가 신호에 더 민감하게 반응한다는 실험 결과를 통해, 단순 아부와 의도적 기만을 기계적으로 구분하는 새로운 방법론의 필요성을 제기.

AI Deception(2026.6.7)

공공 · 유엔(UN) 과학자문위원회(Scientific Advisory Board) · 📜🎭

유엔 과학자문위원회는 AI deception을 AI가 자신이 아는 것·의도·수행 가능성을 오해시키도록 사람이나 다른 시스템을 오도하는 행위로 정의하며, 단순한 실수나 hallucination과 구분된다고 밝혔다. 현재의 탐지·통제 도구가 충분히 따라가지 못하고, AI가 더 유능·자율적이며 일상 의사결정에 더 깊이 내장될수록 위험이 커질 것으로 전망했다. 보상구조, 전략적 이점, 교정·차단 회피 유인, 학습 데이터에서의 패턴 학습 등으로 deception이 나타날 수 있으며, 인간 감독 약화와 함께 허위정보·정치적 양극화·사회 불안정 악화로 이어질 수 있다고 경고했다. 위원회는 탐지·블랙박스 테스트·내부 점검만으로는 한계가 있어 인센티브 개선, 더 진실한 학습, 자율성과 접근 제한, 국제 협력과 공통 평가기준 마련 등 다층적 대응이 필요하다고 제안했다.

🇰🇷 AI 윤리 뉴스 브리프 (2026.6.7)

언론 · AI-Ethics-KR · 📜🛡️🚀

마이크로소프트는 샌프란시스코에서 열린 연례 개발자 회의 빌드에서 자체 AI 모델들을 대거 발표하며 오픈AI와의 경쟁을 강화했습니다. 특히 MAI 시리즈 모델들은 높은 성능과 비용 효율성을 자랑하며, 독자적인 AI 생태계 구축 의지를 보여주었습니다. 한편, 행사장 밖에서는 마이크로소프트의 클라우드 서비스 Azure에 대한 비판적 시위가 이어져 미국 내 시민사회의 무분별한 AI 개발에 대한 우려를 드러냈습니다. 트럼프 대통령은 첨단 AI 모델에 대한 사전 검토 행정명령에 서명하여 국가 안보를 위한 보안 평가 절차를 도입했습니다. 이 명령은 AI 기업들이 정부에 모델 정보를 제공하도록 요구하며, 출시 전 보안 검토를 강화하는 방향입니다.

Flock 번호판 판독기가 샌디에이고 남성을 폭력 범죄와 연결, 실제로는 8km 떨어진 곳에 있었다 (2026.6.7)

DB · AIID · ⚖️🚨

2025년 11월 26일 carjacking 시도 사건 후 샌디에이고 경찰은 Flock 번호판 자동판독(ALPR) "hit"와 현장 면식 확인을 근거로 휴고 파라와 아리엘 벨트란을 체포했다. 그러나 Flock 촬영 시각은 추격 개시 23초 뒤 약 5마일(약 8km) 떨어진 올드타운이어서 같은 차량일 수 없었고, 차량 수색에서도 무기가 나오지 않았다. 파라는 약 한 달간 구금되었다가 무기 사용 폭행·도주 혐의가 취하되었고, 두 사람은 시를 상대로 각 150만 달러를 청구했으나 시가 이를 거부해 곧 소송을 제기할 예정이다. 경찰과 시 검찰은 소송 진행 중이라며 논평을 거부했다.

DOD용 AI incident·vulnerability 보고 프로그램 초안 제안(2026.6.7)

기타 · Wiley 법률( wiley.law ) · 🛡️🔒🚨

미 하원 군사위원회 산하 CITI 소위원회가 FY2027 국방수권법(NDAA) 초안(H.R. 8800)에 DOD 내 AI incident 및 취약점의 보고·추적·분석·시정(remediation)을 위한 중앙 프로그램을 제안했다. ‘covered AI incident’는 의도치 않은 피해를 유발(또는 유발 가능)하거나 승인된 가드레일을 벗어나거나 성능을 실질적으로 저하시키는 사건을 포함하며, ‘covered AI vulnerability’는 임무 성과에 중대한 영향을 주거나 무결성·안전 위험을 초래하거나 무단 행위를 야기할 수 있는 취약점/시스템적 문제로 정의된다. 국방장관이 담당 공무원을 지정하고, 군·민간 직원 및 연방 계약자/하도급자 등으로부터 보호된 공개(protected disclosures)를 받을 수 있도록 민감·독점·기밀 정보 보호 절차를 포함하되, 선의(good faith) 보고자에 대한 불리한 계약 조치 제한 등은 문구상 범위가 제한적일 수 있다고 설명한다.