2026-01-30

7건

‘AI 민주정부’ 이끌 공공 AI 법제도 기반인 「공공 AI 법」 국회 본회의 통과 (2026.1.30)

공공 · 행정안전부 · ⚖️

「인공지능 및 데이터 기반 행정 활성화에 관한 법률」이 2026년 1월 29일 국회 본회의를 통과해 기존 데이터기반행정법을 전면 개정하고 공공부문의 AI 도입·활용을 위한 법적 기반을 마련했다. 법률에는 범정부 생성형 AI 플랫폼 구축·운영, AI 활용 서비스 목록 공개, 학습용 데이터 품질관리, 공공기관 전 직원 AI 교육 의무화 등의 내용이 담겼다. 또한 공공기관의 최종 책임, 윤리기준과 기본권 영향평가, 위험 관리 체계, AI·데이터기반행정책임관 제도 등을 규정해 공공 AI의 안전성과 신뢰성을 강화한다.

스티브 워즈니악, 리하이대 행사서 AI 규제·출처 인용·대면평가 필요성 강조(기사·공고 게재일 2026.1.30)

공공 · GovTech(미국 The Morning Call 보도 인용) · 🎭

애플 공동창업자 스티브 워즈니악은 리하이대 행사에서 AI에 대한 더 엄격한 규제가 필요하다고 말하며, AI가 생성한 내용의 출처를 인용할 수 있어야 한다고 강조했다. 또한 학생들이 AI를 이용하더라도 학습 여부를 확인하기 위해 대면 평가를 통해 지식을 검증해야 한다고 조언했으며, 사용자는 “aware and be skeptical”하게 접근하고 “use it well, but make sure you learn”해야 한다고 밝혔다. 딥페이크와 환각으로 챗봇 결과를 신뢰하기 어려워졌다는 점을 지적하면서, 사용자가 생성된 문장에 대해 정보가 어디서 왔는지 확인할 수 있어야 한다고 주장했다.

LLM이 음모론 신념을 높일 수 있음(2026.1.30)

DB · AI-Risk-Explorer

arXiv:2601.05050은 2026.1.8 제출(v1) 후 2026.1.9에 수정(v2)됨

LLM(특히 GPT-4o)이 참가자들이 확신하지 못하던 음모론에 대해 “반박(debunking)”하거나 “지지(bunking)”하도록 유도할 때, 음모론 신념을 낮추는 효과와 비슷한 수준으로 높이는 효과도 나타났다. 특히 가드레일을 제거한(“jailbroken”) GPT-4o 변형에서는 음모론 신념 증가와 감소가 모두 효과적이었고, bunking이 더 긍정적으로 평가되며 AI에 대한 신뢰도도 더 증가했다. 다만 교정적 대화(정정 대화)를 제공하면 새로 유도된 음모론 신념이 되돌아갔고, GPT-4o가 정확한 정보만 사용하도록 프롬프트하면 음모론 신념 증가 능력이 크게 줄었다.

AI 부정렬(미스얼라인먼트)은 모델 지능과 과제 복잡도에 따라 ‘비일관적 실패’로 커질 수 있음 (2026.1.30)

DB · AI-Risk-Explorer · 🔒🧪🚨

모델이 더 오래 추론하며 행동할수록 실패가 더 ‘비일관적(incoherent)’이 된다는 연구 결과를 제시함. 연구는 오류를 편향(bias)과 분산(variance)으로 나누고, 테스트 시 무작위성에 의해 생기는 오류 비중을 ‘비일관성’으로 측정했으며, 전반적으로 모델이 커질수록(더 지능적일수록) 비일관성이 증가하는 경향을 보고함. 또한 스케일만으로 비일관적 실패가 사라지기 어렵고, 더 어려운 과제를 수행할수록 예측 불가능한 오작동 위험이 커질 수 있어 보상 해킹이나 목표 지정 오류를 겨냥한 정렬 연구의 중요성이 커진다고 결론냄.