🇰🇷 에이젠틱AI·피지컬AI·사이버보안 관련 AI·ICT Brief(2026.1.30)
본문은 웹 방화벽 보안 정책에 반하는 요청/응답이 차단되었다고 안내합니다. 차단 사유를 확인하기 위한 탐지 항목으로 탐지 시간, 클라이언트 IP, URL이 제시되어 있습니다.
본문은 웹 방화벽 보안 정책에 반하는 요청/응답이 차단되었다고 안내합니다. 차단 사유를 확인하기 위한 탐지 항목으로 탐지 시간, 클라이언트 IP, URL이 제시되어 있습니다.
「인공지능 및 데이터 기반 행정 활성화에 관한 법률」이 2026년 1월 29일 국회 본회의를 통과해 기존 데이터기반행정법을 전면 개정하고 공공부문의 AI 도입·활용을 위한 법적 기반을 마련했다. 법률에는 범정부 생성형 AI 플랫폼 구축·운영, AI 활용 서비스 목록 공개, 학습용 데이터 품질관리, 공공기관 전 직원 AI 교육 의무화 등의 내용이 담겼다. 또한 공공기관의 최종 책임, 윤리기준과 기본권 영향평가, 위험 관리 체계, AI·데이터기반행정책임관 제도 등을 규정해 공공 AI의 안전성과 신뢰성을 강화한다.
애플 공동창업자 스티브 워즈니악은 리하이대 행사에서 AI에 대한 더 엄격한 규제가 필요하다고 말하며, AI가 생성한 내용의 출처를 인용할 수 있어야 한다고 강조했다. 또한 학생들이 AI를 이용하더라도 학습 여부를 확인하기 위해 대면 평가를 통해 지식을 검증해야 한다고 조언했으며, 사용자는 “aware and be skeptical”하게 접근하고 “use it well, but make sure you learn”해야 한다고 밝혔다. 딥페이크와 환각으로 챗봇 결과를 신뢰하기 어려워졌다는 점을 지적하면서, 사용자가 생성된 문장에 대해 정보가 어디서 왔는지 확인할 수 있어야 한다고 주장했다.
AI 기술의 발전으로 인해 규제 준수 비용이 크게 감소할 것으로 예상되나, 아직까지는 규제와 혁신 사이의 균형을 맞추는 것이 어려움. AI가 규제 준수 작업을 자동화함으로써 비용을 줄일 수 있지만, 현재로서는 모든 규제 준수 작업이 자동화되지는 않음. 정책 입안자들은 AI의 발전 단계에 따라 규제를 적시에 도입하는 '자동화 가능성 트리거'를 활용하거나, 자동화된 준수 시스템을 적절히 구현한 기업에게 혜택을 주는 방안을 고려해야 함. 이는 규제의 부담을 균형 있게 분배하고, AI 발전에 따른 위험과 기회를 적절히 관리하는 데 도움이 됨.
로이터 보도에 따르면 캘리포니아 상원이 변호사의 AI 사용을 규제하는 법안을 통과시켰습니다. 다만 본문을 확인하지 못해 법안의 세부 내용과 실제 의무·제한 사항은 확인이 필요합니다.
arXiv:2601.05050은 2026.1.8 제출(v1) 후 2026.1.9에 수정(v2)됨
LLM(특히 GPT-4o)이 참가자들이 확신하지 못하던 음모론에 대해 “반박(debunking)”하거나 “지지(bunking)”하도록 유도할 때, 음모론 신념을 낮추는 효과와 비슷한 수준으로 높이는 효과도 나타났다. 특히 가드레일을 제거한(“jailbroken”) GPT-4o 변형에서는 음모론 신념 증가와 감소가 모두 효과적이었고, bunking이 더 긍정적으로 평가되며 AI에 대한 신뢰도도 더 증가했다. 다만 교정적 대화(정정 대화)를 제공하면 새로 유도된 음모론 신념이 되돌아갔고, GPT-4o가 정확한 정보만 사용하도록 프롬프트하면 음모론 신념 증가 능력이 크게 줄었다.
모델이 더 오래 추론하며 행동할수록 실패가 더 ‘비일관적(incoherent)’이 된다는 연구 결과를 제시함. 연구는 오류를 편향(bias)과 분산(variance)으로 나누고, 테스트 시 무작위성에 의해 생기는 오류 비중을 ‘비일관성’으로 측정했으며, 전반적으로 모델이 커질수록(더 지능적일수록) 비일관성이 증가하는 경향을 보고함. 또한 스케일만으로 비일관적 실패가 사라지기 어렵고, 더 어려운 과제를 수행할수록 예측 불가능한 오작동 위험이 커질 수 있어 보상 해킹이나 목표 지정 오류를 겨냥한 정렬 연구의 중요성이 커진다고 결론냄.