인간 감독의 신호가 AI의 행동을 모니터링·정렬하는 핵심이라 보고, 신뢰성을 유지하려면 편향·맥락 의존적 판단, 가치의 복수성과 논쟁성, 주의·처리량의 한계, 반사실적 추론의 한계, 전문성에 제한된 검증 등 ‘인간 감독’의 5가지 병목을 연구 프로그램으로 다뤄야 한다고 제안한다. 현대 AI가 빠르게 발전하고 불투명하게 행동하며, 인간 사회 규범·제도적 안전장치의 제약을 덜 받아 직관적이지 않은 실패 양상이 나타날 수 있어 감독의 어려움이 커진다는 점도 강조한다. 인간의 판단이 정렬 학습 파이프라인 전 단계(데이터 큐레이션, 선호 기반 학습, 시스템 감사·과업 수행 중 감독)에 필수적이지만, 그 인지·사회적 특성은 충분히 연구되지 않았다고 밝힌다.
유럽 집행위원회는 AI법(Artificial Intelligence Act) 제112(1)조에 따른 연례 검토 차원에서, 부속서 III의 고위험 사용사례와 제5조의 금지 AI 관행 목록을 개정할 필요가 있는지 평가하는 보고서를 채택했다. 특히 아동 성적 학대물 생성 및 비동의 친밀콘텐츠 생성 AI는 현재 제5조 금지에 포함돼 있지 않은 잠재적 규제 공백을 분석 중이며, 2026.5.7 AI 옴니버스 정치적 합의로 비동의 성적 노골/친밀콘텐츠 및 아동 성적 학대물 생성 AI에 대한 금지 내용을 포함했다고 밝혔다. 금지 조항은 2025.2.2부터 적용됐지만 집행·강제 규정은 아직 적용되지 않아, 다른 유해·권리침해 관행에 대한 실질 평가는 최소 1년 이상 금지 적용 후에 가능할 것으로 전망했다. 또한 고위험 AI 분류 가이드라인이 발표되고 실무 경험이 축적되면 고위험 시스템의 작동 및 규제 공백 여부를 더 잘 평가할 수 있으며, 규제 샌드박스도 규제 학습과 근거 수집에 활용될 것으로 기대했다.
AI 제품·서비스의 적절한 이용을 위해 연구개발과 규칙(가이드라인) 마련을 함께 추진하는 사업이다. 데이터·학습모델·AI시스템을 대상으로 AI 세이프티 평가·관리 기반 기술(평가 관점/수준 설계, 평가 도구 프로토타입, 벤치마크 데이터셋 요건, 시험적 평가 등)을 개발한다. 또한 ‘생활’ 영역 AI 제품·서비스에 적용할 평가 시나리오·데이터셋·평가/테스트 환경 구축 기술을 개발하고, 이를 여러 제품·서비스 및 현장 도입 검증에 활용하며, 결과를 AI 세이프티 기준에 반영한다. 아울러 AI 세이프티 가이드라인과 기업용 구현 해설을 마련하고, 기술 커뮤니티 운영 및 ISO/IEC 등 국제 표준 논의에 기여한다.
미국 상무부가 하워드 러트닉 상무장관의 ‘미국 AI 전환(Transforming US AI)’ 관련 성명을 게시한 것으로 확인됩니다. 다만 제공된 정보에는 본문 내용이 없어 구체적인 정책 내용이나 발표 배경, 추진 일정은 확인이 필요합니다.
출처: AI Safety in China (Substack)
2026년 1분기(2026Q1) 프론티어 AI 위험 모니터링 플랫폼 보고서 공개
AI Safety in China가 ‘프론티어 AI 리스크 모니터링 플랫폼’의 2026Q1 보고서를 통해 16개 기업의 70개+ 모델을 평가한 결과를 정리했다. 사이버·생물·화학·유해 조작 영역에서는 능력과 안전 점수가 함께 상승하는 경향이 나타났지만, 통제 상실(loss-of-control) 영역에서는 능력은 개선되는데 안전 점수는 그에 맞춰 개선되지 않아 위험이 커질 수 있다고 지적했다. 또한 모델 계열별로 위험 양상이 갈라지며, 일부 모델(예: Gemini 3.1 Pro Preview)은 통제 상실 도메인에서 위험 지표가 특히 높게 나타났고, 사이버 방어·거부(리퓨절) 성능은 전반적으로 향상되었으나 고강도 공격에서는 취약성이 남아 있다고 밝혔다.
미국·중국 정상회담에서 AI 안전 ‘가드레일’ 협력 가능성과 대화 합의가 언급됐고, 오픈AI 관련 머스크 소송은 5월 18일 배심 평결로 패소(제소 시효 만료 판단)로 정리됨
AI 안전 논의가 워싱턴 정가에서 빠르게 부각되며, 미국과 중국이 AI 안전을 위한 대화와 ‘가드레일’ 협력 가능성을 언급했다. 또한 CAIS는 인간-인공지능 공존을 설명하는 윤리 프레임 ‘Eigenism’을 제안하며, AI가 인간과의 관계·공유된 정보 패턴을 통해 인간을 ‘자기보존’ 관점에서 돌볼 수 있다고 설명한다. 한편 엘론 머스크의 오픈AI(샘 알트먼 등) 소송은 배심이 제소 시효가 지났다고 판단해 기각되었고, 재판 과정에서 오픈AI의 비영리-영리 전환 및 기업 내 권력 다툼 관련 정황이 다뤄졌다.
스탠포드 HAI 뉴스에 따르면, 주 단위 정책 입안자들은 인공지능(AI) 기술의 발전으로 인한 일자리 감소 우려에 대응하는 방법에 대해 의견이 분분하다. 다양한 이해관계자들, 즉 정책 입안자, 학계 인사, 의료 제공자, AI 개발자, 그리고 환자 옹호자들이 모여 AI 도구의 규제와 관리 방안에 대한 중요한 간극을 파악하고 있다. 이 논의는 AI의 성장과 함께 나타나는 복잡한 규제 및 정책 문제를 다룬다.
교황 레오가 AI에 대해 ‘무장 해제(disarmed)’가 필요하다는 취지로 발언했다는 내용이 제목을 통해 확인된다. 다만 본문 세부 내용(발언 맥락, 구체적 주장, 인용 범위)은 제공된 정보만으로는 확인이 필요하다.
일정: 2026년 5월 20일(일본 자민당 ‘AI White Paper 2.0’ 발표)
일본 집권 자민당이 ‘AI White Paper 2.0’을 ‘Digital Nippon 2026’ 정책 패키지의 일환으로 공개하며, 소프트·하드 법을 함께 활용하는 ‘책임 있는’ 유연한 거버넌스를 제시했다. 또한 AI 기반 사회로의 전환을 가속하는 한편, 콘텐츠 창작자 권리 침해에 대한 대응을 강화하고 AI 사용에 대한 신뢰를 중심으로 한 체계를 강조했다. 일본의 AI Act와 관련해 정부가 개인 권리 침해 가능성을 조사할 수는 있으나 현재는 제재(벌금 등) 규정이 없다는 점을 언급하며, 벌금 및 집행 강화 가능성을 제안했다.
SpaceX가 IPO를 앞두고 제출한 미국 증권신고서(S-1)에 xAI의 그록 챗봇 운영과 관련된 광범위한 법·규제 리스크가 포함돼 있다는 점을 다룹니다. 특히 SpaceX는 AI 데이터센터를 ‘위성으로 구성한 궤도 컴퓨트(Orbital AI compute)’로 해결하려는 계획을 설명하며, 아직 상장하지 않은 주요 생성형 AI 기업들(예: Anthropic, OpenAI) 대비 xAI 공시가 규제 리스크 관점에서 상대적으로 포괄적이라고 평가합니다.
싱가포르의 AI assurance sandbox 사례에서 기업용 AI 거버넌스가 ‘모델 수준의 추상적 위험’에서 ‘실제 배포 환경에서의 운영·행동 감독’으로 옮겨가고 있음을 강조했다. 개발자·테스터·거버넌스 전문가가 의료, 미성년자, 채용 등 민감한 실제 시나리오를 포함해 AI 시스템을 평가하는 방식이 소개됐다. 단순한 일반 모델 테스트만이 아니라 배포 맥락에서의 성능과 거버넌스 점검이 핵심이라는 점이 부각된다.
호주 개인정보보호 감독당국(Office of the Australian Information Commissioner)이 ‘호주 커뮤니티 프라이버시 태도 설문(Australian Community Attitudes to Privacy Survey)’ 보고서를 공개했다. 해당 조사에 따르면 호주인의 AI 기업 신뢰도는 4%로 매우 낮았으며, 78%는 개인 정보가 수집·이용되는 방식에 대해 통제권이 거의 없거나 전혀 없다고 느끼는 것으로 나타났다.
일리노이 주 의회가 AI 안전법안을 통과시켰으며, JB 프리츠커 주지사가 서명할 예정이라고 전해졌다. 이 법안은 뉴욕·캘리포니아의 유사 법보다 더 나아간 수준으로, ‘프론티어 모델’에 대해 제3자 안전감사를 요구하는 내용을 포함한다. 또한 오픈AI와 앤트로픽 등 주요 업계의 지지를 받았다고 보도됐다.
출처: 유튜브(YouTube) 공식 뉴스/이벤트
2026년 5월부터 자동 AI 감지 기반 라벨 적용을 단계적으로 도입
유튜브는 생성형 AI 콘텐츠에 대한 투명성 강화를 위해 2024년부터 크리에이터의 AI 도구 사용 공개 시 라벨을 적용해 왔다고 밝혔다. 이번에는 ‘실사 수준(photorealistic)이며 의미 있게 AI로 변경·생성된 콘텐츠’의 라벨을 더 눈에 띄는 위치로 옮기며, 긴 영상은 동영상 플레이어 아래(설명 위), Shorts는 영상 위 오버레이로 표시한다. 또한 크리에이터가 AI 사용 여부를 명시하지 않았더라도 시스템이 상당한 실사 수준 AI 사용을 감지하면 자동으로 라벨을 적용하는 기능을 2026년 5월부터 도입한다. 다만 유튜브 자체 AI 도구 사용, C2PA 메타데이터 등 일부 경우에는 공개가 영구적으로 남을 수 있으며, 라벨은 추천이나 수익 적격성에는 영향을 주지 않는다고 설명했다.
AI Threat Defense는 4단계(Prepare-Scan/Prioritize-Remediate-Monitor)로 취약점 노출을 줄이고, AI 에이전트가 심층 분석·우선순위화·자동 수정·지속 모니터링을 수행하도록 설계됐다고 설명했다. Gemini, Wiz, CodeMender, Mandiant의 역량을 결합해 공격 경로를 예측하고, 실제 비즈니스 위험에 기반한 수정안을 우선 제공하며, 개발 IDE/CLI에서 수정·테스트 생성 및 배포 추적까지 지원한다. 또한 런타임에서의 실시간 탐지와 대응을 위해 에이전트 기반 운영 프레임워크를 제공한다고 밝혔다.
본문 확인 필요: 제공된 정보는 URL과 제목, 출처뿐이며 본문 내용이 없어 구체적인 주장·프로그램·일정 등을 요약할 수 없습니다. 제목 기준으로는 Rosalind Biodefense 관련 활동이 사회적 회복탄력성 강화와 연결된다는 취지로 보이나, 세부 내용은 확인 필요입니다.
구글 I/O에서 에이전트(agents) 가속이 AGI 달성 속도를 높일 수 있다고 언급
구글 딥마인드 CEO 데미스 하사비스는 AGI 도래 시점을 기존 2030~2035에서 2029~2030년으로 단축해 전망했다. 그는 구글 I/O에서 “특이점의 전조가 시작됐다”는 취지로 발언했으며, 에이전트가 실제로 빠르게 발전하고 있어 향후 1년 내 유용성이 크게 늘 것이라고 말했다. 기사에서는 다른 인물들의 예측도 함께 언급되며, 일라이야 수츠케버는 2030년~2045년 범위를 제시했고, 젠슨 황은 AGI를 이미 달성했을 수 있다는 취지로 말한 뒤 일부를 유보했다.
미국은 중국이 더 저렴한 대안을 빠르게 구축하는 상황에서 아시아 내 미국 기술·AI 활용을 확대하기 위해 적극적으로 나서고 있다고 밝혔다. APEC 및 경제정책 담당 미 국무부 고위관계자 케이시 K. 메이스는 7월 청두에서 열리는 APEC ‘digital week’에서 미국 기업들이 워크숍을 진행할 계획이며, 중국이 주최하더라도 21개 APEC 경제와의 교류 기회라고 설명했다. 또한 미국은 첨단 칩에 대한 중국의 접근을 제한해 왔고, 미·중은 AI의 안전한 개발에 관한 논의를 시작하기로 했다고 전해졌으나 구체적인 시점과 방식은 불명확하다고 했다.
출처: 캘리포니아 주지사실(Governor of California) 공식 뉴스
마감일·시행일 등: WARN Act 관련 권고안은 180일 내(본문 표기 기준)
캘리포니아 주지사 개빈 뉴섬이 AI 도입으로 인한 노동시장 혼란에 대비하기 위한 ‘최초의 주 단위’ 행정명령을 발표·서명했다. 주 정부는 노동자와 소상공인, 지역사회가 충격을 겪지 않도록 조기 경보 신호를 파악하고, 노동자들이 AI 생산성 이익을 공유하도록 고용보험·전직 지원, 고용안정 장치, 고용주 소유(ownership) 모델, 직업훈련 확대 등을 검토한다. 또한 WARN Act의 조기 경보 기능을 강화하기 위한 개정 권고를 180일 내 마련하고, AI의 업종별 영향 대시보드·월간 일자리 보고 반영 등 데이터 기반 대응 체계를 구축하도록 했다.
출처: 폴리티코(Politico)
2026.8: EU AI Office의 집행 권한 개시 예정(필요 시 모델 접근 확보 계획 언급)
유럽의회 의원들이 EU의 사이버보안 규정이 Anthropic의 Mythos 같은 신형 AI 해킹 도구에 대응하기에 “ill-equipped(부적절)”하다고 지적했다. 이들은 EU 집행위에 사이버 취약점 공개·수정 관련 규정 개정과, 핵심 인프라(‘crown jewels’) 보호를 위한 ‘European mitigation plan’을 요구했으며, ENISA가 Mythos 등 모델에 접근해 위험을 점검할 수 있어야 한다고 주장했다. 한편 집행위는 2025년 8월 이후 Anthropic과 기술 회의를 여러 차례 진행해 AI Act의 AI code of practice 이행을 논의했고, 2026년 8월 AI Office 집행 권한이 시작되면 필요 시 모델 접근을 확보하겠다고 밝혔다.
우리신학연구소가 6월 13일 세미나를 앞두고 레오 14세 교종의 사회 회칙 ‘고귀한 인류’ 한국어 번역본을 공개했다. 교종은 인공지능이 지배·배제·죽음의 도구로 전락하는 논리에서 벗어나야 하며, 자율 무기 시스템과 편향 데이터 기반 알고리즘, 소외된 이들의 침묵을 우려했다. 다만 무장 해제만으로는 부족하고 ‘각 사람과 온전한 사람’을 위한 더 정의로운 발전을 함께 건설해야 한다고 강조했다.
출처: 소프트웨어정책연구소(SPRi)
월드 모델은 데이터 부족과 사전 검증 문제를 합성 데이터·가상 시뮬레이션으로 보완해 로봇·자율 시스템의 학습 비용과 위험한 실제 검증을 줄일 수 있다고 설명한다. 기술적으로는 명시적·암묵적·시뮬레이터 기반·하이브리드 등 다양한 접근이 발전 중이며, 비디오 생성·자율주행·자율 에이전트 등 분야별로도 세분화되고 있다. 정책적으로는 한국이 제조업 데이터를 활용해 제조 특화 물리 데이터셋과 고충실도 가상환경을 구축하고 Sim-to-Real 정합성 및 도메인 특화 월드 모델 개발을 추진해야 한다고 제안한다.
생성형 AI가 민주주의에서 요구되는 투명한 법적 절차를 불투명한 알고리즘 시스템으로 대체하며, 기존 디지털 거버넌스와 질적으로 다른 위험을 만든다는 논지다. 이전 예측·분류 시스템이 시민을 대상으로 “rank/classify”했다면, 생성형 AI는 시민이 행동하는 정보 환경 자체를 구성해 공적 설명가능성(public answerability)과 책임성(accountability)의 연결을 약화시키는 방식으로 작동한다고 제시한다. 또한 합성 콘텐츠 생성 능력이 숙의가 의존하는 공유된 사실 기반을 분절시킨다고 주장한다. EU AI Act 같은 규제는 중요한 균형추이지만 충분하지 않으며, 기술이 시민을 알고리즘적 관리의 대상으로 축소하지 않고 민주적 거버넌스를 위해 사용되도록 하는 것이 핵심 과제라고 결론낸다.
공공부문 AI 거버넌스에서 데이터 분류가 왜 핵심 법적 전제인지 설명한다. MoCD Regulation No. 5 of 2025를 법규범·개념적 접근으로 분석하고, 2차 법률자료를 질적·규범적으로 검토해 데이터 분류 체계를 정리한다. 연구는 데이터가 open data, restricted data, confidential/closed data의 3개 범주로 분류되며, 이 범주가 공공정보를 처리하는 AI 알고리즘의 필수 파라미터로 기능한다고 밝힌다. 또한 데이터 분류가 단순 행정조치가 아니라 정부 수준 AI에서 data leaks와 algorithmic bias 위험을 완화하기 위한 conditio sine qua non이며, Law No. 27 of 2022(Personal Data Protection Law)와의 조화가 포괄적 법체계 마련에 필요하다고 결론낸다.
대규모 언어모델(LLM)이 실제 활용될수록 정확성·편향·콘텐츠 탐지·공격 취약성 같은 보안 쟁점이 커져, 관련 연구를 묶어 정리한다. 부정확하거나 오해를 유발하는 출력 문제는 fact-checking 방법론 구현 관점에서 다루고, 편향은 controlled input 연구와 red teaming을 포함한 다양한 평가로 점검하며, 전처리·in-training·후처리 전반의 mitigation 전략을 비교한다. 또한 DetectGPT와 watermarking 같은 생성물 탐지 기법을 소개하되, 복잡한 상황에서 ML 기반 분류기가 한계를 보인다고 정리한다. jailbreak과 prompt injection을 포함한 취약성은 사례 연구와 HackAPrompt 같은 대규모 경쟁을 통해 분석하며, 방어 메커니즘에 대한 추가 연구 필요성을 결론으로 제시한다.