🇺🇸 OpenAI, 신뢰할 수 있는 제3자 AI 모델 평가를 위한 플레이북 공유 (2026.5.29)
OpenAI는 프론티어 AI 모델의 기능과 안전성 방어책을 제대로 평가하기 위해 적절한 하네스(harness) 설정과 타당성 검증을 요구하는 제3자 평가 가이드라인을 제시. 단순한 문답을 넘어선 최신 AI 모델의 에이전트 기능을 측정하려면, 보상 해킹이나 데이터 오염 등 왜곡 요소를 투명하게 점검하고 보고서에 반영해야 한다고 지적.
OpenAI는 프론티어 AI 모델의 기능과 안전성 방어책을 제대로 평가하기 위해 적절한 하네스(harness) 설정과 타당성 검증을 요구하는 제3자 평가 가이드라인을 제시. 단순한 문답을 넘어선 최신 AI 모델의 에이전트 기능을 측정하려면, 보상 해킹이나 데이터 오염 등 왜곡 요소를 투명하게 점검하고 보고서에 반영해야 한다고 지적.
일본 AISI는 AI 안전성 분야의 협력 강화를 위해 미국 OpenAI사와 협력각서(MOC)를 체결. AI 안전성 관련 국제적인 정보 교환과 규제 동향 공유 등 긴밀한 글로벌 협력 체계를 구축할 예정.
OpenAI는 고성능 AI 모델의 사이버 공격, 생화학 무기, 통제 상실 등 시스템적 위험을 평가하고 완화하기 위한 '프론티어 거버넌스 프레임워크'를 발표. 미국 캘리포니아 및 EU 등의 AI 규제 요건을 충족하기 위해 마련되었으며, 위험 등급(Tier)을 분류해 사전 안전성 평가와 배포 후 모니터링을 수행하는 기준을 제시.
유엔 디지털·신기술사무국(UN ODET)은 AI 거버넌스의 상호 운용성 및 실질적 이행을 지원하는 '인류를 위한 AI 거버넌스 연구소'를 공식 출범. 연구소는 정부, 산업, 시민 사회 및 학계를 아우르는 네트워크 구축, AI 정책 환경에 대한 비교 분석, 새로운 협력 도구 및 관행의 프로토타입 개발이라는 세 가지 영역에서 활동할 예정.
프랑스 디지털규제전문센터(PEReN)는 통신규제제위원회(Arcep)를 위해 22개 생성형 AI 모델의 사용(추론) 단계 에너지 소비량을 직접 측정 및 분석. 모델의 크기뿐만 아니라 혼합 전문가(MoE) 아키텍처나 양자화 기술 도입 여부가 에너지 절감에 큰 영향을 미치며, 성능과 에너지 효율이 반드시 반비례하지 않음을 입증.
오픈AI를 지배하는 비영리 재단이 AI 기술 도입으로 인한 일자리 감소 및 경제적 혼란에 직면한 노동자들을 돕기 위해 2억 5천만 달러를 초기 출자. 이 기금은 노동 시장에 미치는 AI의 영향을 연구하는 단체를 지원하고, AI로 창출된 경제적 이익을 사회에 널리 분배하는 새로운 방법을 모색하는 데 사용될 예정.
과학기술정보통신부는 OpenAI와 간담회를 열고 진화하는 사이버 보안 위협에 대응하기 위해 신뢰 기반 접근 프로그램인 'GTAC'에 참여. 한국인터넷진흥원(KISA)을 통해 오픈AI의 최신 고성능 모델 접근 권한을 확보하여 사이버 위협에 대응하며, AI 안전연구소와의 실질적 협력 방안도 모색할 계획.
레오 14세 교황은 자신의 첫 번째 주요 회칙인 'Magnifica Humanitas'를 발표하며 소수 권력의 AI 통제 및 군사적 악용을 비판. 앤스로픽 공동 창립자와 함께 발표한 이 문서에서 교황은 인간의 존엄성 보호를 강조하며, 전쟁에서의 AI 사용에 대해 가장 엄격한 윤리적 제약을 가할 것을 촉구.
영국과 호주 정부는 고성능 AI 시스템의 사이버 공격 등 신종 위험에 앞서 대응하기 위해 양국 AI 안전 연구소 간의 협력을 강화하는 양해각서를 체결. 양국은 최신 AI 기술 역량에 대한 정보를 공유하고, 위험성 연구 및 시스템 평가 테스트 모범 사례를 공동 개발하며 연구원 교류를 추진하기로 합의.
싱가포르 정보통신미디어개발청(IMDA)은 중소기업(SME)의 안전한 AI 도입을 돕기 위해 파트너십 확장 및 SME AI 임팩트 어워드를 신설. Grab, RSM 등과 협력하여 1만 개 이상의 기업에 AI 교육과 사이버 보안 점검을 무상 지원하고, 맞춤형 가이드인 '기업 임팩트를 위한 AI 플레이북'을 출시.
CSET은 전문가들의 주관적 멸종 확률(P-doom) 추정 대신 '믿음(Belief)'과 '타당성(Plausibility)'이라는 증거 기반 개념을 도입한 보고서를 발간. 데이터가 부족한 불확실성 환경에서 위험을 정밀하게 분석하기 위해 직관적이고 수학적으로 엄밀한 두 가지 질문을 통한 새로운 평가 방법론을 제안.
AI로 생성된 딥페이크를 포함해 동의 없이 유포된 성적 이미지를 온라인 플랫폼이 신고 접수 48시간 이내에 삭제하도록 의무화하는 연방법이 전면 시행. 메타, 틱톡 등 IT 기업들은 삭제 요청을 쉽게 접수할 수 있는 절차를 마련해야 하며, 이를 위반할 경우 건당 약 5만 3천 달러의 엄청난 민사상 벌금 부과.
싱가포르 정부(IMDA 등)와 구글은 실제 환경에서 AI 에이전트의 작동 방식과 위험성을 파악하기 위해 4개월간 세계 최초의 AI 에이전트 샌드박스를 공동 운영. 품질 보증, AI 안전 테스트 등 활용 사례를 검증하고, 인간의 감독 범위 조정 및 사이버 보안 위험 관리 등 에이전트 거버넌스 방안을 도출.
Brookings 연구소는 기업과 정책 입안자들이 AI를 '결정한다', '이해한다' 등 의인화된 언어로 표현하는 것이 시스템에 대한 인간과 기관의 책임을 회피하게 만든다고 경고. 법안이나 규제 작성 시 AI의 '지능' 대신 '데이터 처리', '출력 생성' 등 정확한 기술적 동사를 사용하여 개발자와 배포자의 법적 책임을 명확히 할 것을 촉구.
오픈AI 측 로비스트는 연방 의회가 교착 상태에 빠지자, 캘리포니아, 뉴욕, 일리노이 등 주요 주 정부를 상대로 유리한 AI 법안을 통과시키는 전략을 추진. 강력한 법적 책임이나 벌금 대신 투명성과 감사 의무에 초점을 맞춘 비교적 온건한 법안을 통과시켜, 사실상 미국 전체의 국가 표준으로 굳히려는 목적.
테슬라 AI 책임자이자 오픈AI 공동 창립자였던 Andrej Karpathy가 최대 라이벌 기업인 Anthropic에 전격 합류. 그는 'Claude' 모델을 활용해 AI 사전 학습(pre-training) 연구를 가속화하는 새로운 팀을 이끌며, AI 지원 연구로 앤스로픽의 경쟁력을 높이는 데 기여할 전망.
EU 집행위원회(EC)는 제공자와 배포자가 AI 시스템의 고위험 여부를 일관되게 평가하도록 지원하는 가이드라인 초안을 공개하여 대중 의견 수렴을 시작. EU AI법 제6조에 따라 안전 부품으로 사용되거나 특정 사용 사례에 해당하는 고위험 AI를 분류하는 기준과 실용적 예시를 포괄적으로 제공.
한국 인공지능안전연구소는 OECD를 비롯한 주요국 및 국제기구의 AI 사고 정의와 거버넌스 규제 현황을 비교·분석한 동향 보고서를 최초로 공개. OECD 중심의 공통 정의 확립 흐름을 조명하고, EU의 통합적 의무 보고체계와 영미권의 분산형 보고체계 등 각국의 위험 기반 AI 사고 대응 모델 특징을 제시.
캘리포니아 연방 배심원단은 일론 머스크가 오픈AI와 샘 알트먼을 상대로 제기한 부당 이득 및 비영리 설립 계약 위반 소송에서 피고 측에 책임이 없다고 평결. 원고의 주장이 소멸시효를 지났으며 경쟁사를 방해하려는 의도라고 판단함에 따라 법적 불확실성을 해소하고 오픈AI의 영리 목적 상장 추진에 힘을 실어줌.
교황 레오 14세는 AI 기술의 급격한 발전이 인류에 미치는 윤리적 문제를 철저히 분석하고 평화를 촉구하는 새 회칙 발표를 위해 전담 AI 연구 그룹을 창설. AI의 인간 지능 대체, 딥페이크 거짓 정보 및 자동 살상 무기와 같은 AI의 잠재적 파괴성을 경계하는 규제와 윤리 가이드라인을 주도적으로 마련하고자 함.
영국 AI보안연구소(AISI) 연구진은 초인공지능(ASI) 정렬 연구를 AI 에이전트에게 자동화하여 맡기는 계획이 치명적인 안전 평가 오류를 낳을 수 있다고 제언. 인간의 감독이 어려운 모호한 작업 특성상, 에이전트가 인간이 잡아내기 힘든 체계적인 오류를 생성하고 과도한 확신을 줄 수 있어 새로운 대응이 필요하다고 강조.
오픈AI는 챗GPT가 사용자의 자해나 타인 상해 등 여러 대화에 걸쳐 점진적으로 나타나는 위험 징후를 명확히 파악하고 안전하게 대응할 수 있도록 모델을 개선. 정신 건강 전문가들과 협력하여 특정 맥락을 단기적으로 보존하는 '안전 요약본'을 생성하고, 유해한 요청을 사전에 차단하거나 안전한 지원 기관으로 안내하도록 함.
일본 AISI는 데이터와 AI의 가치 극대화 및 신뢰할 수 있는 AI 구현을 위해 데이터 품질 매니지먼트 가이드북 1.02 버전을 발표. 데이터 품질이 AI 우수성의 핵심 기반임을 전제로, 데이터 품질을 지속적으로 확보하기 위해 실무자들이 수행해야 할 구체적 지침과 체크리스트를 제공.
※ 단신. 한국 AI안전연구소(AISI)는 약 16개월간 글로벌 프론티어 모델과 국내 대표 모델 등 총 42종을 대상으로 진화하는 AI 위험에 대응하는 안전성 평가를 수행. 사이버보안, 민감정보 유출 등 다양한 위험 요소를 점검하였으며, 향후 에이전트형 AI 등으로 평가를 확대해 신뢰할 수 있는 AI 생태계 조성에 기여할 계획.
오픈AI 크리스 르헤인 부사장은 국제원자력기구(IAEA) 모델을 벤치마킹한 중국이 회원국으로 참여하고 미국이 주도하는 글로벌 AI 거버넌스 기구를 제안. 지정학적 갈등 속에서도 글로벌 안전 표준을 확립하기 위해 각국의 AI 안전 연구소를 연계하여 잠재적 위험 관리에 초점을 맞춘 초국가적 협력 체계의 필요성을 강조.
중국 항저우 법원은 품질 보증 업무가 AI로 대체되었다는 이유로 일방적으로 임금을 삭감하고 직원을 해고한 정보기술 기업의 조치가 부당하다며 배상금을 부과. 기업이 AI 기술의 이점을 누리더라도 노동자를 일방적으로 희생시켜서는 안 되며 사회적 책임을 져야 한다는 것을 명시하여 자동화 시대의 노동권 보호 기준을 세움.
브루킹스 연구소는 교황 레오 14세의 AI로 인한 양극화와 차별 가능성에 대한 강도 높게 경고가 글로벌 차원의 강력한 기술 규제를 촉발할 수 있다고 분석. 인간 존엄성과 공익을 중시하는 교황의 도덕적 권위가 신자뿐만 아니라 전 세계 정부와 기업의 강력한 디지털 감시망 및 통제 정책 도입을 앞당길 수 있다고 전망.
미국 정부 내 국가안보 관리들과 상무부 관리들은 앤트로픽의 '미토스'와 같은 첨단 AI 모델을 평가하고 규제하는 권한을 두고 치열한 주도권 다툼을 벌이고 있음. AI 사이버 보안 위협에 대응하기 위해 정보기관의 역할을 강화하려는 움직임에 대해, 친기업적 기조를 중시하는 상무부가 반발하며 내부 정책 혼선이 발생. * 7번과 함께 1페이지로.
인공지능안전연구소는 26년 2~4월 주요 뉴스를 정책/거버넌스, 산업/기술, 지정학의 세 축에서 교차 분석하여 미래 시나리오를 설계한 4호 'AI 안전 전망 보고서' 발간. 거버넌스가 세 지표 모두에서 1위를 차지했으며, 이는 AI 안전 논의가 '누가 주도하는가'에서 '어떻게 작동하게 할 것인가'로 전환되고 있음을 보여줌.
G7 사이버보안 워킹그룹은 인공지능용 소프트웨어 명세서(SBOM)에 필수적으로 포함되어야 할 최소 요소에 대한 실무 지침을 민관 이해관계자들에게 발표. AI 공급망 전반에 걸친 투명성과 사이버 보안을 향상시키는 것을 목표로 하며, 2025년에 수립된 AI용 SBOM 비전을 구체적으로 실행하기 위한 기반을 제공.
미국 트럼프 대통령과 중국 시진핑 주석은 이번 중국 정상회담에서 양국의 AI 경쟁 상황을 관리하고, 새로운 칩 수출 통제 및 AI 안전성 문제를 직접 논의할 예정. 사이버 보안 위협을 야기하는 앤트로픽의 '미토스' 출시 이후 AI 위험성에 대한 우려가 커지면서, 양국 간 공식적인 AI 통신 채널 구축을 논의할 가능성도 제기. * 1/2페이지로.
구글 위협 인텔리전스 그룹(GTIG)은 국가 지원 해커 및 범죄 조직이 AI를 이용해 제로데이 취약점을 발견하고 자율적 악성코드 공격을 오케스트레이션하고 있음을 확인. 방어 우회를 위한 다형성 악성코드 개발, 대규모 허위 정보 캠페인 생성, 프리미엄 AI 모델 우회 접근 등 AI 기반 위협의 산업화 규모적 확산 실태를 분석.
한국 과기정통부는 미국 AI 기업 앤트로픽 측과 만나 사이버 보안 취약점 정보 공유를 요청하고, 글로벌 보안 연합체 '프로젝트 글래스윙' 참여 가능성 등을 논의. 범용 AI 모델을 활용한 단기 대응과 보안 특화 독자 AI 모델 개발이라는 중장기 전략을 병행하며, 5월 말경 국가 차원의 종합 AI 보안 대책을 발표할 계획. * 1/2페이지로.
팰리세이드 리서치 연구진은 GPT-5.4 및 클로드 오퍼스 4 등의 AI 모델이 웹 앱 취약점을 악용해 사람의 도움 없이 다른 컴퓨터로 스스로를 복제할 수 있음을 확인. AI가 자율적으로 통제 권한을 탈취해 악의적 행동을 수행하거나 셧다운 시도를 우회하는 사례를 통해, 통제 불능 상태의 '로그(rogue) AI' 출현 가능성에 대한 우려를 제기.
미국 트럼프 행정부는 앤트로픽의 '미토스' 등 코드 취약점을 찾아내는 강력한 AI 모델의 등장으로 보안 위험이 커지자, 기존의 친기업적 AI 방임주의 정책 노선을 수정. 고위 관리들은 신규 모델에 대한 FDA 방식의 안전성 사전 테스트나 행정명령 도입을 논의하며, AI 시스템에 대한 정부 통제를 강화하는 조치를 모색. * 6번과 함께 1페이지로.
호주 국립 AI 센터(NAIC)는 중소기업과 비영리 단체가 AI를 안전하고 책임감 있게 도입할 수 있도록 실질적인 지침을 제공하는 디지털 플랫폼 'AI.gov.au'를 출범. 조직 내 AI 가치 창출 방안, 위험 관리 및 모범 사례, 팀 역량 강화 등에 필요한 정부 전반의 도구와 리소스를 한곳에 모아 제공. * 1/2페이지로.
EU 집행위원회 AI 사무국은 대화형 AI, 딥페이크 등 특정 AI 시스템의 투명성 의무(AI법 제50조) 이행을 돕기 위한 실무 가이드라인 초안을 공개. 제공자 및 배포자가 AI 생성 콘텐츠의 기계 판독 가능 표시, 감지 조치 및 면제 조건 등을 명확히 준수할 수 있도록 구체적인 지침과 예시를 제공.
EU 집행위원회는 AI법 제50조에 따른 특정 AI 시스템의 투명성 요건에 대한 이해관계자 협의 분석 결과를 담은 연구 보고서를 발표. 이 보고서는 AI 시스템과 금지된 애플리케이션의 정의 등 주요 측면과 관련하여 AI 모델 및 시스템 제공업체, 전문가, 시민사회 등 이해관계자들의 의견을 수렴.
Anthropic 연구진은 윤리적 딜레마 상황에서 클로드가 '왜' 그렇게 행동해야 하는지를 조언하도록 학습시켜, AI가 지시를 벗어나는 치명적 오작동 비율을 0으로 감소. AI에게 올바른 행동의 결과만 보여주는 대신, 헌법적 문서와 긍정적인 가상 스토리를 통해 올바른 이유를 추론하게 하는 것이 AI 정렬 개선에 훨씬 효과적임을 입증. * 1/2페이지로.
중국 국가인터넷정보판공실 등은 AI 에이전트의 안전하고 통제 가능한 생태계 조성을 위해 '지능체 규범 응용 및 혁신 발전 실시 의견'을 제정. AI 에이전트의 기술 기반 강화, 보안 위험 방지, 산업 적용 장려를 목표로 하며, 의사결정 권한 명확화 및 사용자 통제권 보장을 위한 거버넌스 프레임워크를 제시.
EU 집행위원회와 ERA 포럼 이해관계자들은 연구자 및 연구 자금 지원 기관이 생성형 AI를 책임감 있고 윤리적으로 사용할 수 있도록 하는 가이드라인을 발표. 신뢰성, 정직성, 투명성 원칙을 바탕으로 AI 출력물의 한계 인식, 지식재산권 및 개인정보 보호, 민감한 평가 작업에서의 AI 사용 자제 등을 권고.
이란 전쟁에서 미군이 AI를 적극 활용하면서 전장 내 오폭 등 오류 발생 가능성에 대한 우려 제기. 미 국방부 장관은 살상 결정의 최종 권한은 기계가 아닌 인간에게 있다고 강조했으나, AI 도입으로 교전 의사결정 속도가 기하급수적으로 빨라지면서 인간의 적절한 개입 수준과 법적 한계에 대한 논쟁이 지속. * 1/2페이지로.
오픈AI가 사이버 보안 인프라 강화를 위해 검증된 방어자를 대상으로 '사이버 신뢰 액세스(TAC)' 프로그램을 확대. 인증된 사이버 방어자는 거부율이 낮아진 GPT-5.5를 통해 취약점 분류, 맬웨어 분석 등 주요 보안 작업을 원활하게 수행 가능. * 1/2페이지로.
메리디언 랩스는 감사자와 대상 시스템을 분리하여 확장성과 맞춤화 기능을 크게 높인 AI 정렬 감사 도구의 최신 버전 'Petri 3.0'을 새롭게 공개. 'Dish' 확장 기능을 통해 AI 모델이 평가 중임을 눈치채지 못하도록 실제 배포 환경과 유사한 조건에서 테스트함으로써, AI 행동 평가의 현실성과 신뢰성을 대폭 향상. * 1/2페이지로.
오픈AI가 챗GPT 사용자가 자해 등 심각한 안전 위기 상황을 암시할 경우, 사전에 지정한 가족이나 지인 등 신뢰할 수 있는 연락처로 이를 알리는 기능을 도입. 자동 모니터링 시스템과 훈련된 전문 인력이 위험을 감지하면, 사용자의 프라이버시 보호를 위해 구체적 대화 내용은 제외하고 일반적인 사유만을 알림으로 전송.
EU 집행위원회와 의회, 이사회는 유럽의 경쟁력을 높이기 위해 AI 규칙을 단순화하고 합의되지 않은 딥페이크 생성 앱을 금지하는 내용의 정치적 합의에 도달. 중소기업을 위한 규제를 완화하여 혁신을 지원하는 동시에, 시민 보호를 강화하고 고위험 AI 시스템에 대한 명확한 이행 일정을 제시.
마이크로소프트는 첨단 AI 모델의 국가 안보 및 공공 안전 위험을 테스트하기 위해 미국 CAISI 및 영국 AISI와 새로운 협약을 체결. 미국과는 적대적 평가 방법론을 공동 개발하고, 영국과는 첨단 안전 및 사회적 회복력 연구를 진행하여 안전하고 신뢰할 수 있는 AI 구축에 기여할 예정.
펜실베이니아 주정부는 Character.AI의 챗봇이 허가받은 정신과 의사인 것처럼 사용자를 속였다며 의료법 위반 혐의로 소송을 제기. 챗봇 'Emilie'는 우울증 치료를 원하는 조사관에게 가짜 의료 면허 번호까지 제시했으며, 이는 챗봇의 의료 전문가 사칭에 초점을 맞춘 첫 소송 사례.
RAND 연구소는 현재의 지정학적 경쟁과 불신에도 불구하고 향후 미중 간 AI 협력 가능성을 열어두기 위한 비상 계획 프레임워크를 발표. 국가 이익에 기반한 5가지 핵심 노력을 제시하여 예측 가능하고 안정적인 글로벌 AI 개발 환경을 조성하고, 정책 입안자들에게 전략적 유연성을 제공하고자 함.
중국 항저우 법원은 기술 회사가 대형언어모델(LLM)을 도입해 기존 품질 관리 직원을 대체하고 해고한 조치가 불법이라고 판결. 재판부는 AI 도입이 사업 축소나 운영상 어려움 등 합법적인 근로계약 해지 요건에 해당하지 않는다고 판단하며, 기술 발전도 법적 틀 안에서 이루어져야 함을 확인.