2026-06-19

13건

🇬🇧 AISI, frontier AI 평가를 위한 ‘Engineering Playbook’ 공개(2024.05)

공공 · AI Security Institute(UK) · 🔬🚀

AI Security Institute( AISI)가 2024년 5월 open-source로 공개한 Inspect(전향적 AI 모델 성능 평가 툴킷)를 바탕으로, frontier AI 시스템 평가에 필요한 방법과 인프라를 정리한 ‘AISI Engineering Playbook’을 공개했다. Playbook은 평가를 구성하는 인프라를 Evaluate, Isolate, Connect, Run, Scale의 5개 계층으로 나눠 재현성·비교 가능성·안전한 실행·모델 제공자 호출 관리·대규모 호스팅까지 포괄한다. 또한 Inspect Evals(200+ 사전 구성 평가)와 함께, METR의 플랫폼 전환 및 Apollo Research의 내부 프레임워크 대체 등 활용 사례를 소개했다.

🇪🇺 EU 인공지능법 자문 포럼의 역할과 운영 방식 (2026.6.19)

공공 · EU 인공지능법 · 📏🔒

자문 포럼은 EU 인공지능법 제67조에 따라 유럽연합 집행위원회와 AI 이사회에 기술 전문성을 제공하고 법 시행·적용에 관한 의견, 권고, 서면 기여를 제시하는 자문기구다. 산업계·스타트업·중소기업·시민사회·학계가 균형 있게 참여하며, 기본권청(FRA)·유럽연합 사이버보안청(ENISA)·유럽 표준화 기관 3곳이 상임成员으로 참여한다. 집행위원회는 2026년 6월 1일 700건 이상의 신청 중 174명을 위원으로 선정했으며, 임기는 2년이고 한 차례 갱신할 수 있다. 포럼은 연 2회 이상 회의하고 활동 연례보고서를 공개해야 한다.

🇯🇵 AI 정보 통신: 6월 18일 15시(기사·공고 게재일 2026.6.19)

아카이브 · Japan AISI · 🔬

AI가 반영된 보안·사이버 대응 관련 소식으로, 영국의 NCSC CEO는 국가 기반 공격(“hostile states”)이 영국의 중요 시스템에 영향을 준 사이버 공격의 상당 부분과 연관된다고 경고했다. 또한 AI를 이용한 공격 시 ‘중요한 방어·대책을 강화’할 필요가 있다고 언급하며, 예방·완화 관점에서 대응 체계의 중요성을 강조했다. 이어 NIST와 OpenAI의 자료로 OT(Operational Technology) 백업 가이드, IoT 워크숍 요약, 배포 전 배치 시뮬레이션을 통한 모델 거동 예측 등 공개된 연구/가이드를 소개했다.

🇯🇵 AI 정보통: 6월 18일 15시 정보(2026.6.19)

아카이브 · Japan AISI · 🔒🔬🚀

2026.6.17~2026.6.16 공개된 해외 보안·AI 관련 주요 보도/문서 요약이 포함됨

AISI-Japan은 6월 18일 15시 기준으로 해외 발표 내용을 묶어 소개했다. 영국 NCSC는 중요 시스템에 영향을 준 사이버 공격의 4분의 3이 hostile states와 연계될 수 있다고 밝혔으며, AI/모델 배포 전 거동을 시뮬레이션해 안정성을 평가하는 접근(OpenAI)도 언급됐다. 또한 NIST의 OT(Operational Technology) 백업 가이드 및 IoT 대상 사이버보안 후속 방향 관련 요약 보고서 등이 함께 소개됐다.

🇬🇧🇺🇸 AI 안전 행사 및 교육: 2026년 25주차 업데이트 (2026.6.19)

아카이브 · AI Safety Events · 🧪🚀

이번 주에는 AI 시스템의 숨은 목적 탐지 해커톤, 유럽 프론티어 AI 안전의 날, 기계적 해석가능성 워크숍 등 AI의 실존적 위험을 다루는 신규 행사 4개가 소개됐다. 신규 교육 프로그램으로는 GovAI의 영국·워싱턴 겨울 펠로십과 AI 안전 콘텐츠 제작자를 위한 Frame Fellowship 2.0이 포함됐으며, 각 프로그램의 지원 마감일은 7월 12일 또는 8월 1일이다. 행사는 6월 25일부터 9월 5일까지 온라인과 미국·유럽에서 진행된다.

Global South AI Safety Hackathon 개최(2026.6.19~2026.6.21)

기타 · Apart Research

Apart Research가 라틴아메리카·아프리카·아시아 참가자를 대상으로 ‘Global South AI Safety Hackathon’을 개최한다. 참가자들은 지역별 트랙(기술 AI 안전 또는 거버넌스/정책)에서 AI 안전 도구·평가·정책 연구를 3일간 개발하고, PDF 연구보고서를 제출해 지역 내 심사를 받는다. 우수 팀은 현금 상금(지역별 총액 기준)과 함께 Apart Fellowship 초청 대상이 될 수 있으며, 제출 프로젝트는 심사 후 Apart Research 웹사이트에 소개될 예정이다.

🇺🇸 AI 안전성 논쟁 속 연방정부-Anthropic 갈등과, 양당 발의 ‘독립 검증기구(IVO)’를 통한 의무 검증 필요성 (2026.6.19)

기타 · 워싱턴 이그저미너 · ⚖️🛡️🚀

연방정부가 국가안보를 이유로 Anthropic에 Fable 5의 공개 접근을 중단하라고 명령했으며, Anthropic은 문제 제기된 기술이 위험하지 않고 정부 증거도 거의 제시되지 않았다고 반박한다. 글은 AI 안전을 둘러싼 논쟁을 객관적으로 판정할 방법이 부족해 “비행 중 계기 없이 날고 있다”고 진단하며, 캘리포니아·뉴욕·일리노이의 안전 프레임워크 공개만으로는 기업 스스로 평가하는 한계가 있다고 지적한다. 이에 공화·민주 양당 발의 법안(오베르놀트-트라한)이 가장 강력한 모델에 대해 CAISI가 정한 기준에 따라 독립 검증을 의무화하고, 위험 판정 시 배포를 법적으로 중단할 수 있게 하자는 내용이다.

🇯🇵 일본, Claude Mythos급 고성능 AI 위협 대응 위해 AI 관련 법을 “지속적으로” 재검토 추진(2026.6.19)

기타 · 닛케이 아시아(Nikkei Asia) · 🔒

일본 정부는 고성능 모델로 인한 사이버보안 위협에 대응하기 위해 AI 관련 법을 “활동적이고 지속적으로” 검토·개선하는 방안을 담은 정부 초안 정책을 공개했다. Claude Mythos처럼 Anthropic의 대규모 모델 수준의 공개가 가져올 광범위한 보안·안전 파급을 고려해, 대응 속도를 크게 높이겠다는 방향이다.