AI Security Institute( AISI)가 2024년 5월 open-source로 공개한 Inspect(전향적 AI 모델 성능 평가 툴킷)를 바탕으로, frontier AI 시스템 평가에 필요한 방법과 인프라를 정리한 ‘AISI Engineering Playbook’을 공개했다. Playbook은 평가를 구성하는 인프라를 Evaluate, Isolate, Connect, Run, Scale의 5개 계층으로 나눠 재현성·비교 가능성·안전한 실행·모델 제공자 호출 관리·대규모 호스팅까지 포괄한다. 또한 Inspect Evals(200+ 사전 구성 평가)와 함께, METR의 플랫폼 전환 및 Apollo Research의 내부 프레임워크 대체 등 활용 사례를 소개했다.
이 글은 AI에 법적 인격을 부여하면 재산 소유·계약·소송 등이 가능해져 책임 소재가 명확해질 수 있다는 찬성론을 소개하지만, AI의 감각이나 고통 여부가 입증되지 않았고 기업의 책임 회피 수단이 될 수 있다고 지적한다. 특히 AI는 대량 복제가 가능해 투표와 표현의 자유를 행사할 경우 인간보다 훨씬 큰 영향력을 갖게 되며, 처벌이나 책임을 실제로 부담할 수 있는지도 불분명하다고 설명한다. 글은 AI를 인간이 통제하는 도구로 유지하고, AI를 설계·배포한 기업과 사람이 피해에 대한 책임을 져야 한다고 주장한다.
자문 포럼은 EU 인공지능법 제67조에 따라 유럽연합 집행위원회와 AI 이사회에 기술 전문성을 제공하고 법 시행·적용에 관한 의견, 권고, 서면 기여를 제시하는 자문기구다. 산업계·스타트업·중소기업·시민사회·학계가 균형 있게 참여하며, 기본권청(FRA)·유럽연합 사이버보안청(ENISA)·유럽 표준화 기관 3곳이 상임成员으로 참여한다. 집행위원회는 2026년 6월 1일 700건 이상의 신청 중 174명을 위원으로 선정했으며, 임기는 2년이고 한 차례 갱신할 수 있다. 포럼은 연 2회 이상 회의하고 활동 연례보고서를 공개해야 한다.
AI가 반영된 보안·사이버 대응 관련 소식으로, 영국의 NCSC CEO는 국가 기반 공격(“hostile states”)이 영국의 중요 시스템에 영향을 준 사이버 공격의 상당 부분과 연관된다고 경고했다. 또한 AI를 이용한 공격 시 ‘중요한 방어·대책을 강화’할 필요가 있다고 언급하며, 예방·완화 관점에서 대응 체계의 중요성을 강조했다. 이어 NIST와 OpenAI의 자료로 OT(Operational Technology) 백업 가이드, IoT 워크숍 요약, 배포 전 배치 시뮬레이션을 통한 모델 거동 예측 등 공개된 연구/가이드를 소개했다.
2026.6.17~2026.6.16 공개된 해외 보안·AI 관련 주요 보도/문서 요약이 포함됨
AISI-Japan은 6월 18일 15시 기준으로 해외 발표 내용을 묶어 소개했다. 영국 NCSC는 중요 시스템에 영향을 준 사이버 공격의 4분의 3이 hostile states와 연계될 수 있다고 밝혔으며, AI/모델 배포 전 거동을 시뮬레이션해 안정성을 평가하는 접근(OpenAI)도 언급됐다. 또한 NIST의 OT(Operational Technology) 백업 가이드 및 IoT 대상 사이버보안 후속 방향 관련 요약 보고서 등이 함께 소개됐다.
Apart Research가 라틴아메리카·아프리카·아시아 참가자를 대상으로 ‘Global South AI Safety Hackathon’을 개최한다. 참가자들은 지역별 트랙(기술 AI 안전 또는 거버넌스/정책)에서 AI 안전 도구·평가·정책 연구를 3일간 개발하고, PDF 연구보고서를 제출해 지역 내 심사를 받는다. 우수 팀은 현금 상금(지역별 총액 기준)과 함께 Apart Fellowship 초청 대상이 될 수 있으며, 제출 프로젝트는 심사 후 Apart Research 웹사이트에 소개될 예정이다.
연방정부가 국가안보를 이유로 Anthropic에 Fable 5의 공개 접근을 중단하라고 명령했으며, Anthropic은 문제 제기된 기술이 위험하지 않고 정부 증거도 거의 제시되지 않았다고 반박한다. 글은 AI 안전을 둘러싼 논쟁을 객관적으로 판정할 방법이 부족해 “비행 중 계기 없이 날고 있다”고 진단하며, 캘리포니아·뉴욕·일리노이의 안전 프레임워크 공개만으로는 기업 스스로 평가하는 한계가 있다고 지적한다. 이에 공화·민주 양당 발의 법안(오베르놀트-트라한)이 가장 강력한 모델에 대해 CAISI가 정한 기준에 따라 독립 검증을 의무화하고, 위험 판정 시 배포를 법적으로 중단할 수 있게 하자는 내용이다.
일본 정부는 고성능 모델로 인한 사이버보안 위협에 대응하기 위해 AI 관련 법을 “활동적이고 지속적으로” 검토·개선하는 방안을 담은 정부 초안 정책을 공개했다. Claude Mythos처럼 Anthropic의 대규모 모델 수준의 공개가 가져올 광범위한 보안·안전 파급을 고려해, 대응 속도를 크게 높이겠다는 방향이다.
빈 줄
인공지능 도입 시 위험을 줄이기 위해 어떤 데이터 거버넌스 관행이 실무에서 사용되는지, 증거 기반으로 정리하는 체계적 문헌고찰이다. 2020~2026년 사이 출판된 동료심사 경험 연구를 Kitchenham and Charters 프로토콜과 PRISMA 2020 지침에 따라 6개 전자DB에서 수집해 최종 21편을 분석했고, 8개 도메인으로 96개 데이터 거버넌스 관행을 분류·추출했다. 결과로 D1·D7·D8이 전체 관행의 57.3%를 차지했으며, D4(Algorithmic Accountability, Explainability and Bias Control)는 6개(6.3%)로 가장 얇았다; 포함 연구들의 평균 질 평가 점수는 5.57/6.0이었다.
AI 안전을 secure·controllable·human-aligned AI를 위한 기초로 두고, 기술·윤리·거버넌스를 아우르는 통합 프레임워크를 제안한다. 2021~2025 문헌을 체계적으로 검토해 technical robustness(방해/교란에 대한 견고성), ethical value alignment(가치 정렬), socio-regulatory governance(사회·규제 거버넌스) 3대 축을 정리하고, 의료 진단 취약점·자율주행 실패·LLM manipulation 위험 사례를 분석한다. safe reinforcement learning, formal verification, human-in-the-loop 같은 완화 접근을 다루며, ISO/IEC 23894와 NIST AI Risk Management Framework가 transparency와 accountability에 중요하다고 제시한다. 수치 성과(예: 점수/비율)나 언어·모델 간 비교 결과는 본문 요약에 제시되지 않았다.
대규모 언어 모델(LLM)의 구조적 편향이 어떤 경로로 발생하는지 정리하고, 운영자가 모델 내부 접근 없이 개별 응답 수준에서 편향을 감사할 수 있는 ORACLE Framework를 제안한다. 2017-2025년 ACL Anthology, IEEE Xplore, arXiv, NeurIPS, ICML, ACM FAccT, ICLR의 선행연구를 서술적 통합 검토로 정리한 뒤, 프레임워크를 개발하는 방식으로 구성되었다. 결과로 편향 유입을 4가지 구조적 경로로 구분하고, 기존 감사 도구의 한계(사전 배포 단계의 모델 레벨 도구로서 운영자가 응답 시점에서 사용하기 어렵다는 점)를 ORACLE로 보완한다고 제시한다; ORACLE은 6개 독립 차원(Omission, Register Disparity, Assumption Transparency, Counterfactual Sensitivity, Locus of Agency, Evidence Provenance)을 점수화하고 4단계 위험 분류를 제공하며, EU AI Act 사후 모니터링 의무에 직접 매핑되는 구성을 포함한다. 본문에 포함된 정량 성능(예: 점수/오차범위)은 “라벨된 벤치마크 데이터셋”으로의 실증 검증이 우선 과제라고만 언급되어 수치 비교를 제시하지 않는다.
에이전틱 에이전트의 multi-step 작업에서 LLMJ(LLM-as-a-judge) 평가가 얼마나 신뢰할 만한지 측정·교정하기 위한 메타-평가 데이터셋을 제안한다. Counsel은 tau-bench(고객 지원 에이전트)와 DA-Code(코딩 에이전트)에서 발생한 오류를 대상으로 open-weight LLMJ의 process-level critique를 수집하고, 이를 인간이 오류별로 “spot on”, “correct location but poor reasoning”, “should not have flagged”로 라벨링한 데이터다. 인간 메타-평가의 일치도는 Krippendorff's alpha 0.78이고, 인간 정렬이 반영된 분류로 LLMJ를 보정·개선·학습하는 데 활용 가능하다. open-weight judge 비교에서는 더 유능한 judge 모델과 더 큰 reasoning effort가 인간 합의를 높여, 최강 judge는 오류 위치 location에서 약 88% agreement, reasoning에서 약 65% agreement를 보였다(spot on/ correct location but poor reasoning/ should not have flagged는 각각 인간이 오류 지점을 정확히 짚었음, 지점은 맞지만 추론이 부실함, 오류를 표시하면 안 됨을 의미).
오픈 웨이트 LLM을 공개하면서도 민감한 능력은 선택적으로만 활성화하는 방식을 제안한다. Tiered Language Models(TLMs)로, 동일한 공개 가중치 위에서 기본 공개 구성과 키(keyed) 기반 사적 구성의 계산 그래프가 달라지도록 하고, 비공개 능력은 비밀 키로 유도되는 파라미터 부분집합의 퍼뮤테이션으로 구현한다. 180M·650M TLM에서 keyed 구성은 새로운 언어 획득, instruction-following 능력, private factual knowledge 기억을 보이며 public 구성에서는 이러한 능력이 나타나지 않는다. 또한 계층적(multiple hierarchical tiers)으로 확장 가능하며, 권한 부여가 입력 공간이 아니라 가중치 구조에 작동해 fine-tuning-based extraction 및 부분 키(compromise)에 대한 저항성을 보인다고 보고한다.