테러 관련 법률(2000·2006년 Terrorism Acts, 2011년 Terrorism Prevention and Investigation Measures Act)의 2023년 운영을 점검한 독립 검토관 보고서다. 보고서는 생성형 AI가 텍스트·이미지·음성 등을 만들어 테러에 악용될 수 있으며, 그로 인한 잠재적 위해 7개 범주를 평가해 현행 법이 충분한지 검토한다고 밝혔다. 또한 챗봇 기반 급진화가 가장 어려운 문제이며, 인종혐오 기반의 새로운 범죄를 검토할 필요가 있다고 제안했다. 디지털 기기 압수·조사에 필요한 시간이 늘어나는 만큼 구금권한의 장기적 정당성도 고민해야 한다고 덧붙였다.
Epoch AI는 8개 주요 AI 랩의 biorisk 평가(또는 미공개 평가)를 분석한 결과, 공개된 벤치마크는 존재하지만 빠르게 포화(saturate)되어 biorisk에 대한 해석이 불확실하다고 지적했다. 또한 비(非)공개 평가나 벤치마크가 아닌 평가들은 방법·채점 기준·측정 대상이 불투명한 경우가 많아 무엇을 실제로 측정하는지 알기 어렵다고 밝혔다. 종합적으로 현재 평가 세트는 LLM이 아마추어의 생물무기 개발을 “강하게” 뒷받침할 증거를 제공하진 못하며, 불확실성을 줄이려면 더 어려운(harder) 평가가 필요하다고 결론냈다.
AI Fluency: Framework & Foundations 과정은 학계 전문가 Joseph Feller, Rick Dakan과의 파트너십을 통해 AI와의 상호작용을 효과적·효율적·윤리적·안전하게 하는 실무 역량을 가르친다고 안내한다. 과정은 AI Fluency 프레임워크와 4D Framework를 중심으로 생성형 AI 기초, 위임(Delegation), 설명(Description), 식별/판별(Discernment), 부지런함(Diligence) 등 핵심 개념과 함께 효과적인 프롬프트 기법을 다룬다. 수료 후 최종 평가를 통해 수료증을 받을 수 있으며, 학습 콘텐츠는 Skilljar에 호스팅되고 학습 진행·완료 상태·퀴즈 점수·학습 시간 등의 기본 학습 분석을 수집한다고 설명한다.
확인 필요: S.2714 ‘CHAT Act’의 구체적 목적과 주요 조항, 발의자/공동발의자, 심사·표결 등 진행 상황은 본문 확인이 필요합니다. 또한 법안의 적용 범위와 시행 시점 등 세부 일정도 확인 필요입니다.
이용·분류 도구는 AI Incident Database(AIID) 보고서를 LLM으로 처리해 MIT Risk Repository 및 CSET AI Harm Taxonomy 기반으로 재분류하며, EU AI Act의 위험 수준 정의도 함께 활용한다.
MIT AI Incident Tracker는 AI Incident Database(AIID)에 보고된 1,400건 이상의 실제 사건을 위험, 원인, 피해 유형, 심각도 등 기준으로 분류해 탐색할 수 있게 한 도구다. MIT Risk Repository와 CSET의 AI Harm Taxonomy를 바탕으로 LLM이 원문 보고서를 처리해 사건을 체계적으로 범주화하며, 연도별 추이·도메인별 비중·원인 속성 경향·피해 심각도 분포 등을 시각화한다. 또한 데이터는 자발 제출과 보고 품질 편차로 인해 표본편향 가능성이 있어, 관찰된 패턴·추이는 참고용이며 추가 검증이 필요하다고 명시한다.