고등법원 킹스벤치부 빅토리아 샤프(Victoria Sharp) 법원장은 AI가 그럴듯하지만 사실이 아닌 답을 만들 수 있고, 존재하지 않는 출처나 잘못된 인용을 낳을 수 있다며 심각한 사법 신뢰 훼손을 경고했다. 기사에 따르면 올해 두 사건에서 AI 또는 AI 요약을 활용한 것으로 의심되는 가짜 판례 인용이 문제됐고, 법원은 변호사들에게 전문·윤리적 의무를 확인하고 정확성 검증을 강화하라고 촉구했다. 오남용 시 공적 질책부터 법정모독 절차 및 경찰 수사 의뢰까지 제재 가능성도 언급됐다.
미 하원 감독·정부개혁위원회는 ‘The Federal Government in the Age of Artificial Intelligence’ 주제 청문회를 열고, 연방정부가 AI를 책임 있게 도입해 효율을 높이고 비용을 줄이며 공공서비스를 개선해야 한다고 강조했다. 위원들은 규제 중심 접근이 기술 진전을 저해했다는 취지로, 연방정부가 AI를 효과적으로 배치할 수 있는 도구와 권한이 필요하다고 결론냈다. 또한 AI를 사기·부정지급 탐지, 행정업무 간소화, 민간 상용기술 활용, 데이터센터·에너지 인프라 및 개인정보·보안 보호와 연계해 논의했으며, 생산성 향상 효과로 2028년까지 연간 최대 5320억 달러 규모의 ‘생산성 윈폴’ 가능성을 언급했다.
6월 5일 열린 2025 글로벌 디지털경제대회 디지털안전 주포럼 등에서 공개된 연구에 따르면, 국내 AI 대형모델의 공격 성공률은 약 5~6%로 국제 관점에서 ‘중위권’ 수준이며 개선 여지가 있다고 한다. 새로 개발된 ‘灵御(링위) 대형모델 안전 공방 평가 플랫폼’으로 49종 모델을 테스트한 결과, 모델의 AI 성능이 향상됐더라도 안전 위험 방어 수준은 크게 오르지 않았다고 설명했다. 또한 전문가들은 단일 방어를 넘어 운영자 책임 강화와 통합·연합 방어 체계 구축, SOAR 등 자동화된 대응 체계가 필요하다고 강조했다.
Anthropic은 미국 국가 안보 고객을 위해 특별히 설계된 Claude Gov 모델 세트를 출시했습니다. 이 모델들은 최고 수준의 국가 안보 기관에서 이미 배포되었으며, 고도의 분류 환경에서만 접근 가능합니다. 정부 고객의 피드백을 바탕으로 개발된 이 모델들은 안전 기준을 충족하며, 전략 계획, 정보 분석, 위협 평가 등 다양한 국가 안보 관련 작업에서 향상된 성능을 제공합니다. 특히 분류된 정보 처리 능력과 복잡한 사이버 보안 데이터 해석 능력이 강화되었습니다. 자세한 내용은 pubsec@anthropic.com으로 문의 가능합니다.