영국 AI Safety Institute가 'AI Security Institute'로 명칭을 바꾸고, 화학·생물 무기 개발, 사이버 공격, 사기·아동 성착취물 제작 등 국가안보와 범죄에 관련된 심각한 AI 위험에 집중하기로 했다. 내무부와 협력하는 criminal misuse team을 신설하고 국방과학기술연구소(Dstl), LASR, NCSC 등 안보 기관과도 협력하며, 편향이나 표현의 자유 문제는 다루지 않는다고 밝혔다. 같은 날 영국 Sovereign AI 부서는 Anthropic과 협약을 맺어 공공서비스 개선과 과학적 발전 분야에서 AI 활용 방안을 함께 모색하기로 했다. 영국 정부는 앞으로 선도 AI 기업들과 추가 협약도 추진할 계획이다.
피터 카일 영국 기술장관은 뮌헨안보회의에서 AI Safety Institute를 AI Security Institute로 개칭한다고 발표했다. 연구 초점은 화학·생물 무기 개발 지원, 사이버 공격, 인간의 통제 약화 같은 심각한 국가안보 위험이며, 표현의 자유나 편향·차별 판단은 다루지 않는다고 밝혔다. 연구소 테스트 결과 지난 18개월간 국가안보 관련 AI 역량이 뚜렷이 상승했고, AI 모델이 처음으로 화학·생물 문제에서 PhD 수준 성능을 보였으며 테스트한 모든 모델이 safeguard 우회 공격에 취약했다. 또 국방과학기술연구소(Dstl)와의 협력, 내무부와 연계한 criminal misuse 팀 신설, 공개·비공개 및 출신국과 무관한 모델 테스트를 발표했으며, 결과는 공개하지 않고 동맹국과 공유한다고 했다.
Anthropic는 영국 정부와 협력하여 고급 AI 기술을 활용해 영국 공공 서비스를 혁신하는 방안을 탐색하기 위해 양해각서(MOU)를 체결했습니다. 특히, Anthropic의 AI 모델인 Claude를 통해 시민들이 정부 정보와 서비스를 온라인으로 더 효과적으로 접근하고 상호작용할 수 있도록 하는 데 초점을 맞출 계획입니다. 이 협력은 AI의 윤리적이고 안전한 적용을 위한 최선의 관행을 설정하는 것을 포함하며, 영국의 AI 혁신과 경제 발전을 지원하기 위한 여러 분야에서 추가적인 협력 기회를 모색할 예정입니다. 이를 통해 영국은 AI 기반 미래에 대비한 인력 전략과 혁신 전략을 개발할 수 있을 것입니다.