아프리카의 AI 위험을 선거 개입을 돕는 딥페이크, 데이터 식민 의존, 컴퓨트 자원 부족, 노동시장 교란, 기후 비용의 불균형 노출 등으로 정리하고, 현재 글로벌 AI safety 논의에 아프리카 관점이 충분히 반영되지 못했다고 지적한다. 이에 아프리카 취약계층의 인권 보호를 우선하는 정책, 아프리카 AI Safety Institute 설립, 공공 AI 리터러시·인식 제고, 25개+ 아프리카 언어를 포함한 조기경보 시스템과 벤치마크 개발, AU(아프리카연합) 수준의 연례 AI Safety & Security Forum 개최를 포함한 5점 실행계획을 제안한다.
Anthropic은 Claude의 유용성을 높이면서도 실제 피해로 이어질 수 있는 오남용을 막기 위해 Safeguards 팀이 정책·학습·평가·실시간 집행·모니터링 전 과정을 다룬다고 밝혔다. Usage Policy를 기반으로 Unified Harm Framework와 Policy Vulnerability Testing을 통해 위험을 파악하고, fine-tuning 및 system prompt 조정, 안전·편향·고위험 도메인 평가를 사전 수행한다. 배포 후에는 classifier 기반 탐지와 CSAM 해시 대조, response steering 및 계정 수준 집행(경고·종료 가능) 등을 통해 위반을 실시간으로 억제하며, 계층 요약·threat intelligence·공개 threat intelligence reports 등으로 지속적으로 공격 패턴을 추적한다.
K-AISI 주간동향 · 호주 의사협회(Australian Medical Association, AMA) · 🏥
호주 의사협회(AMA)는 의료 분야 AI 도입·규제에 대해 보건 전문가로 구성된 전담 그룹을 만들어 임상 리더십과 가이드를 제공할 것을 촉구했다. AMA는 AI가 환자 안전·프라이버시·윤리·위험 관리를 위한 견고한 체계와 정기적 검토가 필요하며, AI는 임상의 판단을 대체하지 않는 보조 도구여야 한다고 밝혔다. 또한 환자 진료의 최종 결정은 반드시 인간이 내려야 한다고 강조했다.
Anthropic은 연방 민간인 행정부 기관, 입법부, 사법부를 포함한 미국 정부의 세 기관 모두에게 Claude AI 서비스를 $1의 비용으로 제공하여 정부의 AI 채택 장벽을 제거하고 있습니다. 이 서비스는 민감하지 않은 민감 정보 작업을 위한 FedRAMP High 인증을 받은 'Claude for Government'와 기업용 'Claude for Enterprise'를 포함합니다. 기술 지원도 함께 제공되어 연방 기관들이 AI를 빠르게 업무에 통합할 수 있도록 돕습니다. 이미 국방부와 로렌스 리버모어 국립연구소 등에서 Claude가 중요한 임무를 지원하고 있으며, 이 확장된 접근성은 정부 부문의 복잡한 도전 과제 해결을 위한 최첨단 AI 기술의 접근성을 높이는 데 중점을 둡니다. 참여를 원하는 기관은 pubsec@anthropic.com으로 연락하면 됩니다.