멕시코의 과학·인문·기술·혁신 사무국(Secihti)과 디지털 전환·통신청(ATDT)이 AI의 사용·개발에 대한 윤리 및 모범사례 선언을 공개했다. 이 선언은 AI 설계·도입·평가의 원칙을 제시하며, 사회복지·포용·책임성·기술 주권을 촉진하는 것을 목표로 한다. 주요 내용으로는 권리를 확대하는 방식의 AI, AI가 뒷받침한 결정에 대한 명확한 인간 책임, 설명 불가능한 시스템의 자동화 금지, 데이터를 공공재로서 책임 있게 다루는 점 등이 포함된다. 또한 Chapultepec Principles에 기반해 집단 거버넌스와 문화·언어 다양성, 교육 및 공공가치 등을 강조한다.
Anthropic은 새로운 AI 모델인 Claude Opus 4.6을 통해 LLM(대규모 언어 모델)이 발견한 사이버 취약점을 평가하고 완화하는 전략을 소개합니다. 이 모델은 기존의 자동화된 취약점 탐색 방법을 넘어서, 코드를 인간 연구자처럼 분석하여 높은 심각도의 취약점을 빠르게 찾아냅니다. 특히, 오픈소스 소프트웨어에서 취약점을 발견하고 수정하는 작업을 시작하여, 수많은 취약점 중 500개 이상을 확인하고 일부는 이미 수정되었습니다.
Claude는 기존 방법으로는 찾기 어려웠던 취약점들을 발견하는데 성공했습니다. 예를 들어, GhostScript, OpenSC, CGIF 등의 소프트웨어에서 취약점을 찾아냈습니다. 이는 전통적인 취약점 탐색 도구들이 다루기 어려운 복잡한 패턴을 이해하고 활용할 수 있는 LLM의 장점을 보여줍니다.
또한, Anthropic은 이러한 강력한 사이버 분석 능력이 악용되지 않도록 새로운 안전 장치를 도입하고 있습니다. 이를 통해 사이버 악용을 감지하고 대응할 수 있는 체계를 강화하고 있습니다. 이 노력은 사이버 보안 분야에서 AI의 긍정적인 역할을 확대하기 위한 중요한 단계입니다.
Anthropic 연구자 Nicholas Carlini는 여러 Claude 인스턴스가 사람의 개입 없이 공유 코드베이스에서 병렬로 작업하는 "agent teams" 방식을 시험했다. 16개 에이전트가 약 2,000개 Claude Code 세션과 약 $20,000의 API 비용으로 Rust 기반 10만 줄 규모 C 컴파일러를 처음부터 작성했고, 이 컴파일러는 x86·ARM·RISC-V에서 Linux 6.9를 빌드할 수 있었다. 핵심 설계 교훈은 에이전트가 스스로 방향을 잡도록 하는 고품질 테스트, context window 오염·시간 감각 부재를 고려한 harness, 그리고 GCC를 known-good oracle로 써서 커널 컴파일 작업을 병렬화한 것이다. 한계로는 16비트 x86 컴파일러·어셈블러·링커 미비, 최적화를 켜도 GCC 최적화 비활성 상태보다 비효율적인 생성 코드, 모든 프로젝트를 빌드하지는 못한다는 점이 있다.
Terminal-Bench 2.0을 6가지 리소스 설정으로 실행한 결과, 인프라 설정만으로 최소·최대 리소스 설정 간 성공률 차이가 6%p(p < 0.01)까지 벌어졌다. 엄격한 1x 적용에서는 컨테이너가 OOM으로 종료되는 infra 오류율이 5.8%였고, 3x 여유에서 2.1%, 상한 없음에서 0.5%로 낮아졌다. 1x~3x 구간의 점수 변동은 노이즈 범위(p=0.40)였으나 3x 이후에는 에이전트가 대형 의존성 설치 등 이전에 불가능했던 접근을 쓰면서 점수가 약 4%p 더 올랐고, SWE-bench(RAM 5x)에서는 상승 폭이 1.54%p로 더 작았다. Anthropic은 평가에서 보장 할당량과 강제 종료 임계값을 분리해 지정하고 리소스 설정을 공개할 것을 권고하며, 설정이 문서화·일치되기 전까지 3%p 미만의 리더보드 격차는 신중히 봐야 한다고 밝혔다.
GPT-5.3-Codex는 GPT-5.2-Codex의 코딩 성능과 GPT-5.2의 추론·전문지식 역량을 결합한 가장 강력한 agentic 코딩 모델로, 연구·도구 사용·복잡한 실행이 포함된 장시간 작업을 수행할 수 있다. 생물학 분야는 기존 GPT-5 계열처럼 High capability로 취급해 해당 safeguards를 적용하며, AI 자기 개선 분야에서는 High capability에 도달하지 않았다. 이번 모델은 Preparedness Framework상 사이버보안 분야를 처음으로 High capability로 취급한 출시이다. 임계치 도달의 확정적 증거는 없지만 가능성을 배제할 수 없어 예방적으로 적용했으며, 위협 행위자를 방해·차단하는 계층형 안전 스택을 운영하는 한편 사이버 방어자에게는 같은 역량을 최대한 쉽게 제공하려 한다.
2025년 12월 런던에서 열린 아테네 라운드테이블의 일곱 번째 에디션은 글로벌 리더와 전문가 140명이 참석하여 AI와 법치의 관점에서 "함께 AI 위험에 대응하기: 공동 우려에서 공동 행동으로"라는 주제를 다뤘다. 이 행사는 The Future Society가 주도하고 OECD 및 유네스코와 협력하여 진행되었다. 주요 논의 주제는 다음과 같다:
1. AI 위험의 현실화: 현재 AI 위험이 빠르게 증가하고 있으며, 이에 대한 대응 능력이 뒤처지고 있다는 점이 강조되었다.
2. 국제 정책 조화: 유럽 연합의 일반 목적 AI 코드 실천 가이드라인과 같은 여러 국가의 AI 정책 프레임워크가 중요한 진전을 이루고 있지만, AI의 초국가적 특성으로 인해 단일 국가의 대응이 부족하다는 점이 지적되었다.
3. 국제적인 AI 위험 '레드 라인' 설정: 참가자들은 국제적으로 강제 가능한 위험 기준을 설정하는 것이 필요하다고 논의하였으며, 특히 사이버 공격, 자율 무기, 인프라 자율 제어 등 다양한 위험 클러스터를 다루었다.
4. AI 사고 대응 인프라 구축: 기록적인 수의 AI 사고가 발생한 상황에서 공통된 보고 프레임워크와 정보 공유 메커니즘, 모니터링 시스템 등이 필요하다는 의견이 제기되었다.
이 라운드테이블의 핵심 결론은 오늘날의 정책 선택이 미래의 AI 발전 방향을 결정한다는 점이며, 이를 위해서는 국제 협력과 지속적인 정치적 의지가 필요하다는 것이다.
본문 요약:
페이지는 주로 Affinda의 AI 기반 문서 자동화 플랫폼과 그 활용 사례에 초점을 맞추고 있습니다. AI 기술이 문서 처리, 특히 지능형 문서 처리(IDP)와 자동화된 문서 작업에 어떻게 적용되는지 설명하며, 이 플랫폼이 다양한 산업 분야에서 효율성을 높이고 비용을 절감하는 방법을 다룹니다. 예를 들어, 지능형 문서 처리는 물류, 금융 서비스, 보험 등에서 문서 자동화를 통해 실질적인 이점을 제공하며, AI 기술의 진화와 함께 더욱 정확하고 유연한 데이터 추출이 가능해지고 있습니다. 또한, Affinda의 솔루션이 어떻게 기존의 OCR 기술을 넘어 더 높은 정확도를 달성하는지와 함께, HR 분야에서의 이력서 파싱 기술 등 다양한 응용 사례를 소개하고 있습니다. 그러나 주어진 URL의 제목과 본문 내용이 주어진 지시사항과 정확히 일치하지 않으며, 주로 Affinda의 기술과 그 활용에 초점을 맞춘 내용으로 보입니다. 주어진 지시사항에 따른 특정 주제('AI 에이전트 해킹과 관련된 내용')는 본문에서 명확하게 다루어지지 않았습니다.