멕시코의 과학·인문·기술·혁신 사무국(Secihti)과 디지털 전환·통신청(ATDT)이 AI의 사용·개발에 대한 윤리 및 모범사례 선언을 공개했다. 이 선언은 AI 설계·도입·평가의 원칙을 제시하며, 사회복지·포용·책임성·기술 주권을 촉진하는 것을 목표로 한다. 주요 내용으로는 권리를 확대하는 방식의 AI, AI가 뒷받침한 결정에 대한 명확한 인간 책임, 설명 불가능한 시스템의 자동화 금지, 데이터를 공공재로서 책임 있게 다루는 점 등이 포함된다. 또한 Chapultepec Principles에 기반해 집단 거버넌스와 문화·언어 다양성, 교육 및 공공가치 등을 강조한다.
Anthropic은 새로운 AI 모델인 Claude Opus 4.6을 통해 LLM(대규모 언어 모델)이 발견한 사이버 취약점을 평가하고 완화하는 전략을 소개합니다. 이 모델은 기존의 자동화된 취약점 탐색 방법을 넘어서, 코드를 인간 연구자처럼 분석하여 높은 심각도의 취약점을 빠르게 찾아냅니다. 특히, 오픈소스 소프트웨어에서 취약점을 발견하고 수정하는 작업을 시작하여, 수많은 취약점 중 500개 이상을 확인하고 일부는 이미 수정되었습니다.
Claude는 기존 방법으로는 찾기 어려웠던 취약점들을 발견하는데 성공했습니다. 예를 들어, GhostScript, OpenSC, CGIF 등의 소프트웨어에서 취약점을 찾아냈습니다. 이는 전통적인 취약점 탐색 도구들이 다루기 어려운 복잡한 패턴을 이해하고 활용할 수 있는 LLM의 장점을 보여줍니다.
또한, Anthropic은 이러한 강력한 사이버 분석 능력이 악용되지 않도록 새로운 안전 장치를 도입하고 있습니다. 이를 통해 사이버 악용을 감지하고 대응할 수 있는 체계를 강화하고 있습니다. 이 노력은 사이버 보안 분야에서 AI의 긍정적인 역할을 확대하기 위한 중요한 단계입니다.
2025년 12월 런던에서 열린 아테네 라운드테이블의 일곱 번째 에디션은 글로벌 리더와 전문가 140명이 참석하여 AI와 법치의 관점에서 "함께 AI 위험에 대응하기: 공동 우려에서 공동 행동으로"라는 주제를 다뤘다. 이 행사는 The Future Society가 주도하고 OECD 및 유네스코와 협력하여 진행되었다. 주요 논의 주제는 다음과 같다:
1. AI 위험의 현실화: 현재 AI 위험이 빠르게 증가하고 있으며, 이에 대한 대응 능력이 뒤처지고 있다는 점이 강조되었다.
2. 국제 정책 조화: 유럽 연합의 일반 목적 AI 코드 실천 가이드라인과 같은 여러 국가의 AI 정책 프레임워크가 중요한 진전을 이루고 있지만, AI의 초국가적 특성으로 인해 단일 국가의 대응이 부족하다는 점이 지적되었다.
3. 국제적인 AI 위험 '레드 라인' 설정: 참가자들은 국제적으로 강제 가능한 위험 기준을 설정하는 것이 필요하다고 논의하였으며, 특히 사이버 공격, 자율 무기, 인프라 자율 제어 등 다양한 위험 클러스터를 다루었다.
4. AI 사고 대응 인프라 구축: 기록적인 수의 AI 사고가 발생한 상황에서 공통된 보고 프레임워크와 정보 공유 메커니즘, 모니터링 시스템 등이 필요하다는 의견이 제기되었다.
이 라운드테이블의 핵심 결론은 오늘날의 정책 선택이 미래의 AI 발전 방향을 결정한다는 점이며, 이를 위해서는 국제 협력과 지속적인 정치적 의지가 필요하다는 것이다.
본문 요약:
페이지는 주로 Affinda의 AI 기반 문서 자동화 플랫폼과 그 활용 사례에 초점을 맞추고 있습니다. AI 기술이 문서 처리, 특히 지능형 문서 처리(IDP)와 자동화된 문서 작업에 어떻게 적용되는지 설명하며, 이 플랫폼이 다양한 산업 분야에서 효율성을 높이고 비용을 절감하는 방법을 다룹니다. 예를 들어, 지능형 문서 처리는 물류, 금융 서비스, 보험 등에서 문서 자동화를 통해 실질적인 이점을 제공하며, AI 기술의 진화와 함께 더욱 정확하고 유연한 데이터 추출이 가능해지고 있습니다. 또한, Affinda의 솔루션이 어떻게 기존의 OCR 기술을 넘어 더 높은 정확도를 달성하는지와 함께, HR 분야에서의 이력서 파싱 기술 등 다양한 응용 사례를 소개하고 있습니다. 그러나 주어진 URL의 제목과 본문 내용이 주어진 지시사항과 정확히 일치하지 않으며, 주로 Affinda의 기술과 그 활용에 초점을 맞춘 내용으로 보입니다. 주어진 지시사항에 따른 특정 주제('AI 에이전트 해킹과 관련된 내용')는 본문에서 명확하게 다루어지지 않았습니다.