정보통신정책연구원은 유럽평의회가 2024년 5월 채택한 세계 최초의 법적 구속력 있는 인공지능 협약의 내용과 의의를 분석했다. 협약은 인공지능의 설계부터 폐기까지 전 과정에서 투명성, 책임성, 차별 금지, 개인정보 보호 등을 보장하도록 하며, 인권·민주주의·법치주의 침해 가능성이 있는 공공기관과 관련 민간 행위자에게 적용된다. 연구원은 우리나라의 협약 가입과 인공지능 기본법 제정이 국제협력 강화와 인권 보호를 위한 법적 기반 마련의 계기가 될 수 있다고 제언했다.
Anthropic은 새로운 Claude 3.5 Sonnet 모델과 기존 모델의 업그레이드인 Claude 3.5 Haiku를 출시하며, 개발자들이 AI가 화면을 보고 커서를 움직이며 텍스트를 입력하는 등의 컴퓨터 사용을 가능하게 하는 컴퓨터 사용 기능을 공개 베타로 제공합니다. 업그레이드된 Claude 3.5 Sonnet은 코딩 능력에서 획기적인 향상을 보여주며, 특히 소프트웨어 엔지니어링 작업에서 뛰어난 성능을 발휘합니다. 반면, Claude 3.5 Haiku는 빠른 속도와 향상된 도구 사용 능력으로 다양한 사용자 대면 제품과 데이터 기반의 개인화된 경험 생성에 적합합니다. 컴퓨터 사용 기능은 아직 실험 단계이지만, 반복적인 과정 자동화와 소프트웨어 개발 등에 활용될 수 있습니다. 안전한 배포를 위해 새로운 위협 감지 기술도 도입되었습니다.
Anthropic은 최신 버전의 AI 모델인 Claude 3.5 Sonnet에 컴퓨터 사용 기능을 추가하여 사용자의 명령에 따라 화면 커서 이동, 클릭, 가상 키보드 입력 등을 가능하게 했습니다. 이 기능은 현대 업무의 대부분이 컴퓨터를 통해 이루어지기 때문에 중요한 발전으로 간주되며, 현재 공개 베타 단계에 있습니다. 개발 과정에서는 화면 해석과 소프트웨어 도구 활용 능력을 훈련시켰고, 이를 통해 Claude는 사용자의 지시를 바탕으로 논리적 단계를 수행하고 컴퓨터에서 작업을 실행할 수 있게 되었습니다. 현재 평가에서는 OSWorld 기준으로 14.9%의 성능을 보여주며, 이는 기존 모델보다 크게 향상된 수치입니다. 안전성 확보를 위해 다양한 보안 조치와 사용자 의도와의 일치를 위한 시스템을 구축하고 있으며, 향후 개선을 통해 컴퓨터 사용 기능의 신뢰성과 유용성을 높일 계획입니다.