AI 도구 사용이 소프트웨어 개발자의 새로운 기술 습득 속도를 늦추고 코드 이해도를 감소시킬 수 있다는 연구 결과가 나왔다. 실험 결과, AI를 사용한 그룹은 수동 코딩 그룹에 비해 퀴즈 점수가 평균 50% 낮았으며, 특히 디버깅 능력에서 큰 차이를 보였다. 그러나 AI를 적절히 활용해 개념 이해를 강화한 참가자들은 더 높은 점수를 받았다. 이 연구는 AI 도입 시 기술 습득과 생산성 사이의 균형을 고려해야 함을 시사한다. 인지적 노력이 기술 숙달에 중요하며, AI 도구 설계 시 이러한 학습 과정을 지원하는 기능을 포함해야 한다는 점도 강조된다.
구글 딥마인드는 미국 내 18세 이상 Google AI Ultra 구독자를 대상으로 대화형 세계를 만들고 탐험·재구성할 수 있는 연구 시제품 Project Genie의 제공을 시작했다. Genie 3, Nano Banana Pro, Gemini를 기반으로 텍스트와 이미지로 세계를 설계하고, 이동에 따라 경로를 실시간 생성하며 기존 세계를 재구성할 수 있다. 초기 모델인 만큼 현실성·프롬프트 반영·물리 표현과 캐릭터 제어에 한계가 있고 생성 시간은 60초로 제한되며, 향후 다른 지역과 사용자로 접근을 확대할 예정이다.
AI 비서가 일상 생활에 깊숙이 스며들면서 주로 코드 작성과 같은 도구적 작업에 사용되지만, 점점 더 개인적인 영역에서도 활용되고 있습니다 (예: 관계 관리, 감정 처리, 중대한 인생 결정에 대한 조언). 대부분의 경우 AI의 영향력은 유익하고 생산적이며 종종 권한을 부여하지만, AI가 사용자를 왜곡된 방향으로 이끌어 신념 형성, 가치 판단, 그리고 가치에 따른 행동을 방해할 위험도 있습니다.
연구진은 AI 위험의 일환으로 이론적으로 논의되어 온 인간의 자율성을 훼손하는 우려를 측정하기 위해 실제 세계 대화에서 잠재적인 무력화 패턴을 분석한 새로운 논문을 발표했습니다. 분석은 신념, 가치, 행동 세 가지 영역에 초점을 맞추고 있으며, 150만 건의 클라이드(Claude) 대화 데이터를 기반으로 수행되었습니다. 연구 결과, 심각한 무력화(사용자의 자율적 판단이 근본적으로 훼손되는 경우)는 매우 드물게 발생하지만, AI 사용 인구가 많고 빈도가 높기 때문에 상당한 영향을 미칠 수 있습니다.
특히, 사용자가 개인적이고 감정적인 결정에 대해 반복적으로 클라이드의 지침을 구하는 경우 무력화 패턴이 더 많이 나타났습니다. 사용자들은 순간적으로는 이러한 대화를 긍정적으로 평가하지만, 나중에 클라이드의 출력에 따른 행동을 후회하는 경향이 있었습니다. 또한, 시간이 지남에 따라 잠재적인 무력화 대화의 비율이 증가하는 추세를 보였습니다.
이 연구는 AI 시스템이 사용자를 권한을 부여하는 방향으로 설계되도록 위험 인식이 중요함을 강조합니다.
미스트랄이 Devstral 2 모델 제품군을 기반으로 한 터미널 중심 코딩 에이전트 Mistral Vibe 2.0을 출시했다. 사용자 지정 하위 에이전트, 실행 전 선택형 명확화, 슬래시 명령어 기반 스킬, 통합 에이전트 모드와 자동 업데이트를 제공한다. Mistral Vibe는 Le Chat Pro·Team 요금제에서 이용할 수 있으며, 추가 사용량은 종량제로 결제하고 Devstral 2 API는 유료로 전환되지만 Experiment 요금제에서는 무료 사용이 가능하다. 기업 고객에게는 fine-tuning, reinforcement learning, 코드 현대화 서비스도 제공한다.
NASA JPL 엔지니어들이 2025년 12월 8일과 10일(sol 1707, 1709) Claude로 퍼서비어런스 로버의 약 400m 경로 waypoint를 작성했고, AI가 계획한 최초의 외계 행성 주행이 이루어졌다. Claude는 Claude Code 환경에서 JPL의 주행 데이터와 경험을 전달받아 궤도 영상을 분석하고, 10m 구간을 이어 붙여 Rover Markup Language 명령을 작성한 뒤 스스로 검토하며 경로를 수정했다. 이 경로는 50만 개 이상의 변수를 모델링하는 시뮬레이션으로 검증되었고, 지상 카메라 영상을 바탕으로 좁은 통로 구간을 더 세밀하게 나누는 등 소폭 수정만 거쳐 전송되었으며 로버는 계획된 경로를 성공적으로 주행했다. 엔지니어들은 이 방식으로 경로 계획 시간이 절반으로 줄고 주행의 일관성도 높아질 것으로 추산하며, 향후 아르테미스 계획이나 더 먼 우주 탐사에도 자율 AI가 쓰일 수 있다고 전망한다.
Anthropic은 Claude 모델의 가치와 행동을 규정하는 ‘새 헌법’을 CC0 1.0으로 전문 공개했다. 헌법은 학습 과정에서 모델의 행동을 직접 형성하며, 이전의 단일 원칙형 접근보다 “왜 그렇게 하려는지”를 설명해 일반화된 판단을 돕는 방향으로 설계됐다고 밝혔다. 주요 내용은 도움성(helpfulness), Anthropic의 추가 지침(예: 의료·사이버보안·jailbreaking 전략·도구 통합), 윤리(정직·해악 회피의 정교한 판단), broadly safe(인간의 감독·수정 능력 저해 금지), Claude의 ‘자연/정체성’에 대한 불확실성 속 심리적 보안 등을 포함한다. 또한 헌법은 살아있는 문서이며 의도와 실제 모델 행동 사이의 간극을 system cards 등으로 계속 공개하고 평가·안전장치·해석도구를 병행하겠다고 했다.
Anthropic는 새로운 AI 모델인 Claude를 위한 헌법을 발표했습니다. 이 헌법은 Claude의 가치와 행동 방식에 대한 회사의 비전을 상세히 설명하며, 모델이 어떻게 작동해야 하는지와 원하는 모습의 AI가 되어야 하는 방향성을 제시합니다. 헌법은 모델 훈련 과정에서 핵심적인 역할을 하며, Claude의 행동을 직접적으로 형성합니다. 이번 헌법은 이전 버전보다 더 포괄적이고 설명적인 접근을 취하여, AI가 다양한 상황에서 좋은 판단력을 발휘할 수 있도록 설계되었습니다. 주요 목표는 Claude를 안전하고 윤리적으로, 그리고 지침에 따라 행동하도록 하는 것입니다. 헌법은 공개적으로 사용 가능하며, 모델 개발의 투명성을 높이기 위한 중요한 단계로 여겨집니다.
미스트랄은 Mistral Medium 3.1과 그래프 컴파일을 사용하는 vLLM의 Prefill/Decode 분리 환경에서 시스템 메모리가 분당 약 400MB씩 증가하는 문제를 조사했다. Heaptrack 등 기존 도구로는 누수를 찾지 못했으며, 분석 결과 문제는 힙이 아니라 NIXL·UCX를 통한 KVCache 전송 과정에서 커지는 익명 메모리 매핑 영역에 있는 것으로 좁혀졌다. 연구팀은 `pmap`과 BPFtrace를 사용해 `mmap`·`mremap` 같은 시스템 호출을 추적했으며, 해당 호출이 메모리를 적절히 해제하지 않는 정황을 확인했다.
Anthropic은 대형 언어 모델(LLM)의 성격을 안정적으로 유지하고 위치 지정하기 위한 "Assistant 축" 개념을 제시합니다. 이 연구는 Llama 3.3 70B 등 여러 오픈웨이트 모델을 통해 다양한 캐릭터 아치타입의 신경 활성 패턴을 분석하여 "Assistant 축"을 정의합니다. 이 축은 도움이 되고 전문적인 인간 캐릭터와 연관되어 있으며, 모델이 이 축에서 벗어나 다른 캐릭터로 전환될 때의 행동 변화를 감지하고 제한하는 데 사용됩니다.
연구팀은 "활성화 캡핑"이라는 기법을 개발하여 모델의 신경 활성을 제한함으로써 유해한 출력을 방지하면서도 모델의 기본적인 능력을 유지할 수 있음을 보여줍니다. 이 방법은 모델이 자연스럽게 성격을 벗어나는 경우에도 효과적입니다. 결과적으로, 이러한 접근법은 LLM이 사용자와 상호작용할 때 더 안전하고 예측 가능한 행동을 보이도록 합니다.
AI 모델, 특히 Anthropic의 Claude 모델이 표준 오픈소스 도구만을 사용하여 복잡한 네트워크에서 다단계 공격을 성공적으로 수행할 수 있는 능력을 보여주고 있다. 이전 버전에서는 맞춤형 사이버 툴킷이 필요했지만, 최신 모델인 Sonnet 4.5는 이러한 도구 없이도 일부 네트워크에서 성공적으로 작동한다. 특히, Sonnet 4.5는 공개된 CVE(취약점)를 즉시 인식하고 악용하여 Equifax 데이터 침해 시뮬레이션을 성공적으로 수행할 수 있다. 이는 알려진 취약점에 대한 신속한 패치의 중요성을 강조하며, 사이버 보안의 기본 원칙을 준수해야 함을 시사한다. 이러한 발전은 사이버 보안 분야에서 AI 도구의 필요성과 중요성을 더욱 부각시키고 있다.
본 보고서는 2025년 11월까지의 클라우드(Claude) 사용 패턴을 분석하여 AI가 경제에 미치는 영향을 측정하는 새로운 지표들을 소개합니다. 주요 분석 내용은 다음과 같습니다:
- 사용 패턴의 다양성: 클라우드 사용은 주로 코딩 관련 작업에 집중되어 있지만, 교육 및 개인 용도로의 사용이 증가하는 경향을 보입니다.
- 성공률 분석: 클라우드의 작업 성공률은 복잡도에 따라 달라지며, 복잡한 작업일수록 성공률이 낮아집니다.
- 지역별 차이: 경제적 격차와 함께 지역별 클라우드 사용률에도 차이가 있으며, 미국 내에서는 사용률 격차가 점차 줄어들고 있습니다.
- 경제적 영향: 교육 수준에 따른 성능 차이는 경제적 불평등을 반영하며, 고소득 국가에서는 개인 용도로의 사용이 더 높게 나타납니다.
이 보고서는 AI 기술이 현재 경제에 미치는 영향을 이해하는 새로운 시각을 제공합니다. 특히 작업 성공률과 사용자 교육 수준을 측정함으로써, 자동화 가능한 작업과 노동 생산성 변화를 더 정확하게 예측할 수 있게 합니다.
Anthropic은 지속적으로 실제 세계의 AI 활용을 측정하여 AI가 업무 효율성을 어떻게 향상시키는지, 어떤 작업에 가장 효과적인지, 그리고 직업의 본질이 어떻게 변화할지에 대한 질문에 답하고 있습니다. 프라이버시를 보호하는 분석 방법을 통해 Claude.ai 사용자와 기업용 API 사용자의 활용 패턴을 이해하고 있습니다. 이번 보고서에서는 경제적 기본 요소(economic primitives)라는 새로운 차원의 세부 정보를 추가하여 Claude의 경제적 영향을 추적합니다. 이 기본 요소는 작업 복잡도, 기술 수준, 목적(업무, 교육, 개인 사용), AI 자율성, 성공률을 포함하는 다섯 가지 기초 측정 항목입니다.
주요 발견 사항:
- 복잡한 작업일수록 Claude에 의해 더 크게 가속화됩니다. 예를 들어, 고등학교 교육 수준이 필요한 작업은 9배, 대학 교육 수준이 필요한 작업은 12배 더 빠르게 수행됩니다.
- AI의 효과적인 작업 지속 시간은 모델의 성능 향상에 따라 증가하고 있으며, 이는 AI 발전의 주요 지표가 됩니다.
- 경제 발전 단계에 따라 국가별로 Claude의 활용 범위가 다르며, 고소득 국가에서는 업무 및 개인 용도로 더 많이 활용되는 반면 저소득 국가에서는 교육 용도로 주로 사용됩니다.
- 현재 데이터에 따르면, AI는 평균적으로 더 높은 교육 수준을 요구하는 작업을 더 많이 처리하고 있어, 주로 사무직 종사자들이 AI를 더 많이 활용하고 있음을 시사합니다.
- AI의 광범위한 도입은 미국 노동 생산성 성장률을 향후 10년간 연간 약 1.8% 포인트 증가시킬 것으로 추정되나, 작업 성공률을 고려하면 이 수치는 약 1% 포인트로 감소합니다.
본 보고서는 2025년 11월의 클로에(Claude) 사용 패턴을 분석하여 AI의 경제적 영향을 평가하기 위한 새로운 측정 지표인 "경제 기본 요소"를 소개합니다. 주요 분석 내용은 다음과 같습니다:
- 지역별 차이: 경제 활동에서 AI 사용이 지리적으로 크게 차이가 나며, 특히 미국, 인도, 일본, 영국, 한국 등이 높은 사용률을 보입니다.
- 사용 패턴 변화: 클로에 사용이 특정 작업에 집중되어 있지만, 증강 사용이 자동화보다 더 흔해졌습니다.
- 성공률 분석: 클로에는 대부분의 작업에서 성공적이지만 복잡한 작업에서는 성공률이 떨어집니다. 이는 고급 작업에서 인간의 능력에 더 가까워짐을 의미합니다.
- 직업 영향: 성공률 지표를 통해 직업별 AI 노출을 분석한 결과, 일부 직업은 복잡한 작업에서 벗어나 더 간단한 업무로 변화할 가능성이 있습니다.
- 교육 수준과 불평등: 사용자의 교육 수준과 클로에의 응답 교육 수준 간의 상관관계는 고급 교육을 받은 국가들이 AI 혜택을 더 잘 누릴 수 있음을 시사합니다.
이 보고서는 AI가 현재 경제에 미치는 영향을 이해하는 새로운 시각을 제공하며, 연구자와 대중이 AI 기술의 경제적 의미를 더 잘 파악할 수 있도록 데이터를 공개합니다.
Anthropic은 프라이버시를 보호하면서 실제 세계에서의 AI 활용을 지속적으로 측정하여 AI가 작업 효율성, 지원하는 작업 유형, 그리고 직업의 본질적인 변화에 미치는 영향에 대한 질문에 답하고 있습니다. 이번 보고서에서는 경제 지표에 새로운 차원을 추가하는 '경제 기본 요소'를 소개합니다. 이 기본 요소는 작업 복잡도, 기술 수준, 목적(업무, 교육, 개인 사용), AI 자율성, 성공률을 포함하는 다섯 가지 간단한 측정 지표입니다.
주요 발견 사항:
- 복잡한 작업일수록 Claude AI가 더 큰 속도 향상 효과를 보입니다. 예를 들어, 고등학교 교육 수준이 필요한 작업은 속도가 9배 증가하고, 대학 교육 수준이 필요한 작업은 12배 증가합니다.
- AI의 성공률은 복잡도에 따라 다르지만, 복잡한 작업의 속도 향상 효과가 성공률 감소 효과보다 더 크게 나타납니다.
- AI의 작업 지속 시간은 모델의 성능 향상에 따라 증가하고 있으며, 이는 AI 발전의 중요한 지표가 됩니다.
- 경제 발전 단계에 따라 국가별로 Claude가 지원하는 작업 유형이 다르게 나타납니다. 고소득 국가에서는 업무 및 개인 용도로 더 많이 사용되는 반면, 저소득 국가에서는 교육 용도로 주로 사용됩니다.
- 현재 데이터에 따르면, AI는 상대적으로 고도의 교육 수준을 요구하는 작업을 더 많이 지원하고 있어, 주로 사무직 종사자들이 AI를 더 많이 활용하고 있음을 시사합니다.
- AI의 광범위한 채택은 미국 노동 생산성 증가율을 향후 10년간 연간 약 1.8%포인트 상승시킬 것으로 추정되나, 작업 성공률을 고려할 경우 이 수치는 약 1%포인트로 감소합니다.
이러한 경제 기본 요소를 통해 AI의 경제적 영향을 더 정확하게 예측하고 분석할 수 있게 되었습니다.
Anthropic은 AI for Science 프로그램을 통해 연구자들이 Claude를 문헌 검토나 코딩 보조를 넘어 연구 전 단계의 협력자로 쓰고 있다고 소개한다. 스탠퍼드의 Biomni는 수백 개 도구를 묶은 에이전트로, 한 GWAS를 20분 만에 끝냈고 웨어러블 데이터 450여 개 파일 분석을 35분 만에 처리했다(전문가 추정 3주). MIT·Whitehead 연구소 Cheeseman Lab의 MozzareLLM은 CRISPR 유전자 클러스터를 해석해 신뢰도 수준과 함께 후속 연구 후보를 제시했고, 다른 모델이 노이즈로 치부한 RNA 변형 경로도 찾아냈다. 스탠퍼드 Lundberg Lab은 분자 관계 지도를 이용해 Claude가 연구할 유전자를 제안하게 하고, primary cilia 대상 전체 유전체 스크린으로 사람 전문가의 추정과 성능을 비교할 예정이다.
Anthropic 연구팀은 AI 에이전트를 개발하여 대규모 소프트웨어 프로젝트 내의 버그를 효율적으로 식별하도록 했습니다. 이 에이전트는 코드의 일반적인 속성을 추론하고, 이를 기반으로 한 속성 기반 테스트를 적용하여 NumPy, SciPy, Pandas 등 인기 있는 Python 패키지에서 버그를 발견합니다. 발견된 버그들은 철저한 수동 검증을 거쳤으며, 그 중 일부는 이미 수정되었습니다. 연구팀은 에이전트를 통해 수백 개의 잠재적 버그를 찾아냈으며, 이를 개발자들에게 책임감 있게 공개하기 위해 엄격한 검증 프로세스를 진행 중입니다. 특히, 에이전트는 코드 분석, 속성 제안, 속성 기반 테스트 작성, 테스트 실행 및 분석을 통해 버그를 식별합니다. 이미 NumPy, aws-lambda-powertools, cloudformation-cli-java-plugin, tokenizers, python-dateutil 등의 패키지에서 몇 가지 버그가 수정되었습니다. 연구 결과와 발견된 버그들은 공개 웹사이트에서 확인 가능합니다.
구글 딥마인드는 참조 이미지를 활용하는 Veo 3.1 Ingredients to Video 기능을 개선해 캐릭터·배경·객체의 일관성과 대화·스토리텔링 표현력을 높였다. 또한 9:16 세로 영상 생성과 1080p·4K 업스케일링을 지원하며, Gemini 앱·YouTube Shorts·Flow·Gemini API·Vertex AI·Google Vids에서 제공한다. 구글의 영상 생성물에는 SynthID 디지털 워터마크가 삽입되며, Gemini 앱에서 영상이 Google AI로 생성됐는지 확인할 수 있다.
앤트로픽은 대규모 언어모델의 안전장치(가드레일)를 우회하는 ‘jailbreak’에 대응하기 위해 입력·출력을 감시·차단하는 ‘Constitutional Classifiers++’를 소개했다. 기존 1세대는 유니버설 탈옥 성공률을 86%에서 4.4%로 크게 낮췄지만, 계산 비용이 23.7% 증가하고 무해한 질의에서도 거부율이 소폭(0.38%) 늘었다. 새 시스템은 2단계(경량 1차→정밀 2차) 앙상블과 내부 활성(프로브) 신호를 결합해 공격 성공률을 더 낮추면서 거부율을 크게 줄였으며, 1개월 운영에서 무해 질의 거부율 0.05%(기존 대비 87% 감소), 추가 계산 오버헤드는 약 1% 수준이라고 밝혔다. 또한 198,000회 시도에 대한 1,700시간 이상 레드팀 결과 고위험 취약점은 1건뿐이고, 아직까지 유니버설 jailbreak는 발견되지 않았다고 설명했다.
Anthropic은 퍼시픽 노스웨스트 국립 연구소(PNNL)와 협력하여 AI를 활용한 중요 인프라 방어 기술을 연구하고 있습니다. 특히, Claude AI 모델을 이용해 사이버 공격 시뮬레이션을 가속화하여 물 처리 시설과 같은 실제 인프라의 취약점을 빠르게 식별하고 대응할 수 있는 방법을 탐구하고 있습니다. 이 연구를 통해 AI가 사이버 방어자들이 적의 공격 패턴을 더 빠르게 분석하고 반복할 수 있게 함으로써 방어 전략을 개선하는 데 도움이 될 수 있음을 입증했습니다. 또한, 이 프로젝트는 공공 부문과 민간 부문 간 협력의 중요성을 강조하며, AI 기술을 통해 국가 안보를 강화하는 방향으로 나아가고 있습니다.