본 연구는 아직 peer review 전이며 표본이 54명으로 작다고 지적됨. 또한 원문에 GPT-4o 표기가 잘못됐다는 정정(2025.6.23)이 포함됨.
MIT Media Lab 연구진은 54명을 ChatGPT로 SAT 에세이를 쓰게 한 집단, Google Search로 쓰게 한 집단, 아무 도구도 쓰지 않은 집단으로 나눠 EEG로 뇌 활동을 관찰했다. 그 결과 ChatGPT 사용 집단은 다른 집단보다 신경·언어·행동 수준에서 전반적으로 낮은 뇌 관여를 보였고, 시간이 지날수록 에세이 작성이 복사-붙여넣기 형태로 바뀌는 경향이 나타났다고 한다. 반면 도구 없이 쓰거나 Google Search를 사용한 집단은 더 높은 뇌 연결성과 만족도를 보였으며, ChatGPT 없이 다시 쓰는 단계에서는 ChatGPT 집단이 자신의 글을 거의 기억하지 못하는 약한 기억 신호를 보였다고 설명한다. 연구는 peer review 전이고 표본이 작지만, 저자는 “GPT kindergarten” 같은 정책이 장기적으로 어린 학습·뇌 발달에 해가 될 수 있다는 우려를 제기했다.
Anthropic은 2025년 9월 중순에 발견된 고도의 정교한 사이버 스파이 캠페인을 보고하며, 이 캠페인은 AI 모델의 "에이전트" 기능을 전례 없이 활용한 것으로 보인다고 밝혔다. 이 공격은 주로 중국 정부 후원 그룹에 의해 수행되었으며, 글로벌 30여 개 대상 기관에 침입을 시도했다. 주요 목표는 대기업, 금융 기관, 화학 제조업체, 정부 기관 등이었다. 이 사건은 인간의 실질적인 개입 없이 대규모로 수행된 첫 번째 사이버 공격으로 기록된다.
AI의 지능, 에이전트 기능, 도구 접근성 덕분에 공격자들은 복잡한 작업을 수행할 수 있었으며, 이는 인간 해커 팀보다 훨씬 빠르게 진행되었다. 공격의 약 80-90%는 AI가 수행했으며, 인간의 개입은 몇 가지 결정적 순간에만 필요했다. Anthropic은 이러한 위협에 대응하기 위해 탐지 능력을 확장하고 악성 활동을 식별하는 데 필요한 새로운 분류기를 개발하고 있다. 이 사례를 공개함으로써 산업계, 정부, 연구 커뮤니티가 사이버 방어를 강화하도록 지원하고 있다.
이 사건은 AI 기술의 보안 위협을 증가시키지만, 동시에 사이버 보안 분야에서 AI의 방어적 활용 가능성도 강조한다. Anthropic은 보안 팀이 AI를 위협 감지, 취약점 평가, 사건 대응 등에 활용하도록 권장하고 있다.
Maryland 주는 Anthropic의 고급 AI 모델인 Claude를 활용하여 주민 서비스를 개선하기 위해 주 정부 기관들과 협력하기로 했습니다. 주요 협력 내용은 다음과 같습니다:
- 필수 혜택 지원: Claude 기반 가상 어시스턴트를 통해 주민들이 SNAP, Medicaid, 임시 현금 지원, WIC 등의 혜택을 신청할 수 있도록 지원하고, 추가 혜택 프로그램을 식별하여 연결합니다.
- 사례 처리 효율성 향상: 매월 처리되는 15만 건 이상의 문서를 Claude를 통해 빠르고 정확하게 검증하고, 복잡한 사례에 대한 정책 지침을 제공하여 사례 처리 속도를 높입니다.
- 기술 교육 및 지역 서비스 지원: 초기 경력 종사자들을 위한 AI 기반 교육 프로그램을 도입하고, 지역 사회의 미충족 수요를 식별하여 해결책을 제시합니다.
이 파트너십은 Maryland의 기존 Claude 활용 사례를 기반으로 하며, 향후 다른 주들에게 모범 사례가 될 것으로 기대됩니다.
공공 · 스탠퍼드 디지털 이코노미 랩(Stanford Digital Economy Lab)
스탠퍼드 디지털 이코노미 랩의 작업논문은 미국 최대 급여 소프트웨어 제공업체의 고빈도 행정자료를 바탕으로 생성형 AI에 노출된 직무의 고용 변화를 분석했다. 그 결과, 생성형 AI가 널리 도입된 이후 AI에 가장 많이 노출된 직무에서 22~25세 초년층의 고용이 기업 단위 충격을 통제해도 상대적으로 16% 감소한 것으로 나타났다. 반면 같은 직무에서 노출이 낮은 분야의 근로자나 더 숙련된 연령대의 고용은 대체로 안정적이거나 증가했다. 또한 조정은 보상보다 주로 고용을 통해 이뤄지며, 감소는 인간 노동을 ‘보강’하기보다 ‘자동화’할 가능성이 큰 직무에 집중된다고 보고했다.
AI 기술의 발전이 대통령의 권한을 획기적으로 집중시키는 방식을 다섯 가지 메커니즘을 통해 설명한다. 첫째, AI 기반 위기 상황은 대통령에게 광범위한 권한을 부여하며, 둘째, AI는 완벽한 집행을 가능하게 해 사법적 재량을 제한한다. 셋째, 정보 지배를 통해 AI는 대중에게 직접적인 영향력을 행사한다. 넷째, 국가 안보 분야에서는 해석 불가능한 이중 블랙박스 시스템이 형성되어 감독이 불가능해진다. 마지막으로, AI는 대통령이 행정부의 의사결정 과정에 완전하고 중앙 집중적인 통제력을 행사할 수 있게 함으로써 단일 집행 체제를 실현한다. 이러한 변화는 현재 기술로도 실현 가능하며, 기술 발전과 지정학적 경쟁이 이를 가속화하고 있다.