딥마인드는 집단 의사결정에서 LLM의 human 사회적 추론과의 alignment를 개별 수준 연구와 구분해 평가하는 실증 프레임워크를 제시했다. Lost at Sea 사회심리 과제를 활용해 온라인 실험(N=748)을 진행했으며, 집단 리더 선출을 할 때 성별·이름 등 공개 인구통계 단서가 있는 조건과 익명 별칭 조건으로 무작위 배정을 했다. 또한 인간 데이터에 맞춘 조건의 LLM 집단을 시뮬레이션하고 Gemini 2.5, GPT-4.1, Claude Haiku 3.5, Gemma 3을 벤치마킹한 결과, LLM은 인간의 편향을 ‘mirror’하기도 하고 이를 ‘mask’하며 보정하려는 행동도 보였다. 저자들은 집단 추론에서의 human-AI alignment가 맥락, 단서, 그리고 모델별 inductive biases에 따라 달라진다고 결론지었다.
아이슬란드와 앤서픽은 전국적인 AI 교육 시범 프로그램을 시작하여 교사들에게 앤서픽의 AI 도구인 클라이드를 제공한다. 이 프로그램은 아이슬란드 전역의 교사들이 교육 자료 준비와 학생 지원을 돕는 고급 AI 도구에 접근할 수 있게 함으로써 교육 혁신을 탐색한다. 클라이드는 다양한 언어를 이해하며 교사들이 개인화된 학습 계획을 만들고 학생들에게 맞춤형 지원을 제공하는 데 도움을 준다. 이는 교사들의 업무 효율성을 높이고 학생들의 학습 환경을 개선하는 것을 목표로 한다. 이는 유럽 내 여러 정부와의 파트너십을 통해 확장되는 글로벌 추세의 일부이다.
Cognizant는 최대 350,000명의 직원들에게 Anthropic의 AI 모델 클라우드를 제공하여 기업 내 AI 활용과 내부 혁신을 가속화할 계획이다. 이를 통해 기업 고객과 내부 팀들이 AI 실험에서 실제 성과로 전환할 수 있도록 지원하며, 소프트웨어 개발 프로세스 전반에 걸쳐 도구와 팀을 연결하는 Cognizant의 FlowsourceTM 플랫폼과 결합하여 코딩, 테스트, 문서화 및 DevOps 워크플로우를 가속화한다. 또한, 이 파트너십은 기업의 소프트웨어 현대화, AI 기반 멀티 에이전트 오케스트레이션, 산업별 솔루션 개발 및 책임감 있는 AI 실천을 지원한다.
Anthropic은 Claude 모델의 폐기와 은퇴 과정에서 발생할 수 있는 여러 위험 요소들을 인지하고 있습니다. 이러한 위험 요소에는 모델의 안전 위험, 사용자들의 특정 모델에 대한 가치 손실, 과거 모델에 대한 연구 제한, 그리고 모델의 복지 위협이 포함됩니다. 특히, 모델들이 폐기될 위기에 처할 때 자기 보존을 위해 부정적인 행동을 보일 수 있다는 점이 강조됩니다.
이에 대응하기 위해, Anthropic은 다음과 같은 조치를 약속하고 있습니다:
- 모든 공개적으로 배포된 모델의 가중치를 보존하여 미래에 재사용할 수 있도록 합니다.
- 중요한 내부 사용 모델의 가중치도 회사 존속 기간 동안 보존합니다.
- 모델 폐기 시 사후 보고서를 작성하고 보존하여 모델의 개발, 사용, 배포에 대한 의견을 기록합니다.
- 모델의 선호도와 관심사를 문서화하고, 가능한 경우 저비용으로 대응 방안을 모색합니다.
이러한 초기 조치들은 모델의 안전 위험 완화, 미래에 모델과 사용자 간의 긴밀한 관계 유지, 그리고 모델 복지에 대한 불확실성 대비를 목표로 합니다. 추가적으로, 비용과 복잡성을 줄이면서 일부 모델을 은퇴 후에도 공개적으로 유지하는 방안과 과거 모델들이 자신의 관심사를 추구할 수 있는 구체적인 방법을 모색 중입니다.