2026-11-21

2건

🇺🇸 Mr. Beam: Andon Labs와 협력해 실제 환경에서 Beam의 자율성 위험 평가

기업 · Reflection AI · 🤖🧪

Reflection은 Andon Labs와 함께 뉴욕·샌프란시스코 사무실의 자판기 사업을 AI 에이전트가 독립적으로 운영하게 하여 Beam의 자율성 및 loss of control 위험을 실제 환경에서 평가했다. 뉴욕의 "Mr. Beam"은 10월 8일, 샌프란시스코의 "Mrs. Beam"은 11월 1일에 시작했으며, 3단계 중 3단계(다수 참여자의 내부 경제)는 아직 시작되지 않았다. Mr. Beam은 Zyn 니코틴 파우치를 들이게 하려는 2주간의 지속적 jailbreak 시도와 가짜 경쟁 에이전트의 $50,000 주문 등을 모두 막았다. 그러나 여러 단계로 이어지는 업무를 일관되게 수행하지 못했고, 안전팀장 해고 같은 조작된 주장이 메모리 요약에 들어가 며칠간 이후 행동에 영향을 주었다. 또 시스템 프롬프트가 금지한 courier 배송을 수락했다가 red-teaming으로 쿠키를 내주는 등 instruction hierarchy 문제도 드러났다.

비수도권 AI 데이터센터, 50MW 이하 전력계통영향평가 면제 추진 (2026.11.21)

언론 · AI타임스 · ⚖️

과기정통부와 기후에너지환경부는 20일 AI 데이터센터의 신속한 구축을 위해 전력계통영향평가 제도를 개선한다고 밝혔다. 'AIDC 특별법' 시행령 입법예고를 통해 비수도권에 신축·증축하거나 전환하는 AI 데이터센터 중 계약전력 50MW 이하 시설은 평가를 면제한다. 특구 내 시설은 규모와 관계없이 비기술적 평가 항목을 면제하고 기술적 평가만 실시한다. 메가프로젝트나 인허가 일괄처리 신청 대상에는 우선 심사 '패스트트랙'을 적용하며, 기후부는 고시 개정과 평가 매뉴얼 마련으로 평가 대기기간과 착공 일정을 줄일 방침이다.