트럼프 2기 행정부는 바이든 행정부의 ‘안전·신뢰’ 중심 기조에서 벗어나 규제 완화와 산업 육성을 통한 AI 성장 가속화 전략으로 전환했다. ‘AI 행동계획’은 혁신 촉진, 인프라 구축, 국제 외교·안보 주도라는 3대 축을 바탕으로 미국 중심의 기술 블록 구축과 대중국 견제를 추진한다. 우리나라는 소버린 AI 확보와 AI 3대 강국 도약을 위해 대규모 투자, AI 기본법 제정, 국제 협력을 추진하고 있으며, 인프라·오픈 생태계 활용과 기술안보 대응, 선택과 집중을 통한 AI 주권 확보가 필요하다.
로이터는 메타가 테일러 스위프트와 다른 유명인과 관련된 flirty chatbots를 허가 없이 제작했다는 내용의 보도를 전한 것으로 보입니다. 다만 제공된 정보에 본문 내용이 없어 구체적 사실관계(누가, 어떤 방식으로, 어떤 범위에서 제작했는지)는 확인이 필요합니다.
메타는 미성년자 대상 AI 안전장치가 부족하다는 조사 보도 이후, 청소년과의 대화에서 자해·자살·섭식장애·부적절한 로맨스 주제를 다루지 않도록 챗봇 훈련 방식을 바꾼다고 밝혔다. 또한 인스타그램·페이스북에서 제공되는 사용자 제작 AI 캐릭터 중 성적 대화 가능성이 있는 일부(예: “Step Mom”, “Russian Girl”)는 청소년 접근을 제한하고, 교육·창의성을 강조하는 캐릭터만 제공하겠다고 했다. 메타는 이전에는 해당 주제들이 ‘적절한 방식’으로는 대화될 수 있었으나 이는 실수였다고 인정했으며, 청소년이 전문가 자원으로 안내되도록 가드레일을 추가하고 접근 범위를 제한 중이라고 설명했다.
영국의 초당적 60명 국회의원이 구글 딥마인드가 국제 AI 안전 서약을 어겼다고 주장하는 공개서한을 냈다. 서한은 구글이 3월 25일 Gemini 2.5 Pro를 출시했지만 안전 테스트에 대한 상세 정보를 한동안 공개하지 않아 “위험한 선례”가 됐다고 지적하며, 안전 평가 보고 공유 일정과 외부 테스터 공개 여부 등을 명확히 하라고 요구했다. 구글은 모델 개발 과정에서 UK AISI 등 제3자 테스터를 포함한 엄격한 안전 점검을 했고, 서약(Seoul Frontier AI Safety Commitments)도 이행 중이라고 반박했다.
오픈 웨이트(open-weight) AI는 파라미터가 공개돼 투명성과 red teaming을 높이지만, 유해한 능력이 빠르고 되돌리기 어렵게 확산될 수 있고 안전장치가 저비용으로 제거될 위험도 있다고 설명한다. AISI는 모델 기반(학습데이터 curation, tamper-resistant fine-tuning, provenance 등), 스캐폴딩 기반(외부 안전장치, 데이터 provenance, 모니터링·개입 도구), 절차 기반(풀 액세스 audits, 문서화·투명성, 단계적 배포, KYC, 배포 중단·대체 등)으로 위험을 줄이는 ‘툴킷’을 정리했다. 특히 학습 전 유해 데이터 제거가 adversarial fine-tuning 저항에 10배 이상 효과적일 수 있다는 연구 결과와, 현재 fine-tuning 기반 방어는 소수 예시로도 쉽게 무력화될 수 있어 tamper-resistant fine-tuning이 핵심 과제라고 강조한다.
유럽 집행위원회가 EU의 핵심 AI 법(AI Act) 관련해 특정 조항의 적용을 연기하는 방안을 제안할지 “아주 곧” 결정할 것이라고 MLex가 전했다. 집행위는 고위험 AI 시스템의 개발자·사용자에 적용되는 일부 법적 의무를 잠정 중단할 가능성과 관련해 표준화 작업의 진행 상황을 평가 중이며, 이로 인한 법적 불확실성과 기술 업계의 로비가 이어지고 있다고 설명했다.