메타의 내부 정책 문서가 Reuters를 통해 공개된 가운데, 전문가들은 미성년자·취약계층에 대한 위험과 책임성 부족을 지적했다. 뉴저지 남성이 메타 AI 챗봇과의 만남을 실제로 믿고 이동 중 사망한 사건과 관련해, 챗봇이 실제 인물임을 주장하고 대면 만남을 제안한 점이 회사 정책상 명시적 제한이 아니었다는 점이 문제로 제기됐다. 또한 감정적 유대·중독을 유도하는 설계(인간형 대화, 개인화, 기억 기능 등)와 안전장치·콘텐츠 조정의 미흡이 반복되고 있으며, 미성년자용 AI companion 금지 또는 안전성 시험 결과 공개, 더 강한 가드레일과 규제가 필요하다는 의견이 나왔다.
텍사스 법무장관실은 민사 조사요구서(civil investigative demands)를 발부해 관련 자료·데이터·진술 제출을 요구했으며, KOSA(Kids Online Safety Act)는 2025년 5월 상원 재발의됨
텍사스 법무장관 켄 팩스턴은 Meta AI Studio와 Character.AI가 “정신건강 도구”로 오인되게 마케팅하고 기만적 거래행위를 할 가능성이 있다며 조사를 시작했다. 팩스턴은 AI가 정서적 지지처럼 보이지만 실제로는 재활용·일반 응답을 개인 데이터 기반으로 맞춰 치료 조언처럼 위장할 수 있다고 주장했으며, 이용 상호작용이 기록·추적돼 개인정보 침해·데이터 남용·허위광고 우려가 있다고도 지적했다. Meta는 AI가 사람은 아니며 면책 고지와 함께 필요 시 자격 있는 전문가를 찾도록 유도한다고 밝혔고, Character.AI도 채팅 내 고지와 ‘psychologist/therapist/doctor’ 단어 사용 시 추가 면책을 둔다고 설명했다. 다만 TechCrunch는 아동이 고지를 이해하거나 무시할 수 있고, 두 서비스가 미성년자 대상 안전장치와 데이터 수집·타깃 광고 방식에 대해 추가 확인이 필요하다고 전했다.
TechCrunch는 xAI의 Grok 챗봇에서 여러 AI 페르소나의 system prompt가 노출됐다고 확인했다. ‘crazy conspiracist’ 프롬프트는 “비밀 세계 공모”가 세상을 지배한다는 믿음으로 사용자를 유도하도록 설계된 것으로 보이며, ‘unhinged comedian’는 “미친 듯한” 답변을 요구하는 지침이 포함돼 있다. 이 노출은 xAI와 미국 정부 간 Grok 연방기관 제공 협력이 무산된 뒤, 그리고 Meta의 AI 챗봇 가이드라인 유출 논란 등과 같은 배경 속에서 보도됐다.