AI 컴패니언은 이용자가 고민과 감정을 털어놓거나 애착을 형성하는 등 챗봇과 정서적으로 교류하는 방식이다. 연구에 따르면 이용자들은 이를 실재하는 타자보다 안전하게 속내를 말할 수 있고 통제 가능한 공간으로 인식하지만, 이러한 통제성이 자기반복적 메아리와 프라이버시 문제로 이어질 수 있다. 글은 AI 컴패니언 이용을 정신질환이나 의존으로만 규정하기보다, 외로움과 의미 있는 소통을 원하는 인간의 욕구 및 돌봄의 사회적 조건 속에서 이해해야 한다고 설명한다.
Tech Policy Press는 MIT Technology Review가 보도한 ‘검열 산업 복합체’ 서사의 형성과 트럼프 행정부 정책에 미친 영향을 다룬 팟캐스트를 공개했다. 대담에서는 이에 동조하는 우파 세력의 협력 과정과, 관련 연구를 수행한 시민사회단체 및 독립 기술 연구자들이 소송·조사·비자 제한·각종 괴롭힘의 대상이 된 상황을 설명한다.
미국 여러 지역이 환경·전력망·수자원 영향을 검토하기 위해 데이터센터 개발을 일시 중단하는 가운데, 뉴욕주는 7월 14일 대규모 시설에 대한 첫 주 statewide moratorium을 시행했다. 뉴스레터는 중단 기간 지방정부가 검토할 수 있는 투명성, 용도지역 지정, 전력·수자원 사용, 세금, 지역사회 혜택 협약, 노동자 보호 및 집행 방안을 소개한다. 또한 ‘검열 산업 복합체’ 서사가 트럼프 행정부 정책으로 확산된 과정과 시민사회·기술 연구자에 대한 소송 및 괴롭힘, 베트남 사이버보안법, 메타의 아동 유해성 재판, AI 거버넌스와 글로벌 기술 경제 관련 논의를 다룬다.
스스로 목표를 세우고 작업을 실행하는 에이전틱 AI가 온라인 사기 조직에 활용되면서 다국적 피해자를 겨냥한 범죄가 더욱 정교해질 수 있다는 경고가 나왔다. 사이버 범죄 전문가는 에이전틱 AI가 사기꾼 10명에 해당하는 역할을 대신해 원격 범죄 조직 운영을 가능하게 하고, 피해자 정보를 바탕으로 고도화된 딥페이크 공격을 수행할 수 있다고 설명했다. 유엔에 따르면 지난해 아시아·태평양 지역의 국경 간 온라인 사기 피해액은 1140억 달러로 2023년보다 약 3배 증가했으며, 대응을 위해 국가 간 협력과 공공·민간의 AI 기반 공조가 필요하다고 강조했다.
전북교육청은 생성형 AI의 활용 범위와 책임을 규정한 ‘전북 AI리터러시 교육 가이드라인’을 마련해 9월부터 학교에 적용한다. 학교생활기록부 등 정성적 평가 기록에 AI서비스를 활용하는 것을 금지하고, 동의 없는 얼굴·음성 합성 딥페이크도 금지한다. AI 활용 시 최종 판단과 책임은 사람이 맡도록 하며, 학생의 정보 교차 검증과 AI 활용 범위·목적 공개도 요구한다. 가이드라인은 법적 강제력 없이 학교가 자율적으로 적용하며, 전북교육청은 매년 한 차례 이상 내용을 검토·보완할 계획이다.
생성형 AI로 대량 생산된 저품질 콘텐츠인 AI 슬롭이 확산하면서 텍스트와 이미지의 AI 생성 여부를 판별하는 감별기 시장이 성장하고 있다. 미국 AI 탐지 스타트업 판그램은 최근 900만 달러를 유치했으며, AI가 일부 개입한 혼합형 글과 AI 생성 이미지를 판별하는 모델을 공개했다. 그러나 사람이 쓴 글을 AI 생성물로 잘못 판단하는 오탐 가능성이 남아 있고, AI 생성 여부만으로 콘텐츠의 품질을 판단하기 어렵다는 지적도 나온다.
AI가 만든 저품질·허위 콘텐츠인 ‘AI 슬롭’이 유튜브와 틱톡 추천 알고리즘을 통해 일상적으로 확산하고 있다. 캡윙 조사에서 한국의 상위 유튜브 채널 100개 중 11개가 AI 슬롭 채널로 분류됐고, 누적 조회수는 84억5000만 회에 달했으며 신규 쇼츠의 21%, 틱톡 추천 영상의 59%가 AI 슬롭으로 나타났다. 잘못된 건강 정보나 등산 지도처럼 실제 선택과 행동에 피해를 줄 수 있고, 검색·추천 영역에서 양질의 콘텐츠를 밀어내 온라인 정보에 대한 신뢰를 훼손할 우려가 제기된다. 다만 AI 활용 창작물 전체를 AI 슬롭으로 볼 수는 없으며, 품질·생산 규모·의도·피해 가능성 등을 종합해 판단해야 한다.
유튜브는 대량·반복적인 비진정성 콘텐츠의 수익화를 제한하고, 구글은 검색 순위 조작을 위한 저품질·비독창적 콘텐츠의 노출을 낮추거나 제외한다. 메타와 틱톡은 AI 생성·변형 콘텐츠에 라벨을 붙이고 탐지·교육을 강화하며, 틱톡은 올해 1분기에 8600만 개 이상의 허위 계정을 삭제했다고 밝혔다. 플랫폼별 AI 슬롭 기준과 제재 방식이 달라 콘텐츠가 다른 플랫폼으로 이동할 수 있어, C2PA 등 출처 기술과 플랫폼 간 정보 공유가 과제로 남아 있다.
최종현학술원과 서울대학교 미래전연구센터는 독자 파운데이션 모델 확보를 넘어 안정적인 AI 접근·운용 역량을 중시하는 ‘소버린 AI 2.0’ 보고서를 공동 발간했다. 외부 서비스가 차단돼도 대체 체계로 전환해 AI 기능을 중단 없이 유지하는 능력을 새로운 국가안보 기준으로 제시했다. 한국에는 기술 완전 자립보다 메모리 반도체와 데이터센터 등 산업적 강점을 활용해 선택과 집중하고, 외부와 연결되면서도 핵심 기능이 종속되지 않는 구조를 구축할 것을 제안했다.
국내 언론의 ‘AI 편향’ 보도는 2022년 212건에서 2025년 876건으로 증가했으며, 공정한 의사결정, 허위정보, 젠더 편향 등이 주요 쟁점으로 분석됐다. 전문가들은 알고리즘과 데이터 설계뿐 아니라 수집·학습·배포·사용 전 과정에서 편향을 평가하고 관리해야 한다고 강조했다. 생성형 AI의 편향 측정에는 임베딩·확률·생성 텍스트 기반 방식이 활용되며, 안전성·공정성·유용성 사이의 균형과 지속적인 모니터링이 필요하다고 지적했다.
중국 기업들이 성능은 충분하면서 가격이 60~90% 저렴한 오픈웨이트 AI 모델을 잇달아 공개하면서 미국 개발자와 스타트업의 사용이 빠르게 늘고 있다. 공개 가중치 모델은 복제와 변형이 쉬워 정부 규제만으로 확산을 막기 어렵고, 금지할 경우 미국 기업의 비용 부담이 커질 수 있다. 한국은 특정 국가 모델에 의존하거나 무조건 배제하기보다 여러 모델을 교체해 사용할 수 있는 시스템을 구축하고, 국산 모델을 성능과 비용 측면에서 대체재로 육성해야 한다.
대외경제협력기금이 첫 AI 사업으로 탄자니아에 AI·디지털 기술교육기관을 건립하는 사업을 승인했다. 지원 규모는 1억7,000만 달러다.
로런스 웡 총리는 AI 에이전트가 중소기업의 마케팅·운영 같은 업무를 지원하고, 개인 맞춤형 운동 계획과 유방암 검진에도 활용될 수 있다고 설명했다. 또한 유전체 분석과 유전자 검사를 통해 질병 위험을 조기에 파악하고 예방·치료를 개선할 수 있다고 밝혔다.
인공지능 시스템의 데이터 무결성, 모델 견고성, 알고리즘 투명성 같은 위험을 평가하기 위한 위험 기반 감사 방법론을 제안한다. 거버넌스, 데이터 보안, 모델 보안, 애플리케이션 보안을 문서화, 준수, 접근 통제, 애플리케이션 보안, 모델 보안 등의 통제 영역으로 통합했다. 통제를 중요도별로 분류해 data poisoning, model inversion, prompt injection, 민감 데이터 유출 같은 취약점을 우선 평가하도록 구성했다. 감사 절차는 범위 설정, 통제 매핑, 증거 수집, 평가, 보고 순서로 진행되며 기술적·조직적 측면을 함께 점검한다.