사이버 범죄자, AI로 여행사진 분석해 맞춤형 피싱 시도 (2026.8.16)
사이버 범죄자들이 AI로 소셜미디어의 여행사진을 분석한 뒤, 여행 중 신용카드가 해킹됐다는 문자메시지를 보내 금융정보 탈취를 시도하는 사례가 발생. 맥아피(McAfee)가 무료 AI 모델 2종으로 여행사진 2만 1,000여 장을 분석한 결과, 사진 촬영 장소를 약 90%의 정확도로 식별할 수 있는 것으로 확인.
사이버 범죄자들이 AI로 소셜미디어의 여행사진을 분석한 뒤, 여행 중 신용카드가 해킹됐다는 문자메시지를 보내 금융정보 탈취를 시도하는 사례가 발생. 맥아피(McAfee)가 무료 AI 모델 2종으로 여행사진 2만 1,000여 장을 분석한 결과, 사진 촬영 장소를 약 90%의 정확도로 식별할 수 있는 것으로 확인.
키프로스는 유럽연합 인공지능법(Regulation (EU) 2024/1689)의 국내 적용과 감독을 위한 「2026년 인공지능법」 초안을 공개했다. 법안은 국가 거버넌스와 관할 당국, 시장 감시·통제, 준수 및 행정벌금 부과 절차를 규정하고 고위험 AI 시스템 등록과 AI Regulatory Sandbox를 도입한다. 정부는 기관·기업·시민의 의견을 2026년 9월 16일까지 전자 공공협의 플랫폼을 통해 접수한다.
본 논문은 토큰이 지능 경제의 고품질 발전을 주도하는 엔진으로 작용해야 한다는 주장을 제기한다. 저자 Tang Jie는 Zhipu AI의 공동 창업자이자 청화대학교 컴퓨터과학기술부 교수로, 토큰이 단순히 정보 처리의 기술적 단위가 아니라 지능 서비스의 생산, 교환, 가치 창출을 측정하는 기초 단위가 되어야 한다고 강조한다. 지능 경제 발전은 모델 지능 수준, API 호출량, 그리고 지능적 전환 효율성이라는 세 가지 요소에 달려 있다. 중국은 개방형 소스 모델, 저렴한 서비스, 그리고 방대한 API 호출량을 통해 의미 있는 이점을 구축했으나, 토큰 소비의 상당 부분이 채팅과 이미지 생성 같은 저가치 시나리오에 집중되어 있는 반면, 산업 제조와 과학 연구 같은 고부가가치 영역에서의 근본적인 모델 혁신은 부족하다. 향후 발전 방향은 호출량 증가만을 추구하는 것이 아니라 모델 능력 향상과 실제 경제로의 전환률 증대를 동시에 추구해야 한다. 또한 토큰의 측정, 가격 책정, 거래, 관리 규칙을 정립하는 것이 중요하다. 토큰의 가치는 단순히 토큰 수보다는 지능적 전환 효율성에 더 크게 의존한다.
AI 기술을 활용한 모의 포커스 그룹이 정치 캠페인에서 실제 유권자의 마음을 이해하는 데 새로운 도구로 활용될 가능성이 제기되고 있다. 그러나 이러한 합성 유권자들이 실제 유권자의 의견을 정확하게 반영할지, 아니면 오히려 왜곡된 이미지를 제공할지에 대한 우려도 제기되었다. 연구에 따르면, 이러한 도구의 사용은 위험성 평가와 실제 유권자와의 유사성 정도에 따라 결정되어야 하며, 특히 특정 결정(예: 연합 참여 여부)에 활용될 경우 위험성이 크다고 경고한다. 또한, 합성 유권자 데이터가 특정 플랫폼에서 수집된 데이터에 기반하고 있어 전체적인 공공의견을 완벽하게 반영하지 못한다는 점도 지적되었다. 이로 인해 공공의견 형성에 인공적인 요소가 추가될 위험이 있다는 우려도 함께 제기되었다.
AI 챗봇의 확산으로 선거 정보의 생성과 접근이 변화하고 있으며, 이는 2026년 미중간선거를 앞두고 선거 정보 환경에 영향을 미치고 있다. 연구에 따르면, 주요 챗봇들은 제시된 선거 관련 허위 음모론에도 불구하고 사실을 반박하는 경향을 보였다. 그러나 이는 일시적인 현상일 수 있으며, 현재 연방 정부의 선거 정보 관련 지원 축소와 함께 주 단위의 대응 노력이 중요해지고 있다. 한편, 대부분의 주들은 선거 인프라에 대한 투자를 통해 투표 보안을 강화해 왔다.
미국 중간선거 기간 동안 AI 챗봇이 선거 정보 검색과 생성에 널리 활용되면서 정보 환경이 변화하고 있다. 브레넌 센터의 연구는 AI가 선거 관련 허위 정보 확산에 기여하는지 여부를 탐구했으며, 인터뷰에서는 AI 챗봇이 선거 관련 음모론과 허위 정보에 어떻게 대응하는지, 그리고 정부 기관의 정보 접근성 문제 등 다양한 주제를 다뤘다. 특히 트럼프 행정부 하에서 선거 보안 관련 정보 출처가 제거된 상황에서 AI 챗봇이 신뢰할 수 있는 정부 정보를 제대로 제공하지 못하는 문제점이 제기되었다. 또한, AI 안전 검토의 한계와 AI 기술의 책임 있는 활용 방안에 대한 논의도 포함되어 있다.
록히드 마틴이 개발한 자율 전투기 X-62A가 실제 공중에서 가상 적기를 감지하고 추적하여 모의 요격 임무를 성공적으로 수행하였다. 이 전투기는 F-16을 기반으로 개조되었으며, 인공지능이 실시간 데이터를 분석하여 조종한다. 이번 시험에서는 실제 훈련기인 T-38 탤론 제트를 대상으로 8번의 출격에서 27번의 요격 기동을 성공적으로 이뤄냈다. 향후에는 AI가 복잡한 비행 조작을 담당하고 조종사는 전략적 판단에 집중할 것으로 보인다.
올해 상반기 북한을 비롯한 국가 배후 해킹 조직의 공격이 증가한 가운데, 특히 북한의 공격이 한국을 가장 많이 노리며 생성형 인공지능과 딥페이크 공격 기법을 더 많이 사용한 것으로 나타났다. 북한의 해킹 활동은 한국을 19회 공격 대상으로 삼았으며, 주요 공격 기법으로는 암호화폐와 IT 산업, 딥페이크 등이 포함되었다. 중국과 러시아의 공격도 각각 동남아시아와 동유럽 지역으로 확대되었다. 보고서는 하반기에도 이러한 사이버 위협이 지속될 가능성을 경고했다.
AI 챗봇과 생성된 소송 자료의 비밀 유지 여부가 법조계의 새로운 쟁점으로 부상하고 있다. 미국에서는 AI가 만든 문서가 변호사와 의뢰인 간의 비밀 유지 특권을 인정받지 못해 공개될 위기에 처했으나, 한국에서는 챗GPT를 활용한 소송 자료가 비밀 유지가 인정되는 사례가 있어 법적 해석의 차이가 나타나고 있다. 이로 인해 이용자의 민감한 정보 보호에 대한 우려가 제기되고 있다.
미국은 동맹국들에게 팍스 실리카와 같은 AI 공급망 협의체에 참여하면서 중국의 AI 이니셔티브인 WAICO에 동시에 가입하는 것을 피할 것을 촉구하는 서한을 준비하고 있다. 이는 미중 간의 AI 경쟁이 단순 기술 경쟁을 넘어 외교와 통상 영역까지 확대된 결과이다. 한국을 포함한 회원국들은 미국과의 협력을 통해 중국 의존도를 줄이려 하지만, 반도체 수출 등에서 여전히 중국에 크게 의존하고 있어 딜레마에 직면해 있다. 미국의 압박은 동맹국들이 명확한 진영 선택을 하도록 요구하는 것으로 보인다.
미국이 한국을 포함한 35개 국가들에게 중국의 인공지능(AI) 개발에 참여하면 미국이 주도하는 글로벌 AI 연합에서 배제될 것이라는 경고를 발송했다. 이는 미국과 중국 간의 치열한 AI 경쟁의 일환으로, 특히 애플이 중국산 메모리 반도체 사용을 검토하는 상황에서 미국 정부의 강한 반발을 보여주고 있다. 중국과의 협력을 피하려는 미국의 노력이 강조되고 있다.
액시오스는 오픈AI와 3년간 협력해 13개 지역 뉴스레터에 콘텐츠 생성 도구를 무료로 제공하고, 오픈AI는 액시오스의 모든 콘텐츠를 ChatGPT 학습에 활용할 수 있게 됐다. 기사에서는 액시오스가 이미 축약된 편집 과정을 AI로 자동화하려 한다고 지적하며, 기술 기업과 오픈AI를 취재하는 매체가 오픈AI와 협력하는 데 따른 이해충돌을 문제로 제기한다. 액시오스 공동창업자 짐 반더하이는 직원들에게 AI를 받아들이지 않으면 언론계에서 일자리를 찾기 어려울 수 있다고 말했다.
이스라엘의 두 사건에서 ChatGPT와 Gemini 대화가 방화 혐의자의 범행 전 생각과 실종된 모녀의 이동·도피 계획을 파악하는 단서로 활용된 것으로 보도됐다. AI 대화는 삭제하더라도 기기 포렌식이나 적법한 법적 절차 등을 통해 확보될 가능성이 있어, 인터페이스에서 삭제하는 것이 데이터의 완전한 삭제를 뜻하지는 않는다. 기사에서는 임시 대화, 기록·모델 개선 설정 조정 등 각 서비스의 개인정보 보호 기능을 소개하면서도, 민감한 정보는 애초에 입력하지 않는 것이 가장 확실한 보호책이라고 설명한다.
ASIC는 지난 12개월 동안 온라인 사기 1만9,400건을 삭제했으며, 이는 전년보다 182% 증가한 수치라고 밝혔다. 사기범들은 유명 인사와 정치인 등을 AI 딥페이크로 사칭해 가짜 뉴스와 투자 플랫폼으로 피해자를 유인하고 있으며, AI로 인해 사기 콘텐츠가 더 정교해져 탐지가 어려워지고 있다. ASIC는 소셜미디어 플랫폼의 대응 강화를 촉구했고, 호주에서는 2025년 투자 사기로 8억3,770만 호주달러의 피해가 발생했다.
이 연구는 인공지능(AI) 시스템이 직면한 데이터 오염, 데이터 드리프트, 데이터 무결성 문제 등을 통합적으로 관리하는 AI 거버넌스 프레임워크를 제시한다.
주요 내용: - 기존 연구들이 데이터 오염, 드리프트, 무결성 문제를 각각 다루었지만, 이 논문은 이러한 위험 요소들을 하나의 거버넌스 관점에서 통합적으로 분석한다. - 공급망 사례를 통해 데이터 오염, 드리프트, 무결성 실패가 AI 성능과 조직의 회복력에 미치는 영향을 살펴본다. - 효과적인 AI 거버넌스는 기술적 방어 수단을 넘어서 지속적인 라이프사이클 보증, 강력한 데이터 관리, 조직의 책임성, 그리고 적절한 규제 감독을 포함해야 함을 강조한다. - 제안된 통합 AI 거버넌스 프레임워크는 기술적 보증, 조직적 거버넌스, 국제적으로 인정받은 거버넌스 원칙을 라이프사이클 모델 내에서 통합한다. - 이 연구는 복잡한 데이터 기반 환경에서 AI를 구현하는 조직들에게 지침을 제공한다.