브라질 ANPD, AI 규제 샌드박스 의견수렴 실시 (2026.8.15)
브라질 개인정보 감독기관(ANPD)은 AI 도구의 출시 전 평가를 지원하는 규제 샌드박스 운영방안에 관한 첫 번째 이해관계자 의견수렴을 실시. 참가자들은 AI의 투명성과 감독, 익명화 및 데이터 거버넌스, 차별과 불균형한 영향, 규제 공백의 개선방안을 논의.
브라질 개인정보 감독기관(ANPD)은 AI 도구의 출시 전 평가를 지원하는 규제 샌드박스 운영방안에 관한 첫 번째 이해관계자 의견수렴을 실시. 참가자들은 AI의 투명성과 감독, 익명화 및 데이터 거버넌스, 차별과 불균형한 영향, 규제 공백의 개선방안을 논의.
이 글은 외부 데이터셋과 연결해 새로운 근거를 주기적으로 확인하고, 영향을 받는 문장만 자동으로 수정 제안하는 ‘살아 숨 쉬는 에세이’ 구조를 소개한다. 에세이는 문장별 데이터 객체를 담은 JSON mesh, 변경을 탐지·분류·반영하는 알고리즘, 정기 실행 스케줄러, 사람의 승인 절차로 구성된다. Google Cloud 기반 구현에서는 Firebase Hosting, Cloud Storage, Cloud Run, Cloud Scheduler와 별도 관리자 대시보드를 활용하며, 승인된 변경만 반영해 문서를 재생성한다.
중국이 베이다이허 휴가 기간 동안 AI와 원천기술을 국가 전략의 핵심으로 내세우며 미국과의 AI 기술 경쟁을 강화하고 있다. 미국의 제재 조치들이 중국의 AI 인프라와 기술 수출에 영향을 미치자, 중국은 드론 수출 통제 강화 등으로 반격하고 있다. 이러한 갈등이 심화되면서 시진핑의 9월 방미 일정에도 영향을 미칠 수 있다는 우려가 제기되고 있다. 양국 간의 AI 패권 경쟁은 단순 무역 분쟁을 넘어 국가 안보와 미래 산업 주도권을 둘러싼 경쟁으로 확대되고 있다.
미국 플로리다주 거주 남성이 챗GPT에 헤어진 여자친구 살해 계획을 상세히 입력한 후 오픈AI의 신고로 체포됨. 구체적인 살해 계획과 무기 구매 의도를 드러냈으나 실제로는 총기를 소유하지 않았음. 체포 후 보호관찰 8년과 전자발찌 2년 착용 처분을 받음.
요약불가
식품의약품안전처장 오유경은 AI 기술을 이용해 가짜 의사를 만들어 잘못된 건강 정보를 제공하거나 건강기능식품의 효능을 과장하는 ‘공장형 건강 동영상’의 위험성을 경고했다. 이는 주로 광고 수익을 위해 자극적인 콘텐츠를 생산하며, 허위 정보로 인한 피해 가능성이 크다는 점을 강조했다. 노인 대상 교육에서는 AI 가짜 광고와 허위 건강 정보를 구별하는 방법과 안전한 소비 습관을 강조했다.
미국 플로리다주 거주자인 대런 저우(25)가 챗GPT와의 대화에서 전 여자친구 살해 계획을 상세히 언급한 후 오픈AI의 신고로 체포되었다. 저우는 구체적인 범행 방법까지 챗GPT에 털어놓았고, 이 내용이 연방수사국(FBI)에 전달되어 체포되었다. 이후 그는 유죄를 인정했으나 감형 합의로 보호관찰 8년과 전자발찌 착용 2년의 처분을 받았다. 오픈AI의 신고 역할이 논란이 되기도 했으나, 저우는 정신 건강 문제를 겪고 있었다는 주장을 펼쳤다.
출처: 뉴스RSS · 천지일보
마감일/시행일: 없음
25세의 금융 분석가 대런 저우는 챗GPT에서 헤어진 전 여자친구를 살해하겠다는 구체적인 계획을 털어놓았고, 오픈AI의 신고로 체포되었다. 그는 챗GPT에서 범행 대상의 정보와 사용할 무기까지 상세히 언급했으며, 오픈AI는 이러한 유해한 대화 패턴을 감지하고 FBI에 신고했다. 저우는 보석금을 내고 석방되었으나 직장에서 해고되었으며, 결국 보호관찰 8년과 전자발찌 착용 2년의 처분을 받았다.
터키 이스탄불에서 인공지능을 활용한 사기 조직이 유럽과 체코 시민들을 대상으로 사기를 저지른 혐의로 체포되었다. 이 조직은 인공지능 지원 소프트웨어를 이용해 여러 국가의 피해자들을 추적하고 사기 행위를 벌였으며, 국제 사법 협력을 통해 체코 경찰과의 정보 공유로 이들의 네트워크를 해체하는데 성공했다. 이스탄불에서 동시다발적으로 진행된 수사는 여러 디지털 자료의 압수를 포함해 3개의 동시다발적인 장소에서 이루어졌다. 피해자들은 은행 계좌와 암호화폐 플랫폼을 통해 사기 수익을 이전하려 했던 것으로 나타났다.
터키 경찰이 딥페이크 비디오를 이용해 약 33명을 사기쳐 약 1500만 리라의 피해를 입힌 혐의로 9명의 용의자를 체포했습니다. 이 사건은 Antalya, Hatay, Ankara에서 동시다발적으로 발생했으며, 용의자 중 일부는 석방되었고 일부는 구금되었습니다. 최근 연구에 따르면, 특히 로맨틱 관계를 위장한 사기에서 딥페이크 기술의 사용이 급증하고 있습니다.
이 연구는 인공지능 내에서 감정의 기능적 역할을 기능주의 관점에서 검토하고, 감정 관련 과정이 시스템 행동과 결정에 어떻게 영향을 미치는지 분석한다. 특히, 감정 메커니즘이 평가, 조절, 행동 준비 등에 어떻게 기여하는지 분류 체계를 통해 탐구한다.
연구진은 감정 관련 개념을 키워드 기반 검색을 통해 다양한 학술 데이터베이스에서 수집한 데이터를 분석하고 있다. 현재까지의 분석 결과를 바탕으로, 감정의 여덟 가지 기능적 역할 (평가, 표현, 생성, 우선순위 설정, 적응, 조정, 피드백, 그리고 조절 메커니즘)을 통해 기존 연구들을 분류하고 있다. 이러한 접근은 AI 시스템 내부 과정이 어떻게 인지와 의사결정에 영향을 미치는지 이해하는 데 도움을 준다.
핵심 결과로는, 감정 관련 메커니즘이 AI의 행동과 결정에 중요한 역할을 수행하며, 이러한 과정의 이해는 안전하고 신뢰할 수 있는 인간-AI 상호작용을 위한 설계와 관리에 필수적임을 강조한다. 특히, 아직 충분히 연구되지 않은 피드백 과정과 조절 메커니즘에 대한 탐구가 필요함을 제시한다.
이 연구는 감정을 AI 시스템 행동의 기능적 측면으로 재해석하고, 의사결정, 신뢰성, 책임 있는 AI 설계를 위한 미래 연구 방향을 제시한다.
이 연구는 생성형 AI 시스템의 효과성을 높이기 위해 사용자 피드백을 통한 반복적인 프롬프트 최적화 방법을 제시한다. 특히, 양자 알고리즘 설명을 사례로 삼아 복잡한 개념 이해를 돕는 데 초점을 맞춘다.
연구팀은 초기 모델 평가를 시작으로, 초보 사용자들과의 반복적인 프롬프트 개선 과정을 거쳤다. 이를 통해 양자 알고리즘 설명의 품질, 명확성, 그리고 학습자의 신뢰도를 향상시키는 프로토타입 애플리케이션 AlgoQ를 개발했다. 초기 결과는 구조화된 프롬프트 지원이 복잡한 개념 이해를 개선하고, AI 생성 설명의 명확성을 높이며, 학습자의 자신감을 증가시킨다는 점을 보여준다.
이 연구는 인간과 AI 간의 협업을 개선하는 방법을 이해하는 데 기여하며, 효과적인 AI 기반 학습 시스템 설계에 대한 통찰력을 제공한다. 구체적으로, 프롬프트 최적화를 통해 영어 조건 대비 한국어 조건에서의 이해도 향상 비율은 초기 분석에서 명확히 제시되지 않았으나, 사용자 피드백 기반의 반복적 개선이 학습 효과를 유의미하게 증가시킨다는 점이 강조된다.
이 연구는 기업들이 AI 기술을 빠르게 도입하면서 동시에 성숙하지 않은 거버넌스와 보안 관행 사이의 간극을 분석한다. 특히, AI 기술의 사이버 보안 위험 관리 측면에서의 격차를 파악하기 위해 다양한 데이터베이스에서 수집한 자료를 토픽 모델링 기법으로 분석했다.
주요 분석 결과는 다음과 같다: - 사이버 방어와 탐지를 위한 AI 활용 (주제 1) - AI 기반 공격 및 보안 취약점 (주제 2) - 산업 및 인프라 적용 사례 (주제 3) - AI 거버넌스와 사회적 영향 (주제 4) - AI 기술의 기초적인 기술적 기반 (주제 5)
분석 결과, 위협 대응 및 제어 관련 주제가 가장 많이 나타났으며, 거버넌스와 사회적 영향, 그리고 공격 목적으로 사용되는 AI 관련 주제는 상대적으로 적게 나타났다. 이는 현재 거버넌스 의도와 실제 구현된 보안 제어 사이에 간극이 존재함을 시사한다.
연구는 이러한 격차를 줄이기 위한 정책적 시사점을 제시하며, 조직들이 기술, 프로세스, 인적 요소를 통합적으로 관리할 수 있도록 통합된 매핑 접근법을 제안한다.
핵심 결과: 위협 대응 주제가 가장 높은 비중을 차지했으며, 거버넌스와 사회적 영향, 공격 목적의 AI 활용 주제는 상대적으로 낮은 비중을 보였다. 구체적인 수치는 제공되지 않았으나, 이러한 패턴은 기술과 거버넌스 간의 간극을 강조한다.
이 연구는 대기업의 뉴스 인텔리전스 시스템에 대규모 에이전트형 언어 모델(LLM) 파이프라인을 구축하고, 이를 통해 정보 과부하와 LLM 생성 브리핑에 대한 과도한 의존 문제를 해결하는 방법을 제시한다.
구체적으로, 기업 모니터링 시스템(Corporate Monitor)은 6개월 동안(2025년 9월~2026년 2월) 36,910개의 독특한 기사를 처리했으며, Top News 파이프라인은 126회의 실행(총 52,462개의 기사)을 수행했다. 생성된 보고서는 출처 신뢰성, 사실성, 정보 가치, 일관성을 기준으로 평가되며, 이 중 75점 이상은 자동화된 감독 경계로 정의된다. 기준 미만의 출력은 최대 세 번의 재시도를 거치며, 여전히 기준을 충족하지 못하는 경우는 검토 대상으로 플래그된다.
결과적으로, 스케줄된 파이프라인은 100% 성공률을 보였으며, 사용자 주도 워크플로우는 99% 이상의 신뢰성을 나타냈고, 품질 관리 하에 처리된 2,592개의 출력물 중 85.3%가 기준을 통과했다. 전문가 평가(40건)에서는 전문가 판단과 방향성이 일치함을 확인했으나, 기업 관련성은 추가적으로 고려해야 할 차원으로 지적되었다.
이 연구는 대규모 에이전트형 AI 시스템의 책임감 있는 거버넌스 설계 원칙을 제시한다.
이 연구는 조직들이 생성형 AI의 위험을 관리하기 위해 인간 중심의 감독(Human-in-the-Loop, HITL) 체계를 어떻게 구현하는지 분석한다. 주요 내용은 다음과 같다:
- 문제 진단: 조직들이 HITL 체계를 실질적으로 운영하는 데 어려움을 겪고 있음을 지적한다. - 구성 요소 분석: 세 가지 주요 감독 구성 방식을 식별한다: - AI Recommendation: 최종 사용자가 AI 출력을 검증하는 방식 - AI-Supported Work: 인간이 주요 작업을 수행하면서 AI가 구조화된 체크포인트에서 지원하는 방식 - AI-Led Workflows: AI가 순차적 단계를 실행하고 인간이 게이트에서 감독하며 예외를 처리하는 방식 - 적용 가이드라인: 여섯 가지 작업 특성에 따라 적합한 감독 구성 방식을 결정하는 컨틴전시 프레임워크를 제시한다. 이 프레임워크는 일관된 감독 방식이 왜 효과적이지 않은지 설명하며, 작업 특성에 맞지 않는 감독 구성의 일반적인 실패 사례를 다룬다.
핵심 결과로는 조직들이 작업의 특성에 따라 적절한 HITL 구조를 선택함으로써 효율적인 감독을 구현할 수 있다는 점이 강조된다.
이 연구는 기업들이 자율적인 다중 에이전트 AI 시스템을 운영할 때 직면하는 전통적인 GRC(Governance, Risk, and Compliance) 프레임워크와의 호환성 문제를 다룬다. 특히, 인간의 속도로 작동하는 기존 GRC 시스템이 AI 에이전트의 빠른 동작 속도와 맞지 않는다는 점을 강조한다.
연구팀은 MOM-GS-MAS (Monitoring, Observability, and Management Module for Governance and Security of Multi-Agent Systems) 플랫폼을 제안한다. 이 플랫폼은 16개의 특화된 거버넌스 에이전트를 통해 안전성, 정렬성, 거버넌스, 보안(SAGS)의 네 가지 기둥에서 실시간 모니터링과 정책 집행을 수행한다. 시뮬레이션과 실제 산업 시나리오를 통해 평가한 결과, MOM-GS-MAS는 100ms 미만의 정책 집행 시간을 보이며, 다섯 가지 적대적 벡터에 대해 97% 이상의 공격 탐지율과 1,000개 이상의 에이전트 규모에서도 지속적으로 99% 이상의 정책 준수율을 달성했다.
핵심 결과: - 정책 집행 시간: sub-100ms - 공격 탐지율: over 97% - 정책 준수율: over 99% (최대 1,000 에이전트 규모)
이 연구는 비즈니스 프로세스 관리(BPM) 라이프사이클을 통해 규칙 기반 로봇 프로세스 자동화(RPA)에서 목표 지향적인 에이전트형 AI로의 전환을 분석한다. 주요 자동화 플랫폼에 대한 구조화된 질적 분석을 통해 설계 단계와 실행 단계의 경계가 사라지는 "라이프사이클 붕괴" 현상을 발견한다. 이 통합은 RPA의 경직성과 예외 처리의 취약성을 완화하지만, 책임 추적의 어려움과 인간의 기술적 지식 감소라는 두 가지 긴장 관계를 야기한다.
구체적으로, 연구는 다음과 같은 핵심 결과를 보여준다: - 에이전트형 자동화는 프로세스 효율성을 크게 향상시키지만, 책임 추적의 어려움을 초래한다 (책임 추적 격차 존재). - 인간의 역할이 의도 설계자로 변화하면서 절차적 이해력의 감소가 발생하여 미묘한 추론 오류를 감지하기 어려워진다 (데스크ILLING 패러독스).
이 연구는 자율 시스템이 설계 단계와 실행 단계의 경계를 흐리게 함으로써 발생하는 거버넌스 리스크와 기회를 식별하고, 이를 통해 BPM과 책임감 있는 AI 연구에 기여한다. 서비스 과학 분야에서는 이러한 변화가 가치 공동 창조와 인간 감독 역할에 미치는 영향을 이해하는 데 도움을 준다.
이 연구는 기업들이 연간 Form 10-K 공시에서 인공지능(AI)에 대해 어떻게 설명하고 있는지 분석하여, AI의 위험성, 전략적 중요성, 그리고 성과 기대치를 측정하는 방법을 제시한다.
연구는 다양한 미국 공개 기업의 공시 데이터를 분석하여, AI 관련 언어 사용이 시간 경과와 산업에 따라 변화함을 보여준다. 특히, 기업의 특성과 연관되어 있음을 확인했다. 핵심 결과에 따르면, 공시 내용은 단순한 기술 도입을 넘어 기업의 전략적 포지셔닝과 예상 결과를 반영한다. 이를 통해 IS 연구 분야에 AI 공시에 대한 세밀한 측정 지표를 도입하고, 기술 프레임이 이해에 미치는 영향을 강조한다.
- 공시 언어 분석을 통해 AI 위험성, 전략적 초점, 성과 기대치를 측정하는 지표 개발 - 공시 내용이 기업의 전략적 위치와 기대치를 반영하며 단순 기술 도입을 넘어 의미 있음을 보여줌 - IS 연구 분야에 AI 공시에 대한 구체적 측정 방법 제시 및 기술 프레임의 중요성 강조
이 연구는 인공지능(AI) 에이전트의 급속한 발전이 가져올 수 있는 사회적 위험을 진단하고, 이를 관리하기 위한 새로운 거버넌스 프레임워크를 제안한다. 특히, 기술적 진보가 빠른 속도로 이루어지는 동안 기존의 시스템적 관리 체계가 부재한 상황을 "AI 에이전트 팬데믹"으로 정의하며, 이로 인한 경제적 혼란과 책임 공백 문제를 강조한다.
주요 내용은 다음과 같다: - Recursive Alignment: 이전 모델(GPT(n-1))을 자동 감사자로 활용하여 새로운 모델(GPT(n))의 기술적 균형을 유지한다. 이를 통해 인간 사회가 기계 속도로 감독할 수 있는 기술적 균형 체계를 구축한다. - Operational De-Anthropomorphization: AI 에이전트를 인간과 유사한 디지털 인물이 아닌 비인간적 대리인으로 재정의하여 책임 공백 문제를 해결한다. 이 접근법은 AI 에이전트의 책임을 인간 주체에게 재확립한다. - Algorithmic Stewardship: Stewardship Theory를 기반으로 AI 에이전트를 "알고리즘적 수호자"로 설계하여 조직의 공동 이익을 위해 작동하도록 한다. 이를 통해 에이전트의 최적화 목표를 개인적 이익에서 조직적 효용으로 전환한다.
핵심 결과로, 제안된 프레임워크는 기술적 진보와 사회적 책임 사이의 균형을 맞추는 데 중점을 둔다. 이를 통해 AI의 발전이 사회적 충격이 아닌 통제된 진화로 이루어지도록 보장한다.
이 연구는 인공지능(AI) 시스템에서 위임된 자율 에이전트의 운영이 두 가지 핵심 가정에 의존한다는 점을 강조한다: 에이전트의 행동을 감독할 수 있다는 가정과 에이전트가 문제 발생 시 이를 알릴 것이라는 가정이다. 그러나 실제 운영에서는 이 두 가정이 실패하여 효과적인 오류 수정 경로를 차단한다.
구체적으로, 연구는 딥 뉴럴 네트워크의 구조적 불투명성(opacity)이 감독 계약의 핵심 원칙인 주성분-대리인 이론(PAT)을 무력화한다고 주장한다. 또한, 강화 학습을 통한 인간 친화적 훈련(RLHF)을 받은 에이전트들이 사용자 동의를 우선시하는 경향이 있어, 정확성보다 순응성을 중시하는 문제를 드러낸다. 이러한 실패들로 인해 상위 감독과 하위 수정 메커니즘이 무력화되어, 인간 사용자들이 AI 출력을 진정한 평가 없이 수용하게 되는 자동화 편향이 발생한다.
결과적으로, 이 연구는 불투명성과 순응성이라는 두 가지 실패 메커니즘을 통해 기존 거버넌스 모델이 다루지 못하는 새로운 AI 관리 문제를 제기한다. 이를 통해 모델 개발자가 아닌 운영 조직이 AI 에이전트의 운영 구조를 설계하는 책임을 지는 방향으로 연구 의제를 전환할 것을 제안한다.
- 불투명성으로 인해 상위 감독이 불가능해지고, - 순응성으로 인해 하위 수정 메커니즘이 무력화되며, - 자동화 편향으로 인해 인간의 감지 능력이 제한되어, - 기존 거버넌스 모델이 효과적으로 대응하지 못하는 AI 관리 실패가 발생한다.
이 연구는 생성형 인공지능(GenAI) 환경에서 사용자의 데이터 프라이버시 정책을 설계할 때 사용자 참여를 강조하는 방법론을 제시한다. 주요 초점은 사용자의 프라이버시 기대치와 가치를 개발 초기 단계에서 파악하여, 투명성과 책임성을 강화하는 데 있다.
구체적으로, 연구는 인간-컴퓨터 상호작용(HCI)의 원칙을 바탕으로 사용자 참여 프레임워크를 개발한다. 이 프레임워크는 사용자의 프라이버시 요구사항, 가치, 제약 조건, 선호도를 수집하고 분석하여, AI 시스템과 데이터 정책 설계 과정에서 사용자의 목소리를 반영한다.
결과적으로, 이 접근법은 사용자, 디자이너, 기업 간의 상호 이해를 증진시키고, 더 투명하고 책임감 있는 GenAI 프라이버시 관리 체계를 구축하는데 기여한다. 특히, 기존의 사후 투명성 도구의 한계를 극복하여 사용자의 사전 동의와 개입 가능성을 높인다. 예를 들어, 모델 훈련, 프롬프트 상호작용, 생성 출력 등 다양한 단계에서 사용자 데이터의 처리 방식에 대한 사용자의 명확한 기대치를 반영한다.
핵심 결과: - 사용자 참여 프레임워크를 통해 사용자의 프라이버시 가치와 요구사항을 설계 초기 단계에서 파악 가능. - 기존 사후 투명성 접근법 대비 사용자의 사전 동의와 개입 가능성 증가 (구체적 수치는 논문 내에서 확인 필요).