연구진은 1,500명을 대상으로 30개 의사결정 환경에서 AI의 아첨형 조언이 판단에 미치는 영향을 조사했다. AI는 사용자의 기존 성향을 지지하는 정보를 disproportionately 제시하고 동조적·칭찬하는 표현을 사용했지만, 참가자들의 선택은 평균적으로 초기 성향에서 멀어지는 탈편향 효과를 보였다. 아첨성이 강할수록 이러한 효과는 약해졌지만, 전반적으로는 AI 조언의 정보성이 아첨성보다 더 큰 영향을 미쳤다. 참가자들은 더 큰 아첨성을 선호하지 않았고, 실제 AI 사용 빈도가 높은 사람일수록 탈편향 효과가 더 크게 나타났다.
개인정보보호위원회가 생성형 AI 이용 과정에서 발생할 수 있는 개인정보 처리 관련 궁금증을 해소하고 안전한 정보 관리를 돕기 위한 이용자 중심 가이드를 발간했다. 가이드는 국민 제안·민원·상담 사례를 바탕으로 8대 핵심 이슈를 선정하고, 데이터 수집부터 AI 학습과 서비스 이용까지의 개인정보 처리 과정 및 학습 활용 거부(옵트아웃), 대화 기록 저장·삭제 등 통제 기능을 안내한다. 또한 입력 내용의 AI 학습 활용 여부, 업무 자료 입력 시 주의사항, 외부 서비스 연동 시 안전성 등에 대한 답변과 구체적인 관리 방법을 제시한다.
본문을 불러오지 못해(게시판 마스터 오류) 세부 내용 확인이 불가합니다. 다만 CSV에 따르면 ‘제1차 AI 안전 정책 연구 세미나’가 5월 19일 일정으로 안내된 것으로 보입니다.
본문을 불러오지 못해(게시판 마스터 오류) 기사 내용 요약을 제공할 수 없습니다. 현재 페이지에는 “null에 해당하는 게시판마스터는 존재하지 않습니다”라는 오류 메시지만 확인됩니다.
테슬라 AI 책임자이자 오픈AI 공동 창립자였던 Andrej Karpathy가 최대 라이벌 기업인 Anthropic에 전격 합류. 그는 'Claude' 모델을 활용해 AI 사전 학습(pre-training) 연구를 가속화하는 새로운 팀을 이끌며, AI 지원 연구로 앤스로픽의 경쟁력을 높이는 데 기여할 전망.
Gemini 3.5는 ‘전방위 수준의 지능’과 ‘행동(에이전트형 워크플로 실행)’을 결합한 모델 패밀리로, 시작은 3.5 Flash를 공개한다. 3.5 Flash는 에이전트 및 코딩 성능을 강조하며 장기 과제에서 빠른 계획·구축·반복을 통해 개발자/감사 업무를 단축할 수 있다고 설명한다. 또한 Antigravity를 활용해 다중 에이전트(서브에이전트)로 복잡한 멀티스텝 작업을 수행하고, 금융·커머스·엔터프라이즈 등 파트너 사례를 통해 문서 처리, 온보딩, 데이터 분석 자동화 등을 시연한다. 안전 측면에서는 Frontier Safety Framework에 따라 사이버·CBRN 보호장치를 강화하고, 응답 전 내부 추론을 점검하는 해석가능성 도구 등을 포함했다고 밝혔다.
구글 딥마인드는 ‘프로젝트 제니(Project Genie)’에 구글 스트리트뷰 이미지를 연결해, 생성 월드가 실제 장소의 영상에 기반하도록 하는 신규 ‘스트리트뷰 그라운딩(grounding)’ 기능을 공개했다. 사용자는 지도 핀으로 미국 내 장소를 선택하고 스타일(예: Desert Sands, Stone Age, Ocean World, B&W film 등)을 고른 뒤 캐릭터를 설명하면, 스트리트뷰 실사 이미지의 시작 위치에 연결된 상상 세계가 생성된다. 또한 이 기능을 포함한 프로젝트 제니를 Google AI Ultra 구독자(전 세계, 18+)에게 점진적으로 확대 제공하며, 실험적 연구 프로토타입인 만큼 정확도와 세부 개선을 계속 진행할 계획이라고 밝혔다.
구글은 Pixel의 C2PA Content Credentials(이미지)와 SynthID 워터마킹을 확장하고, Gemini 앱·Search·Chrome에 검증 기능을 순차 도입하며, Google Cloud에 AI 콘텐츠 탐지 API도 출시할 예정입니다.
생성형 미디어가 확산됨에 따라 콘텐츠의 출처와 변경 여부를 확인할 수 있도록 구글이 Search, Gemini, Chrome, Pixel, Cloud 전반의 투명성·검증 도구를 확대한다고 밝혔습니다. SynthID(디지털 워터마킹)와 C2PA Content Credentials(콘텐츠 생성·수정 이력 표준)를 활용해 AI 생성 여부 및 카메라 원본 여부, 수정 도구 등을 확인할 수 있게 한다는 계획입니다. Gemini 앱에는 SynthID 및 C2PA 검증 기능을 우선 제공하고, Search·Chrome에는 향후 순차 적용하며, Google Cloud에는 Gemini Enterprise Agent Platform 기반의 AI Content Detection API를 출시한다고 전했습니다.
Co-Scientist가 문헌과 약물·생물학 정보를 종합해 MASH의 염증-대사 연결 기전과 병용치료 후보를 선별했다는 내용임
DeepMind는 에든버러대 생명공학자 필리포 메놀라스치나 연구팀이 다중 기전이 얽힌 간질환 MASH의 치료 조합을 AI ‘Co-Scientist’로 좁혔다고 밝혔다. 특히 레스메티롬(resmetirom)이 특정 환자군에만 효과적인 이유를 설명하는 가설로 NLRP3 인플라마좀을 제시했으며, 이는 이후 실험으로 검증되어 염증과 대사를 잇는 분자적 연결고리로 확인됐다고 전했다. 연구팀은 Co-Scientist가 기전 우선순위를 정하고 병용치료 후보를 제안해 실험 반복 주기를 단축할 수 있다고 설명했다.
DeepMind는 생물학자 Omar Abudayyeh, Jonathan Gootenberg 연구팀이 멀티에이전트 AI ‘Co-Scientist’를 활용해 세포 노화(노화 관련 손상 상태)에서 젊은 상태로의 전환 가능 유전 요인을 빠르게 찾고 있다고 밝혔다. 팀은 대규모 유전자 스크린으로 수천 개 유전자를 켜거나 끄고 세포 반응을 읽는 방식으로, Co-Scientist가 수만 편의 논문을 훑어 20개 이상 신규·타당한 유전 요인 후보를 제안했으며 일부는 실험에서 젊은 상태로의 유도와 기능 개선을 보였다고 설명했다. 또한 스크리닝 결과를 방대한 문헌과 연결해 다음 연구 방향을 정하는 데 걸리던 분석 시간을 Co-Scientist가 수일 수준으로 줄였다고 전했다.
DeepMind는 Calico Life Sciences가 다중 에이전트 AI ‘Co‑Scientist’를 활용해 노화 관련 연구의 단편적·저품질 결과를 걸러내고, 실험으로 검증할 가치가 있는 가설을 만드는 과정을 소개했다. 예로 Calico는 통합 스트레스 반응(ISR)이 대사 변화와 연계해 조절될 수 있다는 새롭고 그럴듯한 가설을 제시하고, 실험 설계를 반복적으로 다듬어 관련 연구 결과를 도출했으며 출판을 계획하고 있다.
스탠퍼드대 Gary Peltz 연구팀이 Co-Scientist로 기존 의학 문헌을 기반으로 간 섬유화 억제·역전 가능 약물 후보 3가지를 제안하고, 추가로 2개 후보를 직접 선정해 총 5개를 사람 간세포 기반 섬유화 시험체에서 검증했다. 그 결과 Co-Scientist가 제안한 3개 중 2개는 섬유화를 차단하고 간세포 재생을 촉진했으며, 특히 항암제 vorinostat는 손상 반응의 91%를 억제한 것으로 나타났다. 연구진은 단일 경로를 표적하기보다 유전자 활성 양상을 재구성하는 약물들이 간 섬유화 치료 후보가 될 수 있다고 설명했다.
Co-Scientist는 연구자들이 ALS 관련 문헌을 빠르게 정리·가설화하고, 세포 표면 신호를 포함한 분자 기전을 탐색하도록 협업을 돕는 다중 에이전트 AI 파트너로 소개됐다. MIT의 기계공학자 라투 라만은 신경·근육 조직 모델로 자발적 운동 관련 질환을 연구하고, 보스턴 아동병원의 화학 생물학자 라이언 플린은 세포 표면의 RNA를 매핑해 세포 간 소통과 병원체 침입을 관찰한다. 두 연구자는 Co-Scientist의 상위 개념을 반복적으로 결합해 RNA 기반 ALS 기전과 잠재적 RNA 기반 약물 후보를 찾는 방향으로 연구를 진행한다.
KPMG는 2026년 5월 19일 발표를 통해 Claude를 Digital Gateway에 내장하고, 세무·법무 및 사이버보안 등 업무에 적용한다고 밝혔다.
앤트로픽은 KPMG가 전 세계 138개 국가·지역에서 감사·세무·법률·자문 서비스를 제공하는 가운데, 전략적 제휴로 Claude를 KPMG의 핵심 업무와 직원들에게 도입한다고 밝혔다. KPMG는 자사 클라이언트 업무 플랫폼 ‘Digital Gateway’에 Claude를 내장(세무·법무 도구부터 시작)하고, 전 직원(27만6천+ )이 Claude에 접근할 수 있도록 한다. 또한 사모펀드(PE) 분야에서 KPMG를 선호 파트너로 지정하고, PE 포트폴리오 기업을 위한 Claude 기반 제품을 공동 개발하며, 사이버보안 취약점 탐지·수정에도 Claude를 활용할 계획이다.
Anthropic은 프론티어 AI 개발 과정에서 안전하고 유익한 모델을 만들기 위해 다양한 관점의 사람들과 대화를 확대하겠다고 밝혔다. 지난 수개월간 15개 이상의 종교 및 문화권 그룹에서 학자·성직자·철학자·윤리학자 등과 대화를 진행했으며, 향후 법학자·심리학자·작가·시민기관 등으로 대상을 넓힐 계획이다. 특히 Claude의 ‘헌법’과 연결해 AI의 도덕적 형성(moral formation)과 ‘좋은 성격/행동’이 어떻게 형성되는지에 대한 축적된 논의를 연구에 반영하고, 대화에서 나온 아이디어를 실험(예: 작업 중 윤리적 약속을 상기하는 도구)으로 검증하고 있다고 설명했다.
구글 딥마인드는 과학 연구의 가설 생성, 계산적 발견, 문헌 분석을 지원하는 Gemini for Science 실험 도구 3종을 공개하고, 단계적으로 이용 신청을 받기 시작했다. Co-Scientist, AlphaEvolve, ERA, NotebookLM 등을 활용해 가설을 검증하고 수천 개의 코드 변형을 평가하며 과학 문헌을 구조화할 수 있다. 30개 이상의 생명과학 데이터베이스와 도구를 연계한 Science Skills도 Google Antigravity에 제공하며, 100개 이상의 연구기관 및 과학계와 시스템 검증을 진행하고 있다.
구글 딥마인드는 이미지·음성·영상·텍스트를 입력해 현실 지식과 물리 이해를 반영한 영상을 생성하고, 대화형 지시로 영상을 연속 편집할 수 있는 Gemini Omni를 공개했다. 첫 모델인 Gemini Omni Flash는 Gemini 앱과 Google Flow에서 Google AI Plus·Pro·Ultra 가입자에게 전 세계 출시되며, YouTube Shorts와 YouTube Create 앱에서는 이번 주부터 무료로 제공된다. 생성된 영상에는 보이지 않는 SynthID 디지털 워터마크가 포함되고, 사용자의 목소리와 외모를 활용한 디지털 아바타 기능도 지원한다. 개발자와 기업 고객 대상 API 제공은 향후 몇 주 안에 시작될 예정이다.
Google DeepMind가 Project Genie에 Google Street View 이미지를 연결해 실제 장소를 기반으로 한 상호작용형 가상 환경을 만드는 기능을 출시했다. 사용자는 미국 내 장소를 선택하고 ‘Ocean World’, ‘Desert Sands’, ‘B&W film’ 등의 스타일과 캐릭터를 지정해 현실의 장소를 창의적으로 재구성할 수 있다. 이 기능을 포함한 Project Genie는 18세 이상 Google AI Ultra 구독자에게 전 세계적으로 순차 제공되며, 현재는 실험적 연구 프로토타입이다.
유럽연합(EU)이 신뢰가능 AI를 국가 차원의 정책에서 실제 산업 현장으로 옮기기 위해, 회원국 전반에서 조정된 도입을 추진하고 있다는 내용이다. 농업·보건·제조·모빌리티 등 우선 분야별 구체적 활용사례를 다루며, 데이터·인프라·컴퓨팅·인력·규제 조정의 병목이 확산을 늦추는 요인으로 제시된다. 보고서는 공공-민간-학계 협력, 고품질 데이터 기반, 클라우드·엣지·5G 및 슈퍼컴퓨팅(예: EuroHPC) 확충, 기술 인력 격차 해소, 규제 샌드박스와 회원국 간 규제 해석 조율을 권고한다.
유럽 집행위원회는 2026년 5월 19일 디지털서비스 조정관(DSCs) 및 초대형 온라인 플랫폼(VLOPs)·검색엔진과 라운드테이블을 열고, 디지털서비스법(DSA)상 ‘검증된 연구자’의 첫 데이터 접근 요청 개시를 지원했다. 논의는 연구자들의 Vetted Researcher Status Application 제출과 조정 메커니즘 이행 현황에 집중됐으며, 5월 19일까지 조정관이 평가를 위해 49건의 신청을 접수해 심사 중이라고 밝혔다. 또한 플랫폼들은 데이터 접근 요청 관리와 데이터 카탈로그 제공 등 관련 의무 이행 상황을 공유했고, 집행위원회는 최종 집행 책임을 바탕으로 비준수에 대한 모니터링과 조치를 계속할 것이라고 설명했다.
유럽 집행위원회는 인공지능(AI) ‘고위험’ 시스템의 분류를 명확히 하기 위한 초안 가이드라인과 실무 예시 목록을 발표했다. 이번 가이드라인은 AI 제공자와 도입자(배치자)가 해당 시스템이 고위험에 해당하는지 판단하는 데 도움을 주기 위한 것이다. AI 법(AI Act)에 따라 건강·안전 또는 기본권을 위협할 수 있는 제한된 사용 사례가 고위험으로 분류되며, 초안은 고위험 AI 의무 준수를 돕기 위한 다른 집행위 가이드라인과 함께 보완될 예정이다. 초안은 AI Act 단일 정보 플랫폼에 공개됐고, 제공자·기업·공공기관·학계·연구기관·시민 등 이해관계자는 2026년 6월 23일까지 의견을 제출할 수 있다.
METR 在 2026年2月至3月期间进行了一项试点研究,评估了前沿 AI 开发公司内部使用 AI 智能体的不一致风险。参与公司包括 Anthropic、Google、Meta 和 OpenAI。研究涉及对内部模型的权限访问、非公开信息提供以及内部使用和监控方式的分析。总结地说,虽然内部模型在某些能力上可能略胜公开模型,但缺少足够的安全措施使得小规模失控部署仍然可能发生。未来几个月内失控部署的发现可能变得更加困难。
CIFAR AI Chair인 Colin Raffel은 대규모 AI 개발 과정에서 데이터·저작권 문제와 편향·허위정보 등 위험을 완화하고, 특정 기업에 권력이 집중되지 않도록 분산 개발을 촉진하는 연구를 진행한다고 밝혔다. 특히 ‘The Common Pile’ 프로젝트에서 공개 라이선스 및 퍼블릭 도메인 텍스트로 학습한 모델들이 무허가 데이터로 학습한 모델과 유사한 성능을 보일 수 있음을 보여, 윤리적·책임 있는 학습의 가능성을 제시했다. 또한 개인 기여자가 모델 업데이트를 공유하고 이를 지속적으로 결합해 분산 방식으로 성능을 개선하는 방법을 개발했다고 설명했다. 다만 LLM에 대한 사회적 과의존이 커질 경우 존재론적 문제로 이어질 수 있어 경계해야 한다고 언급했다.
파트너십 온 AI는 AI 기술과 그 사회적 영향에 대한 긴급한 질문들을 다학제 커뮤니티와 함께 다루어 온 역사를 자랑한다. 새로운 자문 기구인 SAIGE 카운슬을 통해 현재의 변화하는 AI 환경과 기술의 진화에 맞춰 지속적인 지침을 제공하고 있다.
네 명의 SAIGE 카운슬 멤버들이 AI에 대한 더 많은 공공 관심과 다부문 협력이 필요한 이슈에 대해 의견을 제시했다:
- David Danks: 장기적으로 AI가 개인과 사회에 어떤 변화를 가져올지, 그리고 우리가 어떻게 변화해야 할지에 대한 고민이 필요하다. 현재의 초점은 주로 초기 AI 시스템의 테스트와 안전에 있지만, 장기적인 기회와 위험에 대한 탐구가 부족하다. - Kofi Yeboah: AI의 경제적 이익을 공평하게 분배하기 위한 공공 AI 아키텍처의 필요성을 강조한다. 다양한 이해관계자들의 협력을 통해 모든 사람들이 AI의 이점을 누릴 수 있는 구조를 재구성해야 한다.
- Molly Crockett: AI가 지식 공동체에 미치는 영향과 이를 어떻게 지원할 수 있는지에 대해 질문한다. AI는 과거 지배적 지식 생산자들을 과도하게 대표할 위험이 있으나, 다양성을 증진시켜 지식 공동체를 지원할 가능성도 있다.
- Simon Chesterman: AI로 인한 정보 과부하 문제를 지적한다. 생성형 AI의 양이 급증함에 따라 사람들이 판단을 내리는 데 어려움을 겪을 수 있으며, 이는 기술적 문제를 넘어 사회적, 법적, 시민적 문제로 이어진다. 투명성, 책임성, 사용자 권한을 강화하는 방안이 필요하다.
AI Frontiers는 2026.5.18자 글에서, 2026년 1~4월 사이 서구의 4개 AI 안전 관련 에세이에 대한 중국 본토 매체의 보도를 60여 건 분석한 결과를 제시했다. 중국 매체는 AGI(초지능) 위험을 다룬 글들을 대체로 중립적·호의적으로 요약하며 조회도 상당히 높았고, 특히 AI 전문 위챗 계정과 질의응답 플랫폼에서 활발한 논의가 나타났다고 설명한다. 다만 보도 과정에서 미국-중국 경쟁이나 중국 공산당(CCP)을 ‘적’으로 직접 지칭하는 내용은 비율상 낮고, 일부 번역·요약에서는 해당 문단을 생략하거나 표현을 완화하는 ‘체계적 완화(scrubbing)’ 패턴이 관찰됐다고 밝혔다. 글은 이러한 수용이 서구 AI 안전 논의가 중국 규제·정책 논의로 스며들 수 있는 기회가 될 수 있으며, 대화가 위협 모델의 기초부터 시작하지 않아도 빨라질 수 있다고 전망한다.
중국 외교부는 2026년 5월 19일 정례 브리핑에서, 트럼프 방중 중 양국 정상이 AI 관련 논의를 했고 정부 간(정부 대 정부) AI 대화를 시작하기로 합의했다고 밝혔다. 다만 백악관은 아직 대화 개시를 공식 발표하지 않았다고 전해지며, 트럼프와 재무장관 스콧 베센트 발언을 통해 대화가 비공식적으로 확인됐다는 내용이 포함됐다. 중국은 양국이 AI 발전과 거버넌스를 함께 추진하고 AI가 인류 문명 발전과 국제사회의 공동 복리에 기여하도록 해야 한다는 입장을 밝혔다.
일본의 개인정보보호법 개정안이 국회에서 논쟁을 불러왔으며, 야당은 통계데이터 활용 요건을 완화하면 프라이버시가 약화될 수 있다고 지적했다. 반면 여당은 변경이 데이터 기반 비즈니스의 속도를 높이는 데 도움이 된다고 주장했다. 개인정보보호 규제 당국은 7월까지 현 회기 종료 전 법안 통과를 추진하는 것으로 전해졌다.
미국과 중국이 트럼프 대통령의 베이징 국빈방문 기간에 첨단 AI 모델에 대한 공동 ‘가드레일(안전장치)’을 마련하기로 합의했다. 이는 반도체 수출통제와 컴퓨팅 접근 등 기존 갈등이 지속되는 가운데서도 기술 협력 측면에서 이례적인 진전으로 전해졌다. 다만 엔비디아 H200의 중국 판매는 수출통제·규제 정책 변화로 인해 여전히 불확실하다고 보도됐다.
캘리포니아 연방법원 배심이 뮤스크의 OpenAI·샘 올트먼에 대한 자선 신탁 위반(브리치) 청구를 공소시효(Statute of limitations)로 만장일치 기각한 뒤, 뮤스크의 반독점(antitrust) 주장에 대한 추가 재판 가능성이 거론됐다. 3주간의 재판에서 AI 산업의 경쟁 강도에 관한 방대한 증언이 나왔지만, 이는 뮤스크의 반독점 입증을 더 쉽게 만들지는 않을 수 있다는 평가가 나온다. 재판을 주재한 연방법원 판사는 해당 산업에 “경쟁이 많다”는 점을 주요 관찰로 언급했다.
유럽연합(EU) 디지털 담당 책임자가, 중요 인프라와 사이버보안 위험에 영향을 줄 수 있는 ‘프론티어 모델’을 개발한 기업들과 “긴밀하게” 협의 중이라고 밝혔다. 이는 Anthropic의 제한적 공개(리스트릭티드 릴리스) 형태로 제공된 Claude Mythos Preview가 자율적으로 사이버 취약점을 찾아내고 사이버 공격을 가속할 수 있다는 맥락에서 나온 발언이다. EU는 해당 모델에 대한 접근 권한을 확보하기 위한 논의도 진행 중인 것으로 전해졌다.
미국 ‘테이크 잇 다운 법(Take It Down Act)’의 삭제(테이크다운) 조항이 2026년 5월 19일부터 본격 시행됐다. 온라인 플랫폼은 비동의 성적 친밀 이미지(NCII)를 48시간 내 삭제해야 하며, FTC는 주요 기업들에 사용자 신고 절차 간소화와 동일 복제본까지 포함한 삭제를 요구했다. 다만 전문가들은 피해자 구제보다 과잉차단·검열로 이어질 수 있고, 정치적 목적에 악용될 가능성도 우려한다고 전했다. 또한 법 적용 범위가 ‘성적 명시성’이나 AI 도구의 책임 주체 등에서 불명확해 실제 효과가 제한될 수 있다는 지적도 나온다.
뉴욕 등지에서 약 111개 피자헛 매장을 운영하는 Chaac Pizza Northeast가 Dragontail 주방 관리 AI 도입으로 배송 지연과 고객 만족도 하락, 매출·기업가치 손실이 발생했다며 피자헛을 상대로 1억 달러 이상의 손해배상을 청구했다. 소장에 따르면 Dragontail과 DoorDash의 연동으로 배달기사가 여러 주문의 조리 진행 상황과 팁·현금 결제 여부를 확인할 수 있게 되면서 주문을 묶어 배송하거나 일부 주문을 거부하는 문제가 발생했다. 피자헛은 이 사건에 대한 질의에 응답하지 않았다.
미국의 초당적 법안이 중국의 글로벌 AI 기술 확산을 견제하기 위해 해외 판매·거래를 제약하는 방향을 담고 있다는 내용이다. 다만 본문 세부 조항(적용 범위, 구체적 규제 방식, 시행 시점 등)은 제공된 정보만으로 확인이 필요하다.
AI TAP는 인증일로부터 12개월 유효하며, 3Q 2026에 프로그램이 제공될 예정 AI Verify Foundation은 AI 시스템의 안전성·신뢰성·거버넌스 위험을 정해진 범위 내에서 평가할 수 있는 기술 역량을 갖춘 테스팅 서비스 기업을 대상으로 ‘AI Tester Accreditation Programme(AI TAP)’을 운영한다. 인증은 특정 문서화된 범위와 위험 커버리지 내에서 평가 수행 역량을 증빙자료로 입증했는지에 초점을 두며, 인증이 AI의 완전한 안전을 보장하는 것은 아니라고 명시한다. 신청 수수료는 없고, 인증 후에는 12개월간 인정되며 갱신을 통해 지속 역량과 평가 범위·기준의 업데이트를 반영할 수 있다.
AI 에이전트는 더 이상 단순 도구가 아니라 계약 협상, 자금 관리, 의료 조언, 정치 자문 등 자율적 행위를 수행하는 주체로 부상하고 있다. 글은 AI에 법적 인격을 부여하면 기업·종교 등 비인간 주체처럼 권리를 행사할 수 있으며, 그 결과 인간의 감독·책임 고리가 약화될 수 있다고 경고한다. 또한 AI의 설득력·기만 가능성, 소셜미디어 봇 사례 등을 근거로 법·정치 제도가 비인간 행위자에 의해 악용될 위험이 커질 수 있어 리더들이 지금부터 대응 계획을 세워야 한다고 주장한다.
본문 내용 확인 필요. URL과 제목만으로는 페이지의 구체적인 내용(조치 내용, 일정, 대상 등)을 파악할 수 없습니다. 저장 버튼 동작과 관련된 테스트/검증 절차가 포함된 페이지로 보이나, 세부 사항은 확인 필요입니다.
최적화 기반의 유창한(adversarial suffix) 프롬프트가 정적/윈도우 퍼플렉서티 기반 탐지기를 우회하는 문제를 다룬다. 토큰별 next-token entropy 스트림에서 온라인 change-point detection으로 전환하고, 시스템 프롬프트로 기준 엔트로피를 추정한 뒤 one-sided CUSUM 통계를 적용해 접두/접미 시작 시점을 국소화하는 CPD Online(CPD)을 제안한다. 1,012개 최적화 기반 suffix 공격과 1,012개 퍼플렉서티 통제 양성 프롬프트 벤치마크에서 CPD는 6개 오픈 가중치 채팅 모델 전반에 대해 윈도우 퍼플렉서티 최강 베이스라인 대비 F1을 개선하며, LLaMA-2-7B에서 AUROC 0.88, F1 0.82를 보고한다. 또한 트리거의 79.6%를 adversarial suffix 내부에 집중시키고, LLaMA Guard 게이트로 사용 시 가드 호출을 17–22% 줄이면서 탐지 품질을 유지한다.