국가인공지능위원회는 글로벌 AI 시장 동향을 점검하고 AI 3대 강국 도약을 위한 범정부 정책을 마련하기 위해 제3차 회의를 개최했다. 관계부처는 AI 컴퓨팅 인프라 확충, AI 스타트업 육성, AI 데이터 확충·개방 확대 방안을 발표했다. 회의에서는 AI 모델·알고리즘, 핵심 인재와 스타트업, 대규모 컴퓨팅 인프라 및 국산 AI 반도체, 저작권·개인정보보호 규제 개선 등이 논의됐다.
한국여성정책연구원은 인공지능의 성별 편향과 성차별을 방지·규제하기 위한 국내 법제화 대응 방안을 제시한 보고서를 발표했다. 보고서는 채용·금융 의사결정에서의 성차별, 생성형 인공지능의 성별 편향, 딥페이크 등 젠더 폭력 우려를 검토하고, 유럽연합과 미국의 규제 동향 및 국제사회의 입법·정책 현황을 바탕으로 국내 인공지능법의 방향을 모색했다.
본 연구는 공개 API로 모델을 파인튜닝해 가드레일을 우회하는 fine-tuning misuse 공격을 막기 위한 방어 중, 개별 샘플을 탐지하는 pointwise 감지가 근본적으로 제한된다고 밝혔다. 연구진은 benign한 모델 출력의 엔트로피(의미/문법 변이 등)를 활용해 위험한 지식을 은닉 전송하는 ‘pointwise-undetectable’ 공격을 구성했으며, 학습·추론 데이터 모두 개별적으로는 무해하고 낮은 퍼플렉서티라고 설명했다. OpenAI의 fine-tuning API에 적용한 결과 유해한 객관식 질문에 대한 답을 유도하는 데 성공했고, 연구진이 설계한 향상된 모니터링 시스템도 해당 공격을 탐지하지 못했다고 전했다.
Anthropic 해석 가능성 팀의 크로스코더 모델 차이 분석에 대한 초기 연구 결과가 공유되었습니다. 이 연구는 해당 분야에서 활동 중인 연구자들에게 유용할 수 있습니다. 현재로서는 동료 간의 초기 아이디어 공유 정도로 이해해 주시기 바랍니다. 주요 내용으로는 멀티에이전트 시스템의 행동 패턴과 문제점, 근로자 재교육 프로그램의 증거 검토, 그리고 미발표 연구 버전의 Claude 모델이 리만 가설 관련 문제에서 성과를 거둔 점 등이 포함되어 있습니다.
CHAI 제휴 연구자인 브라이언 크리스천이 미국 예술·과학 아카데미 저널 『대달러스』 최신호에 「인간 돌봄을 위한 계산 프레임워크」라는 글을 게재했다. 그는 AI alignment가 단순한 보상 메커니즘에서 돌봄과 유사한 관계로 발전해 온 과정을 추적하고, 기계 돌봄의 가능성과 한계를 분석하며 인간 돌봄에 대한 이해를 확장한다. 해당 호의 주제는 ‘돌봄 제공의 사회과학’이며 CHAI 제휴 연구자 앨리슨 고프닉이 공동 편집했다.