AI 안전 다이제스트

2024-08-20 · 2건

초거대 인공지능과 지식재산의 도전 과제 (2024.8.20)

공공 · 국가지식재산위원회

국가지식재산위원회가 초거대 인공지능의 현황과 잠재적 영향, 지식재산 및 사회적 도전 과제를 분석한 보고서를 발간했다. 보고서는 생성형 인공지능의 기술혁신·연구개발 현황과 국제사회의 논의를 정리하고, 새로운 기술이 지식재산권 체계에 제기하는 문제와 대응 방안을 제시했다. 또한 지식재산 유형과 창작 주체에 따라 문제 인식이 다를 수 있다며 이해관계자들의 다양한 의견을 수렴할 필요성을 강조했다.

🇺🇸 METR의 평가 및 에이전트 추출 연구 도구: Vivaria (2024.8.20)

공공 · METR · 🤖

METR은 Vivaria를 새로운 평가 및 에이전트 추출 연구 도구인 Inspect로 전환하고 있으며, 기존 프로젝트는 여전히 Vivaria를 사용할 수 있지만 새로운 프로젝트는 Inspect를 권장합니다. Vivaria는 여전히 오픈 소스로 이용 가능하지만 새로운 기능 개발은 중단됩니다. 주요 기능으로는 METR Task Standard 기반의 작업 환경 설정, AI 에이전트 실행, 에이전트 추출 연구를 위한 강력한 도구, 실행 결과의 데이터 분석 용이성 등이 있습니다. 보안 이슈 발견 시 vivaria-security@metr.org로 연락할 것을 권장합니다.