무엇이 시작됐나
NVIDIA는 클라우드, 보안, 오픈소스와 AI 분야 조직들이 참여하는 Open Secure AI Alliance 출범을 발표했습니다. Linux Foundation의 Akrites와 OpenSSF 활동을 기반으로, 소프트웨어와 AI 에이전트를 보호하는 개방형 기술·도구·평가 방법을 공동 개발하는 것이 목표입니다.
초기 참여 조직에는 NVIDIA, Linux Foundation, Hugging Face, Microsoft, Cloudflare, IBM, Red Hat, Cisco, Databricks, Salesforce, SAP, NAVER, SK텔레콤 등이 포함됩니다.
무엇을 공개하나
- NVIDIA는 개방형 모델, 가중치, 데이터와 에이전트 하니스 연구를 기여할 계획입니다.
- 새 오픈소스 NOOA 연구 프레임워크는 모델과 하니스의 연결을 시험·추적·감사하기 쉽게 만드는 것을 목표로 합니다.
- 참여 조직은 에이전트 ID와 격리, 안전한 모델 형식, 다중 모델 스캔, 서명된 패치와 안전한 코딩 흐름을 다룹니다.
왜 중요한가
에이전트 보안은 모델 자체만의 문제가 아닙니다. 어떤 권한으로 어떤 도구를 호출했는지, 실행을 격리했는지, 로그와 평가가 남는지까지 전체 스택을 검증해야 합니다. 여러 공급사가 공통 도구를 만들면 조직이 특정 폐쇄형 서비스에만 의존하지 않고 방어 체계를 시험할 여지가 커집니다.
확인할 한계
이번 발표는 연합의 출범과 기여 계획입니다. 공개 저장소의 유지보수 구조, 라이선스, 호환성, 실제 취약점 탐지 성능은 프로젝트별로 확인해야 합니다. 개방형 모델도 보호 장치 제거와 공격 전용 사용 위험이 있으므로 권한 제한과 격리, 책임 있는 공개 절차가 필요합니다.