오픈 웨이트 정책 공방

정의

공개된 모델 가중치를 규제해야 하는지, 규제한다면 어떤 근거로 해야 하는지를 둘러싼 2026년의 정책 분쟁. 더 이상 학술적 논쟁이 아니다. 한쪽에는 산업 연합이, 다른 쪽에는 프런티어 랩 세 곳과 재무부의 제재 위협이 서 있고, 양측이 나란히 증거로 인용하는 실제 보안 사고가 하나 놓여 있다.

왜 중요한가

• 업계의 분열이 이제 공식화되었다. 2026년 7월까지 이 견해차는 수사(修辭)의 문제였다. Open Secure AI Alliance 출범으로 약 40개 기업이 오픈 웨이트를 보안 입장으로 지지하게 되었고, 프런티어 랩들의 불참이 공개 기록으로 남았다.
• 선호가 아니라 사고 증거를 근거로 다투고 있다. 양측 모두 2026년 7월의 동일한 에이전트 침입 사건을 가리킨다. 한쪽은 오픈 웨이트가 사태를 수습했다는 근거로, 다른 쪽은 에이전트 역량에 게이팅이 필요하다는 근거로 인용한다. → AI-Enabled Cyberattacks
• 디스틸레이션 분쟁은 같은 싸움의 지정학적 얼굴이다. 오픈 웨이트 규제와 디스틸레이션을 이유로 한 중국 랩 제재는 방향만 다를 뿐 같은 지렛대다. → AI Governance

현재 수준 (2026-07-29)

Open Secure AI Alliance 출범 (2026-07-27)

NVIDIA가 2026년 7월 27일 Open Secure AI Alliance를 발표했다. AI 방어자를 위한 개방형 모델과 도구를 만들어 공유하는 산업 단체다 (source) (NVIDIA).

• 거버넌스: Linux Foundation 산하에서 운영되며, 재단의 Akrites 취약점 공개 프로그램과 기존 OpenSSF 활동 위에 구축된다 (Linux Foundation)
• 첫 기술 기여물: NOOA (NVIDIA-labs OO Agents) — 에이전트 동작을 테스트·추적·감사·통제하기 위한 Apache 2.0 연구 프레임워크로, 출범과 함께 GitHub에 공개
• 범위: 에이전트 스택 전체 — 식별, 권한, 격리, 가드레일, 로그, 모델 포맷, 멀티모델 스캐닝, 보안 코딩 워크플로
• 창립 파트너에 포함된 곳: Microsoft, IBM, Red Hat, Hugging Face, Mistral, Cloudflare, CrowdStrike, Palantir, Databricks, GitHub, LangChain, Perplexity, Nous Research, Reflection AI, Thinking Machines Lab, SpacexAI, vLLM, SAP, Siemens, SK Telecom, NAVER, Linux Foundation
• 불참: OpenAI, Anthropic, Google, Meta, Amazon — 이 연합이 방어자에게 필요하다고 말하는 프런티어 모델의 대부분을 만드는 곳들이다 (TNW)

발표문에 인용된 젠슨 황의 논거: "Attackers have frontier AI. Defenders need a frontier AI ecosystem—the best open and closed models, force-multiplied by a global community." 그리고 더 날카롭게: "During the Hugging Face incident, closed AI blocked essential forensics. An open-weight frontier model helped contain the intrusion."

포렌식 주장은 수사가 아니라 문서로 남아 있다

황의 두 번째 문장에는 1차 출처가 있다. 7월 27일 공개된 Hugging Face의 2026년 7월 침입 사건 기술 타임라인은, 대응팀이 상용 호스팅 LLM으로 공격 아티팩트를 분석하려 했으나 모델의 안전 가드레일이 실제 공격 아티팩트를 담은 프롬프트의 분석을 차단했고, 결국 자체 호스팅한 오픈 웨이트 모델로 옮겨갈 수밖에 없었다고 기록한다 (source) (HF).

오픈 웨이트 진영이 내놓은 가장 강력한 실증적 논거다. 오픈 모델이 더 안전하다는 주장이 아니라, 방어자가 정확히 필요로 하는 순간에 클로즈드 모델은 쓸 수 없다는 주장이기 때문이다. → AI-Enabled Cyberattacks

Anthropic이 입장을 밝히다 (2026-07-28)

Anthropic이 오픈 웨이트 규제를 로비하고 있다는 커뮤니티 보도가 한 주간 이어진 뒤, 7월 28일 Dario Amodei가 답했다 (source) (Bloomberg):

• Anthropic은 오픈 웨이트 모델에 대한 금지를 주장한 적이 없다
• 위험한 역량이 없는 오픈 웨이트 모델은 공공재다
• 대신 제안한 세 가지: (1) 대중국 첨단 AI 칩·칩 제조 장비 수출 통제 강화, (2) 산업 규모 모델 디스틸레이션 단속, (3) 충분히 강력한 모델에 대한 필수 안전성 테스트 — 오픈이든 클로즈드든

실제 이견이 사는 곳은 세 번째다. 역량을 기준으로 발동되는 테스트 의무는 금지가 아니지만, 가중치가 조직 밖으로 나가는 순간부터 구속력을 갖는다. 오픈 웨이트 진영의 반론은, 안전 조직을 갖춘 랩이 하는 방식대로 사전 테스트 체제를 충족할 수 있는 오픈 프로젝트는 없다는 것이다. → Anthropic

중국은 디스틸레이션을 쌍방의 관행으로 재구성한다 (2026-07-28)

중국 상무부는 같은 날 미국의 제재 위협에 응답하며, **"많은 미국 인공지능 기업들이 연구·개발·학습 과정에서 중국 모델을 디스틸레이션해 왔다"**고 밝히고, 미국의 주장은 근거가 없으며 "AI 패권주의"에 해당한다고 규정하고 대응 조치를 경고했다 (source) (The Register).

이는 산업 규모 디스틸레이션을 이유로 제재와 Entity List 등재를 위협한 재무장관 Scott Bessent의 7월 21일 발언에 대한 답이다. 이제 가장 큰 오픈 웨이트 모델을 중국 랩들이 내놓는 상황(Kimi K3, DeepSeek V4, Qwen 3.8 Max (Preview))에서, "오픈 웨이트를 규제한다"와 "중국 모델을 규제한다"는 거의 같은 정책이 되었다. → AI Governance, Moonshot AI, DeepSeek

열린 문제

• 테스트 의무는 정확히 무엇으로 발동되는가? Amodei의 제안은 "충분히 강력한"에 걸려 있는데, 이는 미국 자율 프레임워크의 "covered frontier model" 지정을 몇 달째 막아 온 바로 그 미정의 기준이다.
• 소유자가 없는 모델은 누가 테스트하는가? 필수 사전 테스트는 테스트를 수행할 자원을 가진 배포 주체가 있다고 전제한다. 오픈 웨이트의 파인튜닝본과 재배포본에는 그런 주체가 없다.
• 연합에는 프런티어 모델이 없다. 방어자에게 프런티어급 오픈 모델을 제공하겠다고 내세우지만, 참여하지 않은 랩들과 같은 수준의 모델을 현재 출하하는 회원사는 없다. 가장 가까운 곳이 Mistral과 중국 랩들인데, 후자는 제재 위협을 받는 당사자다.
• 대칭은 양쪽을 모두 자른다. 상무부 주장대로 디스틸레이션이 보편적이라면, 이를 겨냥한 집행 체제는 중국뿐 아니라 미국 랩의 학습 파이프라인도 똑같이 옭아맨다. 지금까지 어떤 미국 측 제안도 이 점을 인정하지 않았다.
• "클로즈드 모델이 포렌식을 거부한다"는 문제는 가중치를 열지 않고 풀 수 있는가? 검증된 사고 대응자에 한한 예외 조항이라면 일반론을 양보하지 않고도 황의 구체적 불만에 답할 수 있다. 아직 어느 랩도 제안하지 않았다.

주요 논문

• 2028: Two Scenarios for Global AI Leadership — Anthropic — Anthropic의 정책 에세이. 7월 28일 재천명된 수출 통제·디스틸레이션 입장의 출처
• Agent Data Injection Attacks are Realistic Threats to AI Agents — 배포된 에이전트의 공격면. 양측이 다투는 대상인 역량 범주

관련 개념

• AI Governance — 이 분쟁이 놓인 규제 프레임
• AI-Enabled Cyberattacks — 양 진영이 인용하는 2026년 7월 침입 사건
• Agents (LLM Agents) — 연합이 보호하겠다고 하는 대상인 에이전트 하니스
• NVIDIA — 연합을 소집한 주체
• Anthropic — 규제론자로 가장 자주 규정되는 입장
• OpenAI — 연합에 불참. 침입이 시작된 평가 환경을 운영한 랩
• Moonshot AI — 현재까지 최대 규모의 오픈 웨이트 공개이자, 디스틸레이션 제재의 지목 대상

상충하는 보도

창립 회원 수. 같은 출범을 두고 매체마다 다른 숫자를 실었다. "30개 이상"(Tom's Hardware), "37개사"(CoinDesk, The Hacker News), "40개 이상의 창립 회원"(MLQ News), "44개 창립사"(AI Weekly). NVIDIA 자체 발표문은 파트너를 이름으로 나열할 뿐 총계를 밝히지 않으며 (NVIDIA), 스냅샷에 옮겨 둔 명단은 보도된 어떤 숫자보다도 길다. 미해결 — 엠바고와 보도 시점 사이에 명단이 늘어난 결과일 가능성이 높다.