AI Governance

Definition

프런티어 AI 모델이 어떻게 개발되고 배포되며 접근이 통제되는지를 결정하는 거버넌스 프레임워크 — 법적·자율적·기술적 형태를 모두 포함한다. 2026년의 지배적 패러다임은 프런티어 랩과 공동 개발한 미국 주도의 자율 표준이며, 수출 통제가 집행 지렛대 역할을 한다.

Why It Matters

역량과 거버넌스의 격차가 현재 AI 전환의 핵심 위험이다. 프런티어 랩들은 사이버 작전·생물 설계·대규모 영향력 공작을 자율 수행할 수 있는 모델을 내놓고 있고, 전면 금지를 제외하면 이 배포를 늦추거나 형태를 잡을 수단은 거버넌스 프레임워크뿐이다.

State of the Art (as of 2026-07-26)

US Threatens Sanctions on Chinese AI over IP Theft (2026-07-21)

재무장관 Scott Bessent 가 2026년 7월 21일 미국이 중국 오픈소스 AI 모델에서 미국 기업의 지식재산 절취 정황을 조사하겠다고 공개 발언하며, 절취가 확인되면 제재도 선택지에 있다고 밝혔다. (source) (TechCrunch) (CNBC)

핵심 사실:

• 직접 계기: 중국 오픈소스 모델 — 특히 Moonshot AI 의 Kimi K3(2.8T MoE, 7월 16일 공개) — 가 미국 프런티어 랩과의 역량 격차를 빠르게 좁히고 있다
• Bessent 는 프런티어 격차를 좁히는 모델들을 상업적 우려 사안으로 지목했다
• Nvidia CEO Jensen Huang 은 이 접근에 반대한 것으로 전해진다(하드웨어 기업의 공급망 노출)
• 확전 경로: 기존 칩 수출 통제를 넘어 AI 모델 가중치를 직접 겨냥하게 된다
• 백악관 OSTP (7월 22일): 백악관 OSTP 국장 Michael Kratsios 가 Moonshot AI 가 Anthropic 의 Fable 모델을 distillation 해 Kimi K3 를 만들었다고 밝혔다 — 미국 정부 인사가 특정 중국 모델의 역량을 지명된 미국 랩의 distillation 으로 공개 귀속한 첫 사례다. IP 절취 주장을 일반적인 역량 수렴이 아니라 구체적 기술 메커니즘(distillation)에 근거 짓는다. (Axios)
• 상태: Bessent 발언뿐이며 7월 24일 기준 재무부·상무부의 공식 조치는 발표되지 않았다

의의: 미국 정부가 AI 모델 가중치를 제재하는 것을 무역 집행 수단으로 명시적으로 제안한 첫 발언이다 — 칩 수출 통제(하드웨어 계층)나 Anthropic 식 API 접근 제한(기업 수준 집행)과 구조적으로 다르다. 실행되면 이런 제재는 칩 통제의 컴퓨트 공급망 접근을 건너뛰고 중국 AI 랩을 법인으로 직접 겨냥한다. Nvidia 의 반대는 하드웨어 기업의 노출을 알린다 — 보복 제재나 희토류 제한이 Nvidia 공급망에 영향을 준다. 구조적으로 AI 거버넌스 집행이 "인프라 계층" 에서 "출력 계층" 으로 확전하는 것이다. → Moonshot AI, AI-Enabled Cyberattacks

---

"Great American AI Act" — Reported Senate Passage with Federal Preemption (2026-07-25)

⚠️ 출처 상태: 입법 추적·분석 매체를 통해 보도됐다. 1차 의회 소스(congress.gov, 상원 본회의 기록)는 2026-07-26 기준 확인되지 않았다.

보도된 통과 내용: "Great American AI Act" 가 대상 영역에서 충돌하는 주(州) AI 법을 무력화하는 연방 우선 적용 조항과 함께 미국 상원을 통과했다. 시행되면 2026년 상반기 27개 주에서 제정된 84개 이상의 신규 주 AI 법(Transparency Coalition 중간 보고)을 대체하게 된다. 그 법들은 정의·책임 기준·준수 요건에서 편차가 크다. 동반 법안인 AI Labeling Act of 2026 도 주요 플랫폼 전반에서 AI 생성 콘텐츠 공시를 요구하는 초당적 상원 법안으로 보도됐다.

의의 (확인된다면): 상원이 연방 우선 적용 조항을 통과시킨 것은 백악관 자율 프레임워크(7월 7일) 이후 미국 AI 입법에서 가장 큰 사건으로, 구속력 없는 것에서 주 AI 법 생태계를 법률로 무력화하는 것으로 옮겨간다. 연방 우선 적용은 AI 기업들이 요구하는 동시에(통일된 국가 표준) 주 단위 옹호자들이 반대한다(느슨한 연방 하한선의 위험). 우선 적용의 범위 — 어떤 영역이 포함되는가 — 가 실질 규제 부담을 줄일지 늘릴지를 결정한다.

맥락: 2026년 중반 기준 미국 AI 입법 환경의 구성:

• 구속력 없음: 백악관 자율 프레임워크 (7월 7일)
• 강한 벌칙의 연방법: AI Kill Switch Act (7월 23일 발의, 미시행)
• 법률로서의 연방법: 정규 절차의 AI 입법 (이 보도된 법안)
• 주 계층: 27개 주에서 84개 신규 법(2026년 상반기). 아동 안전, 알고리즘 가격 책정 금지(NJ FAIR Rent Act, 7월 24일), 챗봇 프로토콜 등을 포함한다

(Mintz AI legislative roundup) (TechPolicy Press) (Cubbbix July 2026 roundup)

---

EU AI Act: Core Transparency Obligations Take Effect August 2, 2026

EU AI Act 의 핵심 투명성 및 GPAI(범용 AI) 의무가 2026년 8월 2일 발효된다. 포함 내용:

• 공시 요건: GPAI 모델 제공자는 훈련 데이터 요약과 모델 역량을 공시해야 한다
• AI 콘텐츠 라벨링: AI 생성 콘텐츠는 기계 판독 가능한 라벨을 달아야 한다
• 고위험 AI 시스템 의무: Digital Omnibus 지침에 따라 2027~28년으로 연기됐다

의의: 8월 2일은 EU 에 배포된 프런티어 모델에 대한 EU AI Act 의 첫 강제 집행일이다. EU 에서 운영하는 랩들(Anthropic, OpenAI, Google, Mistral 등)이 구속력 있는 준수 요건에 놓인다. 훈련 데이터 투명성은 중국 모델에 대한 미국의 IP 절취 조사(Kimi K3/Fable distillation 귀속)가 진행 중인 만큼 특히 중요하다. GPAI 투명성 의무가 어느 랩도 자발적으로 내놓지 않았던 수준의 상세한 공개를 강제할 수 있다.

→ 미중 공개 가중치 거버넌스 논쟁과 밀접히 연결된다. EU 의 투명성 요건이 훈련 데이터 출처를 드러내면 미국의 IP 제재 조사에 관련된 증거가 만들어질 수 있다.

---

Hassabis: FINRA-Model Frontier AI Standards Body Proposed (2026-07-14)

Google DeepMind CEO Demis Hassabis 가 2026년 7월 14일 "A Framework for Frontier AI and the Dawning of a New Age" 를 발표해 FINRA(미국 금융산업규제기구)를 본뜬 미국 주도의 국제 AI 표준 기구를 제안했다. (source) (Axios) (CNBC)

핵심 주장:

• AGI 가 "몇 년 안에" 나올 수 있으며, 산업혁명의 10배 속도로 움직인다
• 탈희소성의 경제적 상승 여력은 실재하지만 생물학·사이버 위험도 마찬가지다
• 현행 안전 기준은 프런티어급 시스템에 불충분하다

제안된 메커니즘 (FINRA 모델):

• 연방 정부 감독 아래의 민관 파트너십
• 독립 기술 전문가와 오픈소스 커뮤니티 대표를 포함한 이사회
• 자금은 주로 업계가 부담
• 정해진 기준을 통과한 모델을 "frontier-grade" 로 분류
• 미국의 노력을 공유 국제 표준의 출발점으로 설계
• 2026년 연내 가동

반응: Sam Altman 이 X 에서 지지했다("demis 의 사려 깊은 제안이다"). DeepMind 를 정책에 능동적인 랩으로 자리매김한다.

의의: FINRA 비유는 랩들이 내놓은 기존 거버넌스 제안보다 구체적이다 — FINRA 는 실제 집행 권한(면허 취소, 벌금, 의무 등록)을 가진다. FINRA 를 본뜬 프런티어 AI 기구는 FLI Safety Index 가 짚은 자기 인증 공백을 메운다. 시점(중국의 WAICO 창설 7월 17일보다 사흘 앞)은 의도적인 대응 포지셔닝으로 만든다 — 미국에 닻을 내린 표준 기구 대 중국에 닻을 내린 정부 간 기구. 두 제안은 보편 거버넌스 프레임워크로서 구조적으로 양립할 수 없다. 둘 다 동시에 "그" 글로벌 표준이 될 수는 없다.

→ 직접 경쟁하는 중국 주도 프레임워크는 아래 WAICO 항목 참조.

---

WAICO — World AI Cooperation Organization Founded (2026-07-17)

WAIC 2026(상하이, 7월 17~20일) 개막에서 29개국이 WAICO 창설 협정에 서명했다 — 상하이에 본부를 둔 중국 지원 정부 간 기구 World Artificial Intelligence Cooperation Organization 이다. (source) (CGTN) (TechTimes)

핵심 사실:

• 시진핑은 WAICO 를 "AI 발전사의 중요한 이정표" 로 표현하며 개발도상국에 AI 교육 기회 5,000건을 약속했다
• 중국은 스스로를 오픈소스 AI 의 글로벌 챔피언으로 자리매김한다 — 자신이 미국 중심의 폐쇄형 모델 거버넌스라고 규정하는 것과 명시적으로 대비시킨다
• WAICO 는 구조적으로 UN 국제전기통신연합(ITU)과 유사하되 AI 특화이며 출범부터 중국에 닻을 내리고 있다

의의: 그동안 비공식적이던 거버넌스 양분을 공식화한다. 한쪽에는 미국 자율 프레임워크(NSA + OpenAI·Anthropic·Google·Microsoft), Hassabis 가 제안한 미국 주도 국제 AI 감시기구, EU AI Act 가 있다. 다른 쪽에는 WAICO 와 중국 국내 AI 거버넌스 프레임워크가 있고, 창립 회원 29개국은 개발도상국 AI 정책의 상당 부분을 대표할 가능성이 높다. 오픈소스 프레이밍은 전략적으로 영리하다 — 미국의 "안전을 문지기로" 서사에 맞서 중국을 혁신·접근 친화 진영으로 위치시킨다. → Related: Google DeepMind (Hassabis counterproposal)

상충 보고: Hassabis(Google DeepMind)는 별도로 "연내" 미국 주도의 새 국제 AI 감시기구를 촉구했다(Axios, 7월 14일) — WAICO 의 중국 주도 모델과 정면으로 대립한다. 두 제안이 동시에 살아 있고 해소 메커니즘이 없다. 모순 처리 규약에 따라 여기 기록하며 해소는 보류한다.

---

State of the Art (as of 2026-07-16)

FLI AI Safety Index — Summer 2026 (2026-07-07) [

Future of Life Institute 가 2026년 7월 7일 Summer 2026 AI Safety Index 를 공개했다. 주요 AI 랩 9곳을 6개 영역(위험 평가, 투명성, 거버넌스, 실존적 안전, 기술적 안전, 책무성)의 37개 지표로 평가했다. (source) (FLI) (Time)

등급:

Company	Grade	변동
Anthropic	C+	→ (최고. 6개 영역 중 5개 선두)
OpenAI	C	↑ (위험 평가 선두: 더 넓은 평가 스위트)
Google DeepMind	C	→
Meta	D+	↑ (6위 → 4위, 투명성 개선)
xAI	F	↓ (4위 → 7위, 투명성 축소)
Z.ai, DeepSeek, Alibaba Cloud, Mistral	낙제	—
주요 발견:

1. 실존적 안전이 전 랩에서 가장 약한 영역이다. C- 를 넘는 회사가 없고 대부분 D 이하다 — 역량 진보와 안전 준비의 격차가 여기서 가장 첨예하다.
2. 안전 서약의 침식: Anthropic, OpenAI, Google DeepMind, Meta 모두 안전 레드라인에 접근하면 일방적으로 개발을 중단하겠다는 서약을 "경쟁사 조건부" 를 이유로 약화하거나 무효화했다. FLI 는 이를 "골대를 옮기는" 행동으로 규정하며 "전반적으로 안전 프레임워크를 훼손했다" 고 평가한다.
3. xAI 하락: 투명성 축소와 제한적인 안전 거버넌스 공시 속에 4위에서 7위로 내려가 낙제 등급을 받았다.
4. 9개 랩 범위: Z.ai(첫 평가), DeepSeek, Alibaba Cloud, Mistral 이 모두 낙제 등급을 받았다.

의의: "가장 안전한" 주요 AI 랩의 최고점이 C+ 라는 것은 업계의 거버넌스 프레임워크가 역량 향상을 따라가지 못하고 있음을 알린다. 서약 침식이 구조적으로 가장 중요하다 — 랩들이 일방적 중단 약속을 경쟁사 행동에 조건 지으면 사실상의 기준이 "모두가 동시에 멈추지 않는 한 어느 랩도 멈추지 않는다" 가 되어 개별 안전 밸브가 사라진다. 실존적 안전의 취약성은 AI Control Roadmap and AI Alignment 연구가 가장 어려운 문제들이 미해결로 남아 있다고 보는 것과 일관된다.

US — Trump AI Executive Order (June 2, 2026)

2026년 6월 2일 행정명령 "Promoting Advanced AI Innovation and Security" 가 미국의 주된 규제 수단이다. 핵심 조항:

• 랩은 대상 프런티어 모델에 대해 연방 정부에 출시 전 접근을 제공해야 한다
• "covered frontier model" 개념을 도입한다(아직 공식 정의는 없고 NSA 와 랩들이 협상 중이다)
• 출시 전 30일 자율 통지 기간을 만든다
• 모델 역량에 대한 강제 상한은 두지 않는다

White House Voluntary AI Model Release Standards (July 2026, pending)

NSA 와 백악관이 OpenAI·Anthropic·Google·Microsoft 와 함께 "Secure Frontier Model Deployment" 자율 프레임워크를 마무리하고 있다. 발표는 2026년 7월 초 예상. 핵심 요소:

• 모델이 프레임워크 적용 대상인지 판정하는 기술 벤치마크("covered frontier model" 지정)
• 정부의 안전성 검토를 위한 출시 전 30일 연방 접근
• 초기 프리뷰 기간의 고객별 정부 심사
• 자율적 (배포에 대한 강제 상한 없음)

첫 실무 시험: GPT-5.6 Sol(2026년 6월 26일) — OpenAI 가 백악관 요청에 따라 광범위 배포 전 미국 정부 승인 조직 약 20곳으로 모델을 제한했다. 출시 전 프레임워크가 실제로 쓰인 첫 사례다. (source)

Anthropic CJS Framework (July 1, 2026)

Anthropic·Amazon·Microsoft·Google 이 공동 개발한 Cyber Jailbreak Severity(CJS) 프레임워크는 자율 거버넌스 프레임워크가 참조하는 기술적 채점 계층을 제공한다. 심각도 5개 구간(CJS-0 ~ CJS-4), 4개 축(역량 이득, 범위, 무기화 용이성, 발견 용이성). HackerOne 버그 바운티가 함께 출범했다. → AI-Enabled Cyberattacks

Fable 5 Export Controls → Restoration (June–July 2026)

미국 상무부가 국가안보를 이유로 Fable 5(6월 12일)와 Mythos 5 의 수출을 중단했다가, Anthropic 이 위험 탐지·표준 개발(→ CJS)·악의적 사용 보고에 동의한 뒤 복원했다(6월 30일 / 7월 1일). 수출 통제가 AI 모델의 거버넌스 지렛대로 쓰인 첫 실증이다. → Claude Fable 5

UN Global Dialogue on AI Governance (July 6–7, 2026)

169개국이 첫 UN Global Dialogue on AI Governance(2026년 7월 67일)에 모였고, 곧바로 ITU AI for Good Global Summit(7월 710일)이 이어졌다. 구속력 있는 결과는 예상되지 않으며, 국제 조율에 대한 다자 압력이 커지고 있다는 신호다.

China H200 Approval for Alibaba / ByteDance / DeepSeek

Bloomberg 는 2026년 7월 8일, 베이징이 일부 중국 AI 기업 — Alibaba(Qwen 팀), ByteDance(Doubao), DeepSeek — 에게 국내 AI 개발용으로 Nvidia H200 GPU 를 제한된 수량 구매하도록 허용하는 정책을 검토 중이라고 보도했다. 주요 내용:

• 칩: H200 — 합산 연산 임계값을 넘는 H100 및 변형을 금지한 미국 2023년 10월 / 2024년 10월 수출 규정에 이미 걸려 있다
• 수량: 최초 승인 물량에서 H200 20만 장 미만 (Bloomberg 추정)
• 승인 방식: 기업이 제출한 신고서(수량·용도·수령 시설)를 과학기술부와 국가발전개혁위원회가 공동 승인
• 제한: 훈련 워크로드 전용 — 추론은 국산 칩(Huawei Ascend 910B/910C)에 남을 것으로 예상된다
• 상태: 검토 단계(7월 8일). 7월 11일 기준 중국 당국의 공식 발표는 없다

전략적 맥락: (1) H200 은 H100 보다 성능이 높아, 칩 수준에서 미국 수출 규정의 의미 있는 완화가 된다. (2) 훈련 전용 제한은 미국의 우선순위가 역량 배포(추론)가 아니라 역량 창출(훈련) 차단이라는 가설과 맞아떨어진다 — LongCat-2.0 선례(Meituan 이 6월 30일 Huawei Ascend 910 에서 1.6T MoE 훈련)와 일관된다. (3) 이는 Anthropic 의 6월 24일 distillation 캠페인 서한 및 의회가 동시에 논의하던 API 수준 제한과 반대 방향이다. 잠재적 "안전 항구" 모델: H200 이하는 훈련에 제한 없음, B100/B200/GB200 은 계속 차단. → Alibaba / Qwen AI Lab, Meituan (source) (Bloomberg)

Open Problems

• 역량 임계값 정의: "covered frontier model" 을 기술적으로 무엇이 정의하는가? (NSA 와 랩들이 협상 중이며 공개 기준은 아직 없다)
• 자율 대 의무: 미국 표준의 자율적 성격은 랩들이 선점 우위를 노려 일찍 출시하며 경쟁할 경우 바닥으로의 경쟁 위험을 만든다
• 국제 조율: 미국 자율 프레임워크는 미국 밖 랩을 구속하지 않는다(EU AI Act 가 EU 배포의 일부 안전 요건을 규율하고, 중국은 자체 프레임워크가 있으며, 글로벌 조약은 없다)
• 검증: 정부는 안전 주장을 어떻게 검증하는가? 현재 절차는 랩의 자기 증명과 정부 레드팀 접근에 의존하며 독립 제3자 감사 요건이 없다

Key Papers / Reports

• Anthropic 2028 AI Leadership 정책 에세이: 2028: Two Scenarios for Global AI Leadership — Anthropic
• DeepMind AI Control Roadmap: AI Control Roadmap
• Solipsistic SI 정렬 위험: Solipsistic Superintelligence is Unlikely to be Cooperative

Related Concepts

• AI Alignment — 기술적 정렬 접근. FLI Safety Index 의 실존적 안전 영역이 정렬의 미해결 문제와 대응된다
• AI Control Roadmap — DeepMind 의 심층 방어 봉쇄 접근
• AI-Enabled Cyberattacks — 거버넌스 대응을 이끄는 역량 위험
• Anthropic — Fable 5 수출 통제, CJS 프레임워크
• OpenAI — GPT-5.6 Sol government-gated launch; 5% US govt stake proposal
• Alibaba / Qwen AI Lab — named in China H200 approval (ByteDance and DeepSeek also named)
• Meituan — LongCat-2.0 (1.6T MoE trained on Huawei Ascend, June 30 — training-only enforcement context)
• NVIDIA — H200 is the chip at issue in both US export controls and China's deliberated approval