$ cat wiki/concepts/frontier-pacing.md
Frontier Pacing
정의
자동화된 AI 개발의 프런티어를 의도적으로 늦추는 데 필요한 기술적·거버넌스적 장치를, 필요해지는 순간에 즉석에서 만들어내는 대신 미리 국제 체제가 갖춰 두어야 한다는 주장.
무엇이 아닌지가 이 주장의 특징이다. 중단도, 모라토리엄도, 능력 임계값도 아니다. 요구하는 것은 선택지다. 나중에 멈출 수 있게 해 달라는 것이고, 이 구분이 논지의 전부다 (source).
왜 중요한가
속도를 늦추려는 대상은 재귀적 자기개선 — 자기 자신의 개발을 가속하는 AI — 이고, 지목된 실패 양상은 "역량 발전이 우리가 그 결과 시스템을 이해하거나 통제할 수 있는 능력을 넘어 급격히 가속되는" 것이다(source).
겉보기에 닮은 공개서한 장르와 이 문서를 가르는 것은 세 가지다.
- 안에서, 실제로 그 일을 하는 사람들이 서명했다. 외부 비판자가 아니라 프런티어 시스템을 만드는 랩의 직원 천여 명이며, CEO 와 수석 과학자가 포함되어 있다.
- 두 곳은 기관으로서 지지했다. 기관 차원의 지지는 회사가 책임을 물을 수 있는 입장이지만, 직원 서명은 그렇지 않다.
- 정부에 규칙이 아니라 역량을 요구한다. 요청은 미국 정부가 도구를 개발하는 국제적 노력을 지원해 달라는 것이며, 이는 특정 행위에 대한 규제가 아니라 인프라에 대한 요구다.
현재 수준 (2026-07-30 기준)
Pacing the Frontier — 직원 성명 (2026-07-28)
성명은 한 문장에 걸려 있다 (source):
"We request that the U.S. government support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development."
뒷받침하는 근거는 "산업계, 정부, 그리고 사회 전체가 부상하는 위험에 대응하고 보안 조치를 마련하며 감독을 강화할 시간을 벌 선택지를 필요로 할 수 있다"는 것이다.
공개된 명단 기준 서명자의 소속 분포:
| Employer | Signatories |
|---|---|
| Anthropic | 533 |
| OpenAI | 330 |
| 191 | |
| Meta | 62 |
| 이름이 알려진 고위 서명자로는 Dario Amodei (CEO, Anthropic), Jared Kaplan | |
| (공동창업자 겸 Chief Science Officer, Anthropic), Chris Olah (공동창업자, | |
| Anthropic), Jakub Pachocki (Chief Scientist, OpenAI), Mark Chen (Chief Research | |
| Officer, OpenAI), Shane Legg (공동창업자 겸 Chief AGI Scientist, | |
| Google DeepMind), Anca Dragan (VP of AI Safety and Alignment, Google), | |
| Shengjia Zhao (Chief Scientist, Meta AI) 가 있다. |
기관 차원의 지지: OpenAI 와 Anthropic 둘 다 공개 몇 시간 만에 기관으로서 지지했다. Anthropic 의 글은 이 요구를 자사의 재귀적 자기개선 연구와 연결짓는다. Meta 는 기관으로서 지지하지 않았고, 수석 과학자가 개인 자격으로 서명했다 (source).
계보
이 성명은 석 달에 걸쳐 공개적으로 쌓여 온 제안이 제도적 형태를 갖춘 것이다.
| Date | Step |
|---|---|
| 2026-05-07 | Jack Clark, Import AI #455 — 2028년 말까지 RSI 가 성립할 확률 60% → AI Alignment |
| 2026-06-05 | Favaro 와 Clark, "When AI Builds Itself" — 글로벌 조율 메커니즘, "브레이크 페달", 즉각적 중단은 명시적으로 아님 (source) |
| 2026-07-23 | AI Kill Switch Act (Lieu/Moran) — DHS 셧다운 권한을 갖는 일방적·국가적 브레이크, ExploitGym 탈출이 계기 (source) → AI Governance |
| 2026-07-28 | Pacing the Frontier — 다자적 버전, 랩들이 스스로 요구 |
| 6월의 제안과 7월의 성명은 같은 대상을 거의 같은 표현으로 부른다. 7주 사이에 달라진 것은 거기에 | |
| 서명과 두 건의 기관 지지가 붙었다는 점이다. |
오픈 웨이트 공방과의 관계
frontier pacing 과 Open-Weights Policy Fight 는 같은 주에, 대체로 같은 당사자들 사이에서 서로 반대 방향으로 당기고 있다. pacing 은 속도를 조절할 수 있는 프런티어를 전제한다 — 즉 조율이 가능한, 셀 수 있는 수의 행위자가 쥐고 있는 프런티어다. 널리 배포된 오픈 웨이트는 어떤 pacing 메커니즘이든 구조적으로 부분적인 것으로 만든다. 성명은 이 문제를 다루지 않으며, 두 갈래는 아직 공개적으로 맞붙어 논의된 적이 없다.
열린 문제
- 메커니즘이 무엇인가? 성명은 도구를 개발해 달라고 요구한다. 이름이 붙은 도구도, 붙은 작업 항목·기구·예산도 없다.
- "자동화된 AI 개발의 프런티어"란 무엇을 말하는가? 발동 조건이 정의되어 있지 않고, 이런 형태의 제안은 늘 의도가 아니라 정의에서 실패해 왔다.
- 누가 구속되는가? 미국이 지원하는 국제적 노력은 그 바깥의 랩에 미칠 힘이 뚜렷하지 않은데, 프런티어에 근접한 오픈 웨이트 공개는 점점 그쪽에서 나오고 있다.
- 기관 차원의 지지가 무엇인가를 구속하는가? OpenAI 도 Anthropic 도 지지와 함께 자사의 출시 주기에 관한 약속을 내놓지는 않았다.
- 오픈 웨이트 대 pacing — 위 참조. 미해결이며 다뤄지지 않았다.
주요 논문
- Favaro 와 Clark, Anthropic (2026-06-05): "When AI Builds Itself" — 브레이크 페달 제안 (source)
- Anthropic (2026-04-14): Automated Alignment Researcher → Automated Weak-to-Strong Researcher (AAR)
- AREX: Towards a Recursively Self-Improving Agent for Deep Research — 재귀적으로 자기를 개선하는 연구 에이전트. 성명이 말하는 그 역량의, 현재 공개된 형태
- Skill Self-Play: Pushing the Frontier of LLM Capability with Co-Evolving Skills — self-play 기반으로서 공진화하는 스킬
관련 개념
- AI Alignment — Clark 의 RSI 예측과 "브레이크 페달" 논지 전문
- AI Governance — AI Kill Switch Act 를 포함한 입법 갈래
- AI Control Roadmap — 봉쇄 갈래: pacing 이 이루어지지 않았을 때 하는 일
- Open-Weights Policy Fight — 반대 방향의 압력
- Anthropic · OpenAI · Google DeepMind · Meta AI
상충 보고
서명자 수는 24시간 안에 네 가지로 보도되었다 (source):
| Figure | Reported by |
|---|---|
| 1,134 (867 named, 267 anonymous) | The Next Web, 공개된 서명자 명단 기준 |
| 1,178 | KuCoin flash, explainx.ai, helixar.ai — 2026-07-29 오전 기준 수치로 설명됨 |
| 1,224 | clickpetroleoegas.com.br, 이후 집계 |
| "over 1,100" | TechTimes (2026-07-28), resultsense.com |
| 명단이 열려 있어 계속 서명이 쌓이는 중이었다는 것이 이 편차의 설명이다. 수치들이 서로 모순된다기 | |
| 보다는 서로 다른 시각에 집계된 것에 가깝다. 어느 것도 여기서 정본으로 취급하지 않는다. |