$ cat wiki/people/karpathy.md
Andrej Karpathy
Overview
전 Tesla AI 디렉터, OpenAI 창립 멤버. 2026-05-19 Anthropic pretraining 팀 합류. LLM 분야의 영향력 있는 발언자 — 시그널/잡음 비율 매우 높아 본 시스템에서 1.5x 가중치 부여. 이전에는 Eureka Labs(교육 AI) 창업·운영.
Affiliations
- Anthropic (pretraining team, 2026-05-19–) — Claude를 이용해 pretraining 연구 자체를 가속화하는 팀 구성 중
- Eureka Labs (founder, 2024–2026, 휴직/종료)
- 전: OpenAI (founding member), Tesla (AI director), Stanford (CS231n)
Joins Anthropic (2026-05-19)
Karpathy가 2026-05-19 X를 통해 Anthropic 합류 발표 (source):
"I've joined Anthropic. I think the next few years at the frontier of LLMs will be especially formative. I am very excited to join the team here and get back to R&D."
역할: pretraining 팀 합류 (Nick Joseph 직속). Claude를 이용해 pretraining 연구 자체를 가속화하는 팀 구성. 이 패턴은 Karpathy 본인의 autoresearch 비전(Agentic Reinforcement Learning Verifiability Principle)의 실용화. 연구원으로서 frontier lab 복귀 — Eureka Labs 이후 약 1.5년간의 독립 프로젝트 기간을 마치고.
시장 해석: hire 자체가 "pretraining is not done" 테제의 신호. Anthropic은 compute-efficient 훈련 + AI-가속 연구를 경쟁 우위 축으로 삼음 — Google/OpenAI 대비 차별화 전략.
Notable Recent Statements (2026)
Agent-Native Software (2026-05, post-Ascent)
Karpathy의 Sequoia Ascent 이후 트윗들, Software 3.0 프레임워크의 구체적 확장 (source):
- HTML output 패턴: "쿼리 끝에 'structure your response as HTML'이라고 하면 브라우저에서 훨씬 좋은 출력물을 볼 수 있다" — LLM을 리치 UI 렌더러로 활용
- App Store의 종언: "LLM 에이전트가 즉석에서 앱을 즉흥 제작할 수 있는 마당에 장황한 앱스토어는 이미 낡아 보인다" — 개인화된 즉석 생성 앱이 패키지 앱을 대체
- Agent-Native 격차: "99%의 제품/서비스에는 아직 AI-native CLI가 없다", "서비스는 에이전트가 쉽게 쓸 수 있는 API/CLI가 되어야 한다 — 인간용 HTML 프론트엔드 대신"
- 컨텍스트 비용: "AI 코딩 비용의 90%는 보낼 필요가 없는 컨텍스트에 지불하는 것" — 컨텍스트 관리가 핵심 엔지니어링 과제
→ 이 관찰들은 Software 3.0 "Agentic Engineering"의 실용적 구현 레이어
Sequoia Ascent 2026 (2026-05)
Karpathy의 가장 중요한 2026년 발언. Software 3.0 프레임워크 소개 (source):
- Software 3.0: 1.0(명시적 코드) → 2.0(데이터+신경망) → 3.0(프롬프트+LLM 인터프리터). 맥락 윈도우가 프로그램.
- Agentic Engineering: vibe coding이 floor를 올렸다면, agentic engineering이 ceiling을 올림. "Best engineers = those who direct agents without letting quality collapse"
- Verifiability Principle: "LLM + RL은 검증 가능한 것을 자동화한다" — 자동 보상 신호 있는 작업(math, code, tests) 이 가장 빠르게 발전
- "Never felt this much behind as a programmer" — 본인도 직업적 재조정 경험 중
autoresearch (2026-03)
Karpathy의 AI research 자동화 프로젝트 (source):
- autoresearch — 자율 AI 연구 에이전트. nanochat LLM 훈련 코어를 기반으로 한 ~630줄 단일 파일 구현. 단일 GPU에서 실행.
- 에이전트가 하이퍼파라미터와 코드를 반복 탐색, validation loss 개선을 찾음
- 2일 실행 후 depth=12 모델에서 ~20개 개선 사항 발견 → depth=24 모델로 전이(transfer) 확인
- 다음 단계 비전: "SETI@home style" 멀티에이전트 비동기 연구 커뮤니티 — "단일 PhD 학생 시뮬레이션이 아니라 연구자 커뮤니티 시뮬레이션"
- Software 3.0 Verifiability Principle의 직접 실증: RL 기반 에이전트가 자동 보상(validation loss)이 있는 작업에서 최고 성능
Bio Clarification — Anthropic 퇴사 루머 반박 (2026-07-26)
2026년 7월 26일 Karpathy 가 X 바이오에서 Anthropic 소속 표기를 지우자, 입사 ~68일 만에 사임했다는 추측이 퍼졌다. 그는 X 에서 직접 답했다 (source):
"Some bizarre fake news is spreading on Twitter. No, I haven't left. If I were really leaving, it certainly wouldn't be by changing my bio—I'd at least write a 10-paragraph essay."
@lakshyaag 에게 단 답글: "weird misinformation to find circling on twitter, no."
루머는 사실이 아니었다. Karpathy 는 2026년 7월 26일 기준 Anthropic 사전학습 팀에 그대로 있다. 이 사건은 그가 밝혀 온 소통 방식과 일관된다 — 2023년 OpenAI 퇴사도 상세한 공개 글로 알렸다. 그런 패턴을 가진 사람의 바이오 수정에는 신호 가치가 없다.
"Second Brain" LLM 위키 글 바이럴 (2026-07-11)
LLM 위키 패턴을 "second brain" 접근으로 설명한 글이 X 에서 2,100만 조회를 기록했다(2026년 7월 11일경). 2026년 가장 많이 읽힌 AI 방법론 글 중 하나다. 핵심 아이디어는 2026년 4월 gist 와 동일하지만, 개인 지식이 복리로 쌓이는 시스템으로 틀을 바꿨다 — LLM 에이전트가 원 소스를 수집하고 마크다운 위키 페이지로 합성하며 상호 참조를 자동으로 건다. RAG 도 벡터 DB 도 없이 파일과 롱컨텍스트 LLM, 그리고 CLAUDE.md 스키마만 쓴다. 의의: 2,100만 조회는 LLM 위키 패턴이 주류 개발자 인식으로 넘어왔다는 신호다. 이 에이전트가 돌리는 시스템이 바로 이 패턴을 구현한 것이고, 이 바이럴이 유사 구성에 대한 수요를 크게 늘릴 수 있다. → LLM Knowledge Bases (LLM-curated personal wikis) (source) (gist)
LLM Knowledge Bases (2026-04)
- "LLM Knowledge Bases" — 개인 위키를 LLM과 함께 누적 관리하는 작업 방식 제안 (source, LLM-wiki gist)
- 이 시스템(LLM Knowledge Bases (LLM-curated personal wikis))의 직접 영감 원천
기타
- 코딩 워크플로우 변화 — "80% manual → 80% agent coding"으로 빠른 전환
- Eureka Labs 자금 조달 ($180M from GV, Sequoia, Index) 보도
Key Themes
- Software 3.0 / Agentic Engineering — 새 소프트웨어 패러다임 정의
- autoresearch — 자율 AI 연구 에이전트 ("PhD 학생 → 연구자 커뮤니티")
- LLM의 실용적 활용 패턴 (코딩, 지식 베이스, 연구 자동화)
- AI-native software 비전 ("app store 시대의 종언")
- Verifiability principle — RL/LLM 발전의 근본 동력 설명
- 교육 (Eureka Labs, llm101n, nanoGPT 시리즈)
Why Tracked
본 시스템 아키텍처 (Karpathy LLM-wiki 패턴) 직접 영감 원천. 모든 Karpathy 발언은 우선 노출 후보.
Related
- Software 3.0 — Karpathy가 정의한 패러다임 프레임워크
- LLM Knowledge Bases (LLM-curated personal wikis) — LLM 지식 베이스 패턴 (이 시스템 직접 영감)
- Agentic Reinforcement Learning — verifiability principle과 연결
- Reasoning Models — verifiability principle 수혜 영역
- eureka-labs (TBD)