유튜브 정리 · 폴더 안내

Kimi K3 구조 뜯어보기

무엇이 들어 있나

파일내용
정리.html본문. 0장부터 순서대로 읽으면 이해되도록 쓴 전체 정리
자막-ko.txt근거가 된 자막. 30초 단위로 묶어 읽기 좋게
원본자막/njM0LT4s6_0.ko.srv1유튜브에서 받은 그대로. 한국어(원어)이고 올린 사람이 직접 단 자막
원본자막/njM0LT4s6_0.en.srv1같은 영상의 영어 자막. 쓰지 않았다. 한국어를 옮긴 것이라 원어를 썼다

실행계획은 없다. 이 영상은 실행할 것을 주는 영상이 아니라 읽을 순서를 주는 영상이다. 그 순서는 정리.html 의 맺음에 있다.

어떤 영상인가

Moonshot AI 의 Kimi K3 테크 리포트를 두 사람이 46분 동안 뜯어본다. 2.8조 파라미터, 896개 전문가 중 16개만 쓰는 모델이다.

다만 이 영상의 값어치는 K3 자체보다 트랜스포머가 여기까지 어떻게 기워져 왔는지의 계보에 있다. 리니어 어텐션 → DeltaNet → KDA, Switch Transformer → DeepSeekMoE → Latent MoE, RoPE → YaRN → NoPE 를 순서대로 짚는다.

그리고 다른 소개 영상과 갈리는 대목이 하나 있다. "그 부품들이 정말 성능에 기여했는지 우리는 알 수 없다" 를 4분 동안 따로 다룬다. 프론티어 규모에서는 부품 하나 빼고 다시 학습시켜 비교하는 실험을 할 수 없기 때문이다.

어떻게 만들었나

영상-정리 스킬(~/.claude/skills/영상-정리/)로 만들었다.

bash ~/.claude/skills/영상-정리/자막받기.sh "<주소>" "ko,en" ./원본자막
python3 ~/.claude/skills/영상-정리/자막정리.py ./원본자막/njM0LT4s6_0.ko.srv1 30 > 자막-ko.txt

이 정리를 믿을 때 주의할 것

자세한 것은 정리.html 의 부록 B에 있다. 요점만 넷이다.

  1. 모델 사양(2.8조·896중 16·93층·100만 토큰)은 공식 저장소에서 확인했다. 전부 일치한다
  2. 벤치마크 점수와 가격은 검증하지 않았다. 점수는 모델 제작자가 낸 것이고, 가격은 수시로 바뀐다
  3. 영상에 없는 내용을 넣은 곳이 다섯 군데 있다. 전부 "영상에 없음" 표시를 붙였다
  4. 말하는 두 사람의 본명은 확정되지 않는다. 영상 설명글의 "JB, Noto" 까지가 전부다