영상 정리 · 홍정모
14분짜리 라이브 강연을 처음부터 끝까지 따라 읽는 글
이 여섯 개만 알면 나머지는 다 따라온다. 이미 아는 것이면 1장으로 건너뛰어도 된다.
알파고(AlphaGo)는 2016년에 구글 딥마인드가 만든 바둑 AI다. 프로 바둑기사 이세돌을 이겨서 "AI가 사람을 이긴다"는 사실을 처음으로 널리 알렸다.
챗GPT(ChatGPT)는 2022년 말 OpenAI가 내놓은 대화형 AI다. 이때부터 사람들이 실제로 일상에서 AI를 쓰기 시작했다.
영상은 이 두 사건을 "많은 사람의 인생을 바꿔 놓은" 변화의 시작점으로 짚으면서 이야기를 연다.
LLM(거대 언어모델, Large Language Model)은 방대한 글을 학습해서 "다음에 올 말"을 확률적으로 예측하는 AI다. 챗GPT나 클로드 같은 것들이 다 LLM이다.
확률적으로 답을 내놓는다는 말은, 정해진 정답을 찾아오는 게 아니라 학습한 자료 안에서 가장 그럴듯한 말을 골라 내놓는다는 뜻이다. 이 성질이 3장에서 "평균 얼굴" 비유로 다시 나온다.
컨텍스트 윈도우(context window)는 AI가 한 번에 참고할 수 있는 대화·자료의 양이다. 이 범위를 넘어서는 내용은 AI가 잊어버린다.
영상에서 "컨텍스트 윈도우 다 찼으니 이제 슬슬 어려운 건 네가 해라"는 말이 나오는데, 바로 이 한계를 가리키는 말이다.
리트코드(LeetCode)는 프로그래밍 실력을 재는 문제를 잔뜩 모아놓은 사이트다. 개발자 취업 준비생들이 "몇백 문제 풀었다"고 말할 때 그 사이트를 가리킨다.
영상에서 "리트코드 600개 풀기"는 이런 식으로 비슷한 문제를 반복해서 푸는 공부법을 대표하는 예로 쓰인다.
탑다운(top-down)은 전체 그림을 먼저 보고 위에서 아래로 내려가며 공부하는 방법이다. "일단 완성품부터 만들어 보자"에 가깝다.
바텀업(bottom-up)은 기초부터 하나씩 쌓아 올라가는 방법이다. "원리부터 이해하자"에 가깝다.
영상 뒷부분(4장, 5장)에서 이 둘 각각의 함정과, 둘을 같이 쓰는 방법을 다룬다.
바이브 코딩(vibe coding)은 코드를 직접 짜지 않고 AI에게 "이런 걸 만들어줘"라고 말로 시켜서 완성하는 방식이다. 영상에서는 "딸깍"이라는 표현으로도 부른다.
편해 보이지만, 영상은 4장에서 이 방식의 위험을 짚는다.
알파고 때부터 챗GPT까지, 정말 많은 일이 짧은 시간에 압축적으로 일어났다. 이걸 보고 사람들은 흔히 두 극단으로 간다.
할루시네이션(hallucination)은 AI가 사실이 아닌 내용을 마치 사실인 것처럼 그럴듯하게 지어내는 현상을 말한다.
상한선과 하한선을 현실적으로 파악하면, 이렇게 허황된 판단으로 실수하는 일이 많이 줄어든다. 그러면 압축적인 사건이 계속 벌어져도 크게 혼란스럽지 않다. 다만 변화가 온 것 자체는 맞고, 문제도 실제로 있다.
영상은 시니어(경력자)와 주니어(신입) 일자리 수를 비교한 그래프를 보여준다.
대신 일자리가 어디로 옮겨가는지는, AI가 언급되는 채용 공고가 계속 늘어나는 것으로 알 수 있다고 한다.
테크 업계, 특히 AI 업계는 지금 시점에서 이미 가진 기술로 수익을 내야 하는 단계에 있다. 그래서 지금 갖고 있는 LLM 기술을 쓸 수 있는 데까지 최대한 써야 한다.
지금 가장 잘 쓰이는 곳은 두 가지다. 하나는 기본적인 자료 조사와 일차 취합·정리, 다른 하나는 코딩이다. 코딩 쪽은 한동안 의견이 갈렸다가 계속 지켜보면서 다시 의견이 모이고 있다.
AI는 발산적 사고를 개인이 도저히 따라갈 수 없을 만큼 잘한다. 발산적 사고란 하나의 정답으로 좁혀가는 게 아니라, 다양한 아이디어를 널리 퍼뜨려 내놓는 사고방식이다.
이유는 둘이다.
코딩에서도 마찬가지다. 알고리즘을 다 외우고 있어서, 필요한 걸 시키면 어디선가 찾아와 잘 갖다 붙인다. 그런데 인류 중 누군가 이미 풀어서 인터넷에 자료로 남겨 놓은 문제라면, AI 사용료를 못 낼 사람이 아닌 이상 누구나 풀 수 있다는 뜻이 된다. 그래서 뭔가 잘 안 풀리는 문제를 만났다면, 그건 진짜 진지하게 풀어야 하는 문제라는 신호다.
해답이 너무 많으면 그건 해답이 아니다. 결국은 하나의 최적화된 해법으로 몰아가야 하는데, AI는 이걸 잘 못한다. 코드를 만드는 건 잘하지만 너무 난잡하게 만든다.
인간은 본능적으로 수렴한다. 간단히 말하면 일하기 싫어서 어떻게든 일을 줄이려 하기 때문이다. AI가 자료 조사를 해주고 아이디어를 참신하게 던져 주는 건 잘하지만, 정말 중요한 해결책 하나를 만들고 좁혀 나가는 건 결국 사람이 해야 한다.
돈 버는 방법을 알려 달라고 하면 100가지 방법을 알려 주지만, 진짜로 돈을 벌 수 있는 단 한 가지 방법을 찾아주거나 실행해 주지는 않는다.
프로그래밍을 처음 배울 때는 CPU 사용법을 공부하게 된다. 조금 지나면 메모리를 다루는 게 가장 중요해진다. AI를 공부한 사람이라면 지금 이 순간이 더 와닿을 것이다. 똑같은 문제가 AI에서도 똑같이 반복되고 있기 때문이다.
영화 인셉션은 꿈속에 또 꿈으로 계속 들어가는 이야기다. 지금 소프트웨어를 만드는 상황이 딱 이렇다. AI가 코딩을 다 해준다. 메모리 풀 패턴을 구현하는 법 같은 것도 다 알고 있다. 그런데 정작 AI 자체도 메모리(컨텍스트) 문제를 안고 있다. 한 겹 더 안에서 똑같은 문제가 반복되는 것이다.
그래서 돈 벌 정도 수준의 시스템을 만들게 되면 또다시 컴퓨터 기초 문제를 만나게 된다. 피할 수가 없다.
물론 AI 시대에 안 해도 되는 것도 꽤 많다. 예를 들어 리트코드 문제 600개 풀기 같은 공부법은 조만간 없어질 거라고 본다.
그런데 이걸 "그럼 알고리즘 공부는 안 해도 되겠네"로 확대 해석하는 사람들이 생기면 그것도 곤란하다. 상한선을 과장해서 해석하는 것과 같은 실수다(1장 참고).
AI를 쓰려면 계속 컨텍스트 윈도우를 신경 써야 한다. "지금 당신이 컨텍스트를 얼마나 쓰셨습니다, 머리가 거의 다 찼으니 이제 슬슬 어려운 건 당신이 해라"는 식이다.
인간의 두뇌는 성능이 말도 못하게 좋다. 어린 학생들이 자기 두뇌의 가치를 낮게 평가하는 것이 안타깝다. 10대 후반이거나 대학교 1~3학년 정도라면, 조급하게 AI 사용법에 집중하기보다 기초에 집중하는 편이 훨씬 좋은 시대다.
AI가 확률적으로 답을 내놓는다는 건 앞서 말했다(0-2). 확률적으로 답을 냈을 때 평가를 잘 받으려면 평균으로 가야 한다. 한국인의 평균 얼굴을 합성해서 보여준 이미지를 본 적이 있을 것이다. 그런 얼굴을 보면 어디선가 본 듯한 느낌이 든다. LLM이 만드는 답이 바로 이런 "평균 얼굴" 같은 답이다.
현재 기술 수준에서, 짧게는 앞으로 3년까지는 AI 에이전트를 어떻게 만드는지에 인류가 많은 공을 들일 거라고 본다. 관련해서 새로운 도구들이 계속 나오면서 많은 것을 바꿔 놓고 있다.
사람에게는 "오늘 뭐 할 거야"라고 물으면 그 맥락이 계속 머물러 있지만, 데이터센터에 있는 LLM은 나에 대해 금방 잊어버린다. 그래서 비용을 최적화하는 게 아주 골치 아픈 엔지니어링 문제가 된다. AI 에이전트를 만드는 일은 결국 토큰값을 어떻게 최적화할 것인가라는 엔지니어링 문제로 바뀐다. 관련 일자리도 늘어날 가능성이 있다.
AI 시대의 공부 방법에 대해 사람들은 굉장한 혼란을 느낀다. AI가 해주는 부분과 못 해주는 부분이 명확히 갈리지 않으면 헷갈릴 수밖에 없다.
인간은 본능적으로 공부를 적게 하고 싶어 한다. 탑다운으로 공부하면 위에서 전체 그림을 내려다보고, 무엇보다 필요성을 확실히 느끼게 된다. 필요성을 느끼면 더 열심히 하게 되는 것도 어느 정도는 사실이다. 디테일에 자신이 없는 사람들이 탑다운을 선호하는 것도 충분히 그럴 만하다.
문제는, 탑다운이라고 말은 하지만 실제로는 "다운"을 못 한다는 것이다. 위에서 조금 깨작거리다 끝난다.
탑다운으로 밑에까지 쭉 내려가기만 하면 탑다운 자체는 전혀 나쁘지 않다. 동기부여도 확실하고, 전체 그림도 알고, 제품도 금방 만들 수 있다. 그런데 대부분의 사람은 탑에서 깨작대다 끝나 버린다. 결국 AI에게 이것저것 물어보다가 끝나고, 사용자로 전락해 버린다.
바이브 코딩이 이 함정을 잘 보여준다. "딸깍"하면 탑다운으로 쭉 뚫고 제품을 만드는 사람이 될 수 있을 것처럼 얘기하지만, 결국은 특정 플랫폼의 사용자로 묶여 버리게 된다. 그 플랫폼 없이는 아무것도 못 하는 사람이 되어 버리는 것, 이게 탑다운의 약점이다. 대부분의 사람이 여기에 갇혀 버린다.
바텀에 갇혀 버리는 함정도 있다. 다만 한국 같은 경우는 저수준 기술에 대한 수요가 어느 정도 받쳐지기 때문에, 그 안에서 사는 게 오히려 편할 수 있다. 대신 소프트웨어처럼 빠르게 치고 나가야 하는 분야에서는 조금 아쉬운 측면이 있는 것도 사실이다.
그러면 탑다운과 바텀업 양쪽을 다 하라는 말인가? 사람이 그걸 다 할 수는 없다. 요즘처럼 변화가 빠른 시대에는 빠르게 치고 나가야 한다.
아주 간단하고 쉬운 것부터 탑다운과 바텀업을 둘 다 해야 한다.
예를 들어 간단한 투두리스트 앱을 만든다고 치자. 쉬운 걸 할 때는 바텀업과 탑다운을 둘 다 확실히 뚫어 놓으면 된다. 바닥부터 끝까지 다 만들어 보는 것이다. AI가 있어서 오히려 쉬운 걸 할 때는 자기 머리로 뚫어야 한다.
다음 단계로 넘어갈 때는 얘기가 달라진다. 한 번 뚫은 것은 평생 간다. AI 시대에는 이걸 직접 다시 할 일이 없다. 두 번 다시 할 일이 없다. 그냥 머릿속에 개념만 있으면 된다. 그래서 아주 쉬운 것 하나만 가지고 한 번 뚫어 놓으면 된다.
반대로 한 번도 뚫어 본 적이 없는 사람은 평생 그 공간이 비어 있게 된다.
공부할 때 탑에서 바텀으로 내려오는 것도 요만큼만 하면 되고, 바텀에서 탑으로 올라가는 것도 요만큼만 하면 된다. 한 번 뚫어 놓은 부분은 다시 할 필요가 없다. 옛날에는 이걸 매번 처음부터 다시 하면서 가야 했지만, 이제는 그런 시대가 끝났다.
사람은 일반화를 잘한다. 시간이 지나면 한 번 이해한 것이 저절로 확대된다 — 이게 인간지능의 무서운 점이다. AI 덕분에 이 부분도 저절로 확보된다. 그래서 다음 단계를 공부할 때 필요한 양이 점점 줄어들고, 이걸 그래프로 그려 놓으면 기하급수적으로 실력이 올라가는 모양이 된다.
바텀 쪽도 마찬가지다. 남들보다 근간이 되는 기술을 하나 새로 뚫으면, 그걸 잽싸게 응용해서 제품 품질을 높이거나 남들보다 빠르게 상품화할 수 있다. AI가 나머지 부분을 채워 주기 때문이다.
그럼 어디까지 딸깍(자동화)하고 어디까지 직접 해 봐야 하는지, 그 기준은 누군가 정해 줘야 한다. 결국은 누구를 믿을 수 있느냐 없느냐의 문제로 빠진다.
작년에 "LLM을 바닥부터 만들기" 영상을 하나 올렸다. 그런데 올해 그 영상에 댓글이 하나 달렸다 — "아니, 파이토치 쓰는 게 무슨 바닥이냐."
파이토치(PyTorch)는 AI 모델을 만들 때 쓰는 프로그래밍 도구(라이브러리)다. 밑바닥 계산을 대신 처리해 주기 때문에, 이걸 쓰는 걸 "진짜 바닥부터"라고 부르기는 애매하다는 지적이다.
그래서 이번에는 진짜 바닥부터 갈 계획이다. 어디까지 가느냐 — AI 에이전트 만들기까지 간다. 시불(CUDA로 추정, 부록 B 참고) 등을 직접 다 써서, 밑바닥부터 쌓아 올라가는 방식으로 만든다. "어디 내놔도 부끄럽지 않게, 나는 바닥부터 AI 에이전트를 만들어 봤다"고 말할 수 있는 교육 과정을 만들려 한다는 것이다.
실제로 이 영상의 설명글에는 관련 강좌 목록이 있다. 파트1(통계적 언어모델의 원리), 파트2(뉴럴 언어모델의 이해), 파트3(트랜스포머와 사전학습)은 이미 나와 있고, 파트4(대화형 AI 만들기)는 "Coming Soon"으로 예고되어 있다. 이 영상은 그 다음 단계로 가려는 계획을 설명하는 자리였던 셈이다.
많은 사람이 AI 때문에 두려움을 갖고 있는 것 같다. 분명히 한계가 있는 기술이다. 그렇다고 쓸모없는 기술도 아니다. 1장에서 말한 상한선과 하한선을 현실적으로 파악하면 된다.
성공은 한 번만 하면 된다. 그러니까 실패를 여러 번 하더라도 괜찮다.
어려운 부분을 AI가 굉장히 잘 보충해 주는 시대다. 결국은 한 곳을 딱 찍어서 그거 하나를 뚫으면, 인생을 쫙 뚫고 나갈 수 있다는 마음으로 집중하는 마음가짐과 정신력을 갖추면 좋겠다고 말하며 강연을 마친다.
| 말 | 뜻 | 어디서 |
|---|---|---|
| 알파고 / 챗GPT | 2016년 바둑 AI / 2022년 대화형 AI. AI 충격의 두 시작점 | 0-1 |
| LLM | 글을 학습해 다음 말을 확률적으로 예측하는 거대 언어모델 | 0-2 |
| 컨텍스트 윈도우 | AI가 한 번에 기억·참고하는 범위 | 0-3 |
| 리트코드 | 코딩 실력을 재는 문제 모음 사이트 | 0-4 |
| 탑다운 / 바텀업 | 전체부터 내려가기 / 기초부터 올라가기 | 0-5 |
| 바이브 코딩 | AI에게 말로 시켜서 코드를 완성하는 방식 | 0-6 |
| 할루시네이션 | AI가 사실이 아닌 것을 그럴듯하게 지어내는 현상 | 1장 |
| 발산적 사고 | 하나로 좁히지 않고 다양한 아이디어를 널리 내놓는 사고 | 2장 |
| 파이토치 | AI 모델을 만들 때 쓰는 프로그래밍 도구 | 6장 |
1장의 "시니어·주니어 일자리 그래프"는 발표자가 화면에 띄워 보여준 것으로, 자막에는 어느 기관·연구의 그래프인지 이름이 나오지 않는다. 가장 비슷한 실제 연구는 스탠포드 디지털경제연구소(Stanford Digital Economy Lab)가 ADP Research와 함께 낸 "Canaries in the Coal Mine?" 보고서다. AI 노출도가 높은 직군에서 22~25세 초년 노동자의 고용이 챗GPT 등장 이후 줄어드는 흐름을 ADP 급여 데이터로 추적한 연구인데, 코로나19 이후·챗GPT 이후로 나뉘는 시점, 시니어와 주니어가 갈리는 모양이 영상 속 설명과 잘 맞아떨어진다. 다만 영상이 이 보고서 이름을 직접 언급하지는 않으므로, 화면 속 그래프가 정확히 이 보고서에서 나온 것인지는 확인하지 못했다. 이 문단 자체가 영상에 없는, 이 글이 덧붙인 참고 정보다.
그 밖의 수치(리트코드 600개, "3년" 등)는 발표자가 감으로 제시한 어림수이고, 별도로 검증되지 않았다.
| 자막에 찍힌 것 | 추정 | 확인 방법 |
|---|---|---|
| "오픈 클로" | 불확실. 오픈소스 AI 에이전트 도구를 가리키는 것으로 보이나 특정하지 못함 | 원본 영상 06:53 부근 육성 확인 필요 |
| "시불" | CUDA(엔비디아의 GPU 프로그래밍 도구)로 추정 | 원본 영상 13:02 부근 육성 확인 필요 |
_정보.tsv의 채널 정보로만 확인된다이 영상은 한국어로 진행된 라이브 강연이고, 유튜브가 만든 한국어 자동 자막이 정상적으로 붙어 있었다. "트위터·오픈아이"처럼 외래어만 남고 나머지가 비는 문제(CLAUDE.md 3번이 경고하는 경우)는 없었다. 그래서 별도로 원본 출처를 찾거나 다른 언어 자막을 대신 쓸 필요가 없었다.