단순히 딥시크뿐만 아니라 인간에도 적용되는 원리인 것 같아서 간단한 설명을 해보겠습니다. 아래에는 딥시크의 모든 설명을 포함하고 있지 않습니다. 중요한 부분만 추려낸 것입니다.

추론모델은 "생각의 생각(Chain of Thought)"을 하는 모델을 의미합니다. 반면 추론모델이 아닌 일반모델은 생각을 하지 않고 그냥 즉답을 합니다. 딥시크가 여기서 좋은 걸 발견했습니다. 매우 단순한 훈련을 시켰더니 일반모델(범재)이 추론모델(천재)로 변신하더라는 겁니다. 이때의 추론모델은 오픈AI에서도 비용이 많이 드는 터라 사용 가격이 비싼 고급 모델입니다. 

비유적으로만 설명하자면.. 책만 열심히 읽고 암기한 학생(일반모델)이 있다면 그는 어떤 질문에 대해 생각을 안 하고 즉답만을 단순히 합니다. 근데 어느 날부터 선생님이 이 학생에게 "생각을 하고 대답을 해라!"라고 단순히 명령을 합니다. 그리고 다양한 질문을 하면서 학생이 생각을 하고 답을 하면 보상을 줍니다. 이때 어떤, 무슨 생각을 했는지는 중요하지 않습니다. 단지 생각을 하고 답하는 게 핵심입니다. 이건 과장이 아닙니다. 실제로도 똑같이 시킵니다.

예를 들자면, "밥 먹었니?"라는 질문이 있을 때(실제로는 훨씬 복잡한 질문을 합니다. 이해를 돕고자 간단한 예시를 만들었습니다.)

1) 일반모델: "응, 먹었어"

2) 추론모델:<생각 시작> 왜 물어보는 걸까? 내가 배고파보였나? 혹시 인사하는 걸까? 내가 방금 들어왔으니깐 인사치레인가? <생각 종료> "응, 먹었어, 너도 먹었니?"

라는 식입니다.

언급한 바와 같이 <생각시작>..<생각종료> 사이에 어떤, 무슨 생각을 했는지는 평가하지 않습니다. 단순히 생각을 하라고만 시키고 "<생각시작>.. 내용.. <생각종료>"라는 "형식"을 지키기만 하면 보상(양의 피드백)을 줍니다.(개라면 먹이를 주어 이 행동을 강화) 그리고 물론 좋은 대답(정답)을 했다면 또 보상을 줍니다. 딥시크는 이 단순한 두 가지 보상훈련만 시켜서 놀라운 결과를 만들어낸 겁니다.

이 훈련을 수천번 정도를 하면 초반에는 무의미한 생각(심지어 외계어)을 하다가 어느 순간 부터 "아하 순간(aha moment)"이 발생하고, 이후에는 굉장히 높은 수준의 생각을 하더라는 게 딥시크의 연구 성과입니다. 보통 언어모델 바닥에서 "수천번"의 훈련양은 굉장히 적은 양입니다. 보통은 몇백만, 몇억번이기 때문입니다. 이게 오픈AI가 내부적으로만 숨기던 방법인데, 이걸 딥시크가 스스로 찾아내어 공개했다는 게 이번의 성과입니다.

이 방법이 알려지기 전에는 과학자들이 언어모델에 구체적인 생각법을 책으로 알려주는 방법을 쓰거나 일일히 사람이 직접 평가를 해야한다고(이게 돈이 많이 듭니다. 처음엔 케냐인을 동원, 나중엔 각 분야의 전문가를 동원) 생각했는데, 그걸 초월한 겁니다. 알고보니 별거 없었습니다. 정말 단순히 그냥 생각을 하라고 시키기만 하면 되는 거였습니다. 다시 말하지만, 좋은 생각을 하는 방법을 가르쳐준게 아니라 그냥 생각을 하라고만 시켰을 뿐입니다. 

물론 이 방법은 딥시크가 훈련 비용을 줄이면서도 성능 향상을 동시에 하는 것에도 큰 영향을 주었습니다. 보통 모델의 크기를 줄이면 성능도 줄어드는데, 이 방법을 쓰면 모델의 크기를 줄이고도 성능 하락을 최소화(혹은 향상)할 수 있기 때문입니다. 

근데 이게 왜 될까요? 그 이유는 모델이 훈련하는 "생각의 생각"이 "보통 지식(드러난)"이 아니라 "연결 지식(숨은)"이기 때문입니다. 그리고 그걸 추정하도록 훈련을 시켰을 때 적은 연산량으로도 좋은 성과를 냅니다. 저도 사람으로서 비슷한 경험을 한 바, 이 방법이 먹힌다는 것을 알고 있습니다. 특별한 생각을 하는 사람이 있는 게 아니라 생각할 시간을 내는 사람이 좋은 생각을 합니다.

과거에 샘 알트먼이 내부의 수석 엔지니어(일리야 수츠케버)와 싸운 이후에 해당 엔지니어가 퇴사하였던 적이 있었습니다. 그 이후에 수석 엔지니어가 된 사람이 중국인인듯 한데, 딥시크가 R1을 발표한 직후에 X에 다음과 같이 트윗합니다. "DeepSeek이 O1 수준의 추론 모델을 만들어낸 것을 축하합니다! 그들의 연구 논문은 우리가 O1로 가는 과정에서 발견했던 핵심 아이디어 중 일부를 그들이 독립적으로 찾아냈음을 보여줍니다."라고 합니다. 인정한 거죠.(이 놈이 범인일 수도)

물론 아직까지는 딥시크가 제로베이스로 지식을 쌓아올리는 방법을 찾아내진 못 했습니다. 반드시 책을 졸라리 많이 읽은 일반모델이 선행되어야 합니다. 그리고 이게 돈이 많이 듭니다. 수천억(과장 아님)이상이죠. 앞으로는 제로베이스와 적은 양의 지식으로 시작하여 천재가 되는 방법을 찾아내게 될 것이며, 제 예상과는 다르게 1년 안에 성과가 나올 것으로 봅니다. 그리고 이미지나 동영상도 비슷한 방법으로 훈련을 시킬 수 있을 겁니다.

마지막으로 저는 이 방법론이 보통 사람에도 적용될 거라고 봅니다. 그냥 생각을 많이 하면 무조건 좋은 답을 할 수 있게된다는 거죠. 대부분 사람들은 생각을 아에 안 하기 때문입니다. 보통 사람과 천재는 생각을 얼마나 많이 하느냐에 따라 갈린다고 볼 수 있겠습니다. 예전에 어떤 드라마에서 선배작가가 후배작가한테 그러더군요. "글을 쓰고 읽고 고치고를 무조건 반복해, 그러면 무조건 좋아져"

그런데 이것은 흔히 말하는 천재가 되는 것은 또다른 영역입니다. 이 방법으로는 정답을 잘 맞출 수만 있고 일반인을 뛰어넘을 수는 없기 때문입니다. 그럼 어떻게 해야 할까요? 전 그게 사회를 구성하는 것이라고 봅니다. 천재는 결코 혼자 나오지 않기 때문입니다. 스스로 답을 찾는 것과 남을 초월하는 것은 다릅니다. 물론 이 원리가 생각의 생각과 크게 다르진 않습니다. 

첨부 이미지가 있는데, 해당 트윗 이미지입니다.