다음 토큰 예측이란?

💬 한 줄 정리

AI(LLM)는 지금까지 쓰인 텍스트를 보고, "다음에 올 가능성이 가장 높은 토큰"을 확률로 계산한 뒤 하나를 골라 이어 붙여요. 그리고 그렇게 만들어진 새 문장을 다시 입력 삼아, 또 다음 토큰을 예측하는 과정을 계속 반복해서 문장 전체를 완성해요. 실제로는 매 단계마다 수만 개의 후보 토큰 중에서 확률을 계산하지만, 여기서는 이해를 돕기 위해 3개 후보만 보여드렸어요.

⚠ 후보 단어와 확률(%)은 실제 모델 출력이 아니라, 이해를 돕기 위해 미리 준비한 예시 수치예요.

🧾 이 페이지, 이런 프롬프트로 만들었어요

아래 프롬프트를 복사해서 Claude·ChatGPT(GPT)·Gemini 어디에든 붙여넣고 직접 시도해보세요.

"다음 토큰 예측" 개념을 체험시켜주는 단일 HTML 페이지를 만들어줘.

- "오늘 점심에는"으로 시작하는 문장을 화면에 보여주고
- 그 아래에 다음에 이어질 단어(또는 구절) 후보 3개를 확률 막대와 함께 보여줘
- 후보를 클릭하면 그 단어가 문장 뒤에 이어 붙고, 다음 단계의 새로운 후보 3개가 나타나게 해줘
  (총 4단계 정도 반복해서 문장이 완성되도록, 후보와 확률은 미리 정해둔 예시 데이터 사용)
- "처음부터 다시" 버튼으로 문장을 초기화
- 마지막에 다음 토큰 예측이 무엇인지, 이게 어떻게 문장 생성으로 이어지는지 한 문단으로 설명해줘
- CSS·JS 전부 인라인으로 넣은 단일 HTML 파일로, 한국어로 출력해줘

🔮 다음 토큰 예측이란?

💬 한 줄 정리

🧾 이 페이지, 이런 프롬프트로 만들었어요