GPT-3

GPT-3는 2020년 OpenAI가 공개한 175B(1,750억) 파라미터 모델 — GPT-2보다 100배 큰 규모예요.

가장 큰 발견은 'in-context learning(맥락 내 학습)'이에요. 모델을 다시 학습시키지 않고, 그냥 프롬프트(질문) 안에 몇 개 예시만 보여주면 새 작업을 해냅니다. 예를 들어 '영어: hello → 한국어: 안녕' 같은 예시 3개 보여주면, 다음부터 그 패턴대로 번역하는 식이죠.

비유하자면 — 시험 직전에 예제 문제 몇 개만 보여줘도, 처음 보는 문제를 풀어내는 학생 같은 모델이에요. 이를 'few-shot learning'이라고도 합니다.

이 능력은 '프롬프트 엔지니어링'이라는 새 분야를 만들었어요. 코드 짜기, 글 쓰기, 분석 — 별도 모델 학습 없이 '어떻게 물어보느냐'만으로 결과를 바꿀 수 있게 됐죠. ChatGPT의 직접적인 전신이고, 'AI 도구로서의 LLM'을 대중에게 처음 알린 모델입니다.