GPT-1

Generative Pre Training of a language model

GPT-1은 OpenAI가 개발한 첫 번째 인공지능 모델이다.

• GPT-1은 2017년에 나온 Transformer 아키텍쳐를 기반으로 만들어졌다.

명칭의 의미

언어 모델

Language Model

사람의 언어를 이해하는 모델

• 자연어 데이터만(백과사전 등)으로 학습 가능
  • 즉 별도로 라벨링된 데이터가 필요하지 않음

생산적 모델

Generative Model

사전 학습

Pre Training Model

주요 분야

• 자연어 유추
• 질의 응답
• 문장 의미 유사도 판단
• 분류