LLM

Attention

봄프로 2024. 1. 22. 00:17
  • Attention: 문맥에 따라 집중할 단어를 결정하는 방식
  • Encoder: input 압축 데이터(context vector)로 변환 및 출력
  • Decoder: 압축 데이터(context vector)를 입력받아 output data로 출력