LLM

평가지표

봄프로 2024. 1. 19. 10:31
  1. 유용성: 질문에 대해 도움이 되는 데이터
  2. 안전성: 안전한 대답과 그렇지 않은 대답 데이터

 

torch.no_grad()
  • gradient 계산 context 비활성화 함수
  • pytorch의 autograd engine 비활성화시켜 더이상 gradient 트래킹 X
  • 필요한 메모리 감소 및 연산속도 증가