LLM
LLM 로컬 모델 양자화가 뭔소리인가?
양자화는 머신러닝, 특히 딥러닝 분야에서 사용되는 모델 압축 기술 중 하나입니다. 모델의 가중치(weight)를 표현하는 데 사용되는 비트 수를 줄여서 모델의 크기를 감소시키는 방법입니다. 일반적으로 딥러닝…
EXPLORE THE JOURNAL
LLM(대규모 언어 모델)에 관련한 Ai 정보
양자화는 머신러닝, 특히 딥러닝 분야에서 사용되는 모델 압축 기술 중 하나입니다. 모델의 가중치(weight)를 표현하는 데 사용되는 비트 수를 줄여서 모델의 크기를 감소시키는 방법입니다. 일반적으로 딥러닝…
LLM(Large Language Model)은 방대한 양의 텍스트 데이터를 학습하여 만들어진 인공지능 언어 모델입니다. 이 모델은 GPT-3, BERT, T5 등 다양한 종류가 있으며, 사용자의 입력에 따라 인간과…