모델 최적화 기법들

최근 AI 분야의 핵심은 단순히 큰 모델을 만드는 것이 아니라, *어떻게 하면 적은 비용으로 효율적으로 모델을 개선하고(파인튜닝), 그 결과를 어떻게 객관적으로 검증할 것인가(평가방법)'에 모여 있습니다. 이미지의 내용을 바탕으로 그 핵심 기술들을 하나씩 파헤쳐 보겠습니다.

 

 

1. 모델 최적화 기법들

모델 전체를 다시 학습시키는 것은 엄청난 비용과 시간이 듭니다. 이를 해결하기 위한 기술들이 이미지 왼쪽에 나열되어 있습니다.

① PEFT (Parameter-Efficient Fine-Tuning)

모든 파라미터를 건드리지 않고, 일부 파라미터만 학습시켜 성능을 최적화하는 기법입니다.

• LoRA (Low-Rank Adaptation): 이미지 하단에 복잡한 수식과 함께 그려진 부분입니다. 기존 가중치(Weight)는 그대로 두고, 아주 작은 크기의 행렬(Low-rank matrices)만 추가하여 학습시킵니다. "전체 모델을 다 바꾸지 말고, 옆에 작은 메모장 하나 달아서 필요한 것만 적어라"는 개념으로 이해하면 쉽습니다.
• Adapter: 모델의 레이어 사이에 아주 작은 '어댑터' 층을 끼워 넣어 그 부분만 학습시키는 방식입니다.

② Quantization (양자화)

모델의 무게를 줄이는 '다이어트' 기술입니다.

• 보통 모델은 숫자를 표현할 때 16비트나 32비트를 사용하지만, 이를 **4비트(INT4)나 8비트(INT8)**로 압축합니다.
• 이미지 중앙의 막대그래프는 비트 수가 줄어듦에 따라 메모리 점유율이 획기적으로 낮아지는 과정을 보여줍니다. 이를 통해 일반 소비자용 그래픽카드에서도 거대 모델을 돌릴 수 있게 됩니다.

③ RAG (Retrieval-Augmented Generation)

모델의 머릿속 지식(파라미터)에만 의존하지 않고, 외부 문서(Vector DB)에서 관련 정보를 검색해와서 답변하는 방식입니다.

• 장점: 할루시네이션(환각 현상)을 줄이고, 최신 정보나 기업 내부 데이터를 실시간으로 반영할 수 있습니다.
• 이미지 속 'Basic RAG Pipeline'은 정보를 '색인(Index) - 검색(Retrieve) - 생성(Generate)'하는 일련의 과정을 설명하고 있습니다.

 

2. 모델의 실력을 검증하라, 평가 방법 (Evaluation)

학습시킨 모델이 정말 똑똑해졌는지 확인하는 것은 매우 어렵습니다. 이미지 오른쪽은 이를 위한 두 가지 주류 방법을 제시합니다.

① Benchmark (벤치마크)

이미 정해진 시험 문제 세트(Dataset)를 풀게 하여 점수를 매기는 방식입니다.

• Hugging Face(HF): 이미지 속 캡처 화면처럼 허깅페이스 리더보드는 전 세계 모델들의 성적표 역할을 합니다.
• MMLU, GSM8K 같은 표준화된 데이터셋을 통해 모델의 논리력, 수학 능력, 상식 등을 객관적인 수치로 비교합니다.

② LLM-as-a-judge (판사로서의 LLM)

객관식 문제만으로는 모델의 '말투'나 '창의성'을 평가하기 어렵습니다. 그래서 GPT-4와 같은 강력한 모델이 다른 모델의 답변을 채점하게 만드는 방식입니다.

• Human Alignment: 사람이 직접 채점하는 것(RLHF 등)이 가장 정확하지만 너무 비싸고 느립니다. 이를 LLM이 대신 수행하여 "이 답변은 정중한가?", "질문의 의도에 맞는가?" 등을 평가합니다.
• 이미지 하단의 'LLM-as-a-judge' 수식과 화살표는 사람이 기준을 세우고 고성능 AI가 그 기준에 맞춰 결과물을 정량화하는 과정을 나타냅니다.

 

💡 마치며: 어떤 전략을 선택해야 할까?

이 그림은 결국 "성능과 효율의 균형*을 말하고 있습니다.

1. 돈이 없다면? → PEFT(LoRA) + Quantization
2. 정확한 정보가 필요하다면? → RAG
3. 성능을 확인하고 싶다면? → Benchmark로 기초 체력을 보고, LLM-as-a-judge로 디테일을 잡는다.

이 기술들을 적재적소에 조합하는 것이 바로 현재 AI 엔지니어링의 정수라고 할 수 있습니다.