교육과정AI 개발·에이전트

LoRA 파인튜닝 입문

파인튜닝이 필요한 경우를 가려내고, 학습 데이터부터 평가까지 한 바퀴 돌려봅니다.

결과물 · 직접 만든 소규모 학습 데이터셋과 LoRA 어댑터, 학습 전후 비교 평가 결과, 재학습 판단 기준서#파인튜닝#LoRA#QLoRA#학습데이터#모델평가

교육 대상

  • 공개 모델을 다뤄본 경험이 있는 개발자
  • 기관 특화 응답 품질을 개선해야 하는 AI 담당자
  • 외주 파인튜닝 결과를 검수해야 하는 정보화 담당자

학습 목표

  • 프롬프트 조정, 검색 연결, 파인튜닝 중 무엇이 맞는 문제인지 판별합니다.
  • 목적에 맞는 소규모 학습 데이터셋을 설계하고 정제합니다.
  • 제한된 GPU 환경에서 LoRA와 QLoRA로 학습을 실행합니다.
  • 학습 전후를 같은 평가셋으로 비교해 배포 여부를 판단합니다.

커리큘럼

1일차 · DAY 1
1일차 1교시
140
파인튜닝이 답인 경우 가려내기
응답이 틀리는 원인을 지식 부족, 형식 불일치, 지시 이해 실패로 나눕니다. 원인별로 프롬프트 조정, 검색 연결, 파인튜닝 중 무엇이 맞는지 비교합니다. 담당 업무의 개선 과제를 적어 파인튜닝이 필요한 항목만 남깁니다.
1일차 2교시
140
학습 데이터셋 설계와 정제
지시와 응답 형식을 정하고 소량의 예시를 직접 작성합니다. 중복, 상충하는 답, 개인정보가 섞인 항목을 걸러내는 점검을 진행합니다. 학습용과 평가용을 나눠 같은 데이터로 채점하는 문제를 피합니다.
1일차 3교시
140
LoRA 학습 실행
공개 모델에 LoRA 어댑터를 붙여 학습을 실행합니다. 학습률과 반복 횟수를 바꿔 손실 곡선이 어떻게 달라지는지 확인합니다. 과하게 학습된 상태에서 나타나는 응답 특징을 직접 관찰합니다.
2일차 · DAY 2
2일차 1교시
140
자원 제약과 QLoRA
메모리가 부족한 환경에서 양자화를 적용해 학습을 시도합니다. 배치 크기와 누적 설정으로 자원 한계를 다루는 방법을 확인합니다. 학습 시간과 품질의 교환 관계를 기록해 현실적인 설정을 정합니다.
2일차 2교시
140
평가셋으로 변화 확인
학습에 쓰지 않은 평가셋으로 학습 전후 응답을 나란히 비교합니다. 형식 준수, 사실 오류, 거부 응답을 항목으로 나눠 채점합니다. 기존에 잘하던 과제가 나빠지지 않았는지 함께 확인합니다.
2일차 3교시
140
배포 판단과 재학습 주기
평가 결과를 근거로 배포할지, 데이터를 더 모을지 결정합니다. 어댑터 버전과 학습 데이터를 함께 관리하는 방식을 정합니다. 재학습을 다시 검토할 조건을 기준서로 정리하고 조별로 발표합니다.

총 14시간(840분) — 모듈 840분

교육 문의카카오톡 문의02-533-4770