서로 다른 AI 모델을 지속적으로 학습·평가·배포·개선하는 하나의 운영 시스템을 오픈소스로 직접 만들어 보는 실습서입니다. 이미지 분류 딥러닝 모델과 오픈소스 LLM을 같은 플랫폼 위에서 데이터 관리부터 모니터링·재학습·롤백까지 운영합니다.

[이 책의 특징]

- 전 생명주기를 잇는 하나의 프로젝트: 도구 사용법을 나열하지 않고, 데이터 → 학습 → 평가 → 등록 → 배포 → 모니터링 → 재학습이 끊김 없이 이어지는 시스템을 완성합니다.
- 딥러닝 MLOps와 LLMOps를 나란히: 3~7장(딥러닝)과 8~11장(LLM)이 같은 운영 문제를 각각 어떻게 푸는지 비교하도록 설계했습니다.
- 로컬 Docker부터 시작: Kubernetes 없이 단일 서버와 Docker Compose로 전체 구조를 먼저 완성하고, 마지막 장에서 추론 서버를 Kubernetes(kind) 연습 클러스터에 올려 봅니다(Kubeflow·KServe는 참고로 소개).
- 안전한 자동화: 성능 저하를 감지해도 운영 모델을 바로 바꾸지 않고, 재학습 → 독립 평가 → 배포 승인 게이트를 거치는 지속적 학습(CT) 구조를 구현합니다.
- 실측 기반: 실행 명령과 실제 출력, 정확도·지연시간·처리량·GPU 메모리 같은 수치를 측정 조건과 함께 싣습니다.
- AI 에이전트 운영 자동화: MLOps 기본기를 갖춘 뒤, AI 코딩 에이전트로 파이프라인 생성·장애 분석·재학습 후보 추천을 실험합니다.

[대상 독자]

- 모델은 만들 수 있지만 실험을 재현 가능한 파이프라인과 운영 체계로 옮기고 싶은 AI 개발자·연구자
- LLM 파인튜닝·평가·서빙을 실제 서비스로 운영해야 하는 실무 엔지니어
- 클라우드 매니지드 서비스 없이 오픈소스로 사내 AI 운영 체계를 처음 구축하는 MLOps·플랫폼 엔지니어
- 개인 GPU(24GB급) 또는 CPU 노트북으로 MLOps 전 과정을 직접 따라 해 보고 싶은 학습자

선수 지식: Python 기초, PyTorch로 간단한 모델을 학습해 본 경험, Git·터미널 기본 사용법

[실습 환경]

- CPU 노트북 (RAM 16GB 이상): 1~7장 ? 데이터 관리, 학습, 배포, 파이프라인
- GPU 12GB급: 소형 LLM 파인튜닝·서빙
- GPU 24GB급 (RTX 3090 등): 8~12장 ? LoRA·QLoRA, 로컬 LLM 서빙 전체
- Kubernetes 연습 클러스터 (CPU PC 안의 kind): 14-4 ? 롤링 업데이트·롤백·자동 확장 (GPU 노드는 참고로 안내)

[핵심 오픈소스]

MLflow · DVC · ZenML · PyTorch · Hugging Face TRL / PEFT · vLLM · FastAPI · Docker · GitHub Actions · Prometheus / Grafana · Evidently

[예제 코드]

- https://github.com/ady95/mlops-tutorial (장별 디렉터리 ch02/ ~ ch14/로 제공, MIT 라이선스)

[AI 활용 집필 안내]

이 책은 Claude Code(AI)를 활용하여 작성되었습니다. 모든 설치·실습은 저자가 실제 서버(CPU 전용 PC, GPU 12GB, GPU 24GB)에서 직접 실행해 검증하며, 각 페이지 상단에 검증 상태와 기준 버전을 표시합니다. [검증]은 직접 실행해 확인한 내용, [참고]는 공식 문서 기준으로 정리한 내용입니다.

[참고 자료]

- MLflow: https://mlflow.org/docs/latest/
- DVC: https://doc.dvc.org/
- ZenML: https://docs.zenml.io/
- Hugging Face TRL: https://huggingface.co/docs/trl
- vLLM: https://docs.vllm.ai/