콘텐츠로 이동

2. 공통 운영 시나리오

이 과정의 공통 시나리오는 후보 모델을 실제 서비스에 배포해도 되는지 확인하는 상황입니다. 생체신호 기반 위험 알림 API는 현재 기준 모델로 운영되고 있고, 새 학습 결과가 MLflow에 기록되었습니다. 수강생은 이 모델을 바로 운영에 올리지 않고, 데이터 검증, 모델 지표, 배포 파일, endpoint 응답, 로그와 메트릭을 차례로 확인합니다.

핵심 질문은 단순합니다. “이 모델을 배포해도 되는가, 아니면 보류하고 무엇을 더 확인해야 하는가”입니다.

2-1. 시나리오 개요

후보 모델은 일부 지표에서 좋아 보이지만 바로 배포하기에는 확인할 항목이 남아 있습니다. Precision은 좋아졌지만 Recall과 error rate는 기준을 만족하지 못할 수 있고, 운영 입력에서는 high_risk 예측 비율이 크게 움직입니다.

항목 기준 모델 후보 모델 해석
Precision 0.6400 0.7100 후보 모델이 오탐을 줄인 후보로 보임
Recall 0.6100 0.5926 관심 클래스를 놓칠 위험이 남음
Error rate 0.0417 0.0667 운영 안정성 기준 확인 필요
평균 latency 210ms 224ms 기준 안에 있지만 여유 확인 필요
high_risk 예측 비율 0.2167 0.4583 입력 구성 변화나 threshold 적용 확인 필요

이 표는 결론이 아닙니다. Precision만 보면 후보 모델이 좋아 보이지만, Recall과 error rate는 배포 보류 근거가 될 수 있습니다. high_risk 예측 비율이 크게 움직였으므로 데이터 검증 결과와 운영 입력 분포를 다시 봐야 합니다.

2-2. 확인 순서

확인 순서는 복잡하지 않습니다. 데이터가 평가 가능한지 보고, 모델 지표를 확인하고, 배포 파일을 확인하고, endpoint 응답과 로그를 확인한 뒤 최종 판단을 씁니다.

데이터 검증
→ 모델 지표와 MLflow 기록
→ Docker 실행 환경
→ Argo CD 배포 파일
→ KServe endpoint 상태
→ 응답, 로그, 메트릭
→ 배포/보류 판단

이 순서를 지키면 도구 이름이 많아져도 핵심이 흐려지지 않습니다. 수강생은 “무슨 도구를 썼는가”보다 “무엇을 확인했고 어디까지 말할 수 있는가”를 남깁니다.

2-3. 아직 결론으로 쓰지 않는 것

초기 관측값만으로는 모델 자체가 좋아졌거나 나빠졌다고 단정하지 않습니다. 같은 high_risk 예측 증가도 입력 데이터 변화, threshold 설정, 모델 버전 변경, API 검증 실패, 운영 요청 구성 변화에서 생길 수 있습니다.

아직 쓰면 안 되는 결론 더 확인할 것
후보 모델이 기준 모델보다 운영에 적합하다 Precision 외에 Recall, error rate, latency, 데이터 검증 제한
KServe manifest가 있으므로 endpoint 품질이 충분하다 KServe Ready, endpoint 응답, 로그와 메트릭
Argo CD sync가 성공했으므로 배포 판단이 끝났다 실제 응답 필드와 운영 관측 결과
기능 테스트가 통과했으므로 배포 가능하다 모델 지표, 데이터 검증, endpoint 확인, 되돌림 기준

이 표의 목적은 판단을 늦추는 것이 아닙니다. 근거 없는 확신을 막고, 확인한 범위 안에서만 말하게 하는 것입니다.

2-4. 장별 확인 역할

각 장은 같은 배포 판단을 다른 자료로 확인합니다. 1장은 데이터의 기본 구조를 이해하고, 2장은 데이터 검증과 모델 지표를 기록합니다. 3장은 모델을 MLflow, Argo CD, KServe 배포 단위로 연결하고, 4장은 배포된 endpoint에서 나오는 운영 신호를 봅니다. 5장은 이 모든 확인 결과를 배포 판단으로 묶습니다.

확인 자료 판단 역할 다음 질문
1장 기준 데이터, label, feature, 데이터 품질 리포트 평가를 시작할 데이터 조건 확인 모델 지표를 계산해도 되는가
2장 Great Expectations 산출물, 평가 artifact, MLflow run 모델 지표가 어떤 데이터 조건과 threshold에서 나왔는지 확인 이 모델을 어떻게 배포 단위로 만들 것인가
3장 MLflow Model, Argo CD Application, KServe manifest 모델이 endpoint로 이어지는 배포 경로 확인 배포 후 응답 필드는 남는가
4장 JSONL log, Prometheus metric, Loki/Grafana 예시 endpoint의 오류, 지연, 검증 실패, score/prediction 분포 확인 이 신호로 배포/보류 판단을 쓸 수 있는가
5장 release_approval.md, quality_issue_trace.md, checklist 승인, 보류, 되돌림, 재평가 조건 결정 최종 보고서에 무엇을 남길 것인가

이 표는 강의 주제를 나열한 것이 아닙니다. 같은 모델 배포 판단을 단계별로 확인하는 지도입니다.

2-5. 문서에서 인용하는 방식

각 장에서는 이 시나리오를 원인 확정 근거처럼 쓰지 않습니다. “이 장에서 어떤 확인을 하는가”로 참조합니다.

문서에서 쓰는 방식
1장 데이터 구조와 라벨 기준을 먼저 확인합니다.
2장 모델 평가 지표를 인용하기 전에 Great Expectations 검증 결과와 MLflow run 조건을 확인합니다.
3장 모델을 MLflow Model, Argo CD Application, KServe InferenceService 단위로 배포할 수 있는지 확인합니다.
4장 배포된 endpoint가 응답, 로그, 메트릭을 남기는지 확인합니다.
5장 모델을 운영에 올릴지, 보류할지, 되돌림 조건을 붙일지 정리합니다.

이 표현을 지키면 수강생은 “모델이 문제다”처럼 빨리 결론내리지 않습니다. 확인한 자료와 아직 모르는 항목을 분리해서 보고할 수 있습니다.