ML Process

• Research

  • ML의 큰 프로세스
    • 문제정의
    • EDA
    • Feature 생성
    • 모델 학습
    • 예측
  • 특징
    • local 또는 서버에서 실행
    • 고정된 데이터를 활용한 학습

• Production

  • ML 모델을 실제 서비스화하는 과정 - 모바일 웹 서비스, 웹 서비스에서 모델을 사용한 예측
    • 모델 배포 및 롤백 가능
    • Input data가 학습할 당시와 동일한 형태로 들어오는지 확인
    • 모델 성능 지속 cheack (Research에서 진행 한 결과와 차이 발생 가능)
    • Research에서 만든 Feature가 사실상 실제 서비스에서는 사용 불가할 수 있음
  • 즉, Production에서는 머신러닝은 모델 개발과 모델 운영으로 분할됨
    • 모델 운영에서 고려할 부분이 많음 - 버그, 기능 개발, ...

• Issue List

  • 각자의 방법을 통한 진행 상황 추적, 성능 확인 진행
  • 데이터의 복잡도 증가
  • 선호 프레임워크가 다름
  • 모델 배포의 Serving의 어려움
  • 문제점 추적 힘듬

• 머신러닝 코드는 머신러닝 시스템 중 작은 일부분

ML + Ops = MLOps (ML Development + ML Operations)

• 모델 개발과 모델 운영 Workflow의 간극을 줄이기 위한 분야
• Modle Development와 Model Prediction

• Goal of MLOps

  • 모델 개발과 모델 운영의 문제 반복 최소화를 통해 비즈니스 가치 창출
  • 안정된 인프라를 통해 자동 운영을 통한 모델링에 집중
  • 적은 Risk로 Production까지 진행할 수 있도록 기술적 마찰 최소화

• Reproducibiltiy

  • Research 단계에서 만든 모델이 Production 환경에서도 재현되어야 함
  • 학습 데이터와 Production 환경 데이터는 유사한 분포를 가져야 함

• Orchestration

  • 서비스의 자동화된 설정, 관리, 조정 등
  • 많은 요청이 발생하는 경우 서버 증설

• 데이터 직군의 Task

  • Data Scientist
    • 모델 개발
  • Data Engineer
    • 데이터 pipeline 개발
  • MLOps Engineer
    • 모델, 데이터 pipeline 및 Production 부분 담당