전체 글 175

[CKS] PART4 Image 공급망과 Runtime 보안 -마지막

무엇이 들어왔는지 확인하고 돌고 있는 것을 지켜봄배포 전에 Image 출처를 확인하는 관문🔑Cluster에 들어오는 것을 입구에서 거름— 배포된 뒤 발견하면 이미 실행 중이므로 통제 시점을 앞으로 당겨야 함Image가 Cluster에 들어오기까지Build (Image를 만들고 서명함)---> Registry 검사 (취약점을 미리 확인함)---> Admission 판정 (규칙에 맞는지 봄. 단, 규칙에 어긋나면 여기서 거절되고 실행되기 전에 막히는 지점임)---> 배포 (통과한 것만 실행됨) 출처를 제한함승인된 Registry에서 온 Image만 허용함서명을 확인해 중간에 바뀌지 않았는지 검증함Public Registry 를 직접 참조 하지 않게 됨Pipeline에 연결함검사 결과를 배포 Pipeline..

DevOps/k8s 2026.11.16

[CKS] PART3 Container 실행 권한을 좁히는 통제

Container가 할 수 있는 일을 줄여 공격 경로를 막음. Container 권한 상승을 막는 실행 제약🔑Kernel을 함께 쓰므로 탈출 한 번이 Node 전체로 이어짐— 논리 경계만 세우면 실제 신뢰 경계와 어긋남막지 않았을 때의 경로Container 하나가 침해됨----> Root로 실행 중이라 kernel 기능에 접근 ----> Node 전체와 그 위 다른 Container까지 확보강제하는 방법각 Workload가 알아서 지키기를 기대하지 않고, Admission 단계에서 어긋나는 Workload를 거절하도록 규칙을 검PART2에서 본 Admission Control이 여기서 쓰임.도입 순서먼저 경고만 내는 Mode로 걸어 어느 Workload가 걸리는지 확인하고, 고친 뒤에 거절 모드로 전환..

DevOps/k8s 2026.11.16

[CKS] PART2 누가 무엇을 할 수 있는지 정하는 접근 제어

권한을 넘기고 그 사용을 기록으로 남기는 방법을 봄 Cluster Admin이 손을 떼기 위해 넘기는 RBAC 권한🔑기본 관리자 역할은 무엇이든 가능— 권한을 깎은 Role을 만들고 Namespace 관리 권한을 Team Product에 넘겨야 책임이 실제로 행동 권한이 붙는 방식Role -------→ RoleBinding --------→ User Role의 유효 범위는 Namespace 하나 Cluster 전체에 걸리면 별도의 Cluster 범위 역할이 필요Role무엇을 할 수 있는가?Deployment 생성Secret 조회PersistentVolumeClaim 삭제RoleBinding누구에게 줄지User또는 Service Account 권한이 넘기는 방향Cluster(Team-Admin) --..

DevOps/k8s 2026.11.16

[CKS] PART1 보안 경계를 나누는 층

무엇을 어디까지 지켜야 하는지 층으로 갈라봄CloudNative Security의 4C Model💡Container Security 바깥 층이 뚫리면 안쪽도 위험네 층을 겹겹이 지켜야 성립하는 모델Cloud : Cluster를 Deploy하는 Cloud 서비스의 기반Cluster: Container를 Manage/Operate하는 Container orchestrator용 다양한 구성요소 포함Container : Code를 포함하고 Cluster에서 실행되는 Container 안의 Application을 실행하기 위한 라이브러리 포함Code : Container에 포함된 Application안의 Code 1️⃣신뢰의 전제안쪽 층의 보안은 바깥 층이 안전하다는 가정 위에서만 성립2️⃣강화 순서Cloud..

DevOps/k8s 2026.11.16

[MLOps] MinIO 파일 감지 자동화: Airflow S3 센서로 Ray Serve를 실행하는 완벽 가이드

이전 포스팅에 이어서 Airflow + MinIO + Ray Serve를 하나의 Pipeline으로 연결해,“카메라 이미지 업로드 → S3KeySensor 감지 → Ray 추론 호출”이자동으로 이어지는 end-to end 흐름을 완성해보려고 합니다. 단계별로 진행하면,MinIO 초기화 (버킷 생성) →Airflow DAG 추가 (S3KeySensor → Ray Serve) →Airflow와 MinIO 연결 설정 →실제 업로드 트리거와 DAG 실행 확인 까지 하나의 자동화된 Data Flow를 직접 볼 수 있습니다. 이 시리즈의 목적은 “Local 환경에서 Hybrid MLOps Pipeline이실제로 어떻게 동작하는지”를 보여주는 거예요.실제 카메라 이미지 대신 https://picsum.photos ..

DevOps 2025.10.31

[MLOps] Hybrid Demo : GPU Inference → Metrics → Grafana Dashboard 실시간 연결하기

이번 글에서는 Ray Serve + FastAPI로 GPU 기반 추론 API를 띄우고,이 서비스의 /metrics를 Prometheus + Grafana로 수집/시각화하는 과정을 정리했습니다.Ray Serve의 actor 기반 구조를 활용해 GPU 리소스를 관리하고,FastAPI end-point로 요청 → 추론 결과 → 평균 지연 시간까지관측 가능한 end-to-end Pipeline을 구축했습니다. 주요 구성요소Ray ServeGPU inference serving frameworkFastAPIREST API endpoint 제공Prometheus/metrics 스크레이프 및 시계열 데이터 수집Grafana요청 수 / 평균 지연 시각화 대시보드Docker Compose모든 스택을 컨테이너 단일 커맨드..

DevOps 2025.10.31

[MLOps] hybird-mlops-demo 실행 순서 feat. 자꾸 까먹어서 내가보려고 작성한 글

0) Windows 쪽Docker Desktop 실행(필요시) Settings → Resources → WSL Integration (Ubuntu-22.04 ON) / GPU Enabled 확인오른쪽 하단 고래 아이콘이 Running 인지 확인WSL(Ubuntu) 터미널 열기wsl.exe WSL(Ubuntu) 터미널 열기wsl.exe 공통 점검Docker 연결 Ok??docker version GPU OK?!! (CUDA11.6 이미지)docker run --rm --gpus all nvidia/cuda:11.6.2-base-ubuntu20.04 nvidia-smi 둘 다 정상 출력이면 다음 단계로 진행 1) Repository 최신화 + 작업 Branch 재개clone한 dir로 이동cd ~/hyb..

DevOps 2025.10.28

[MLOps]Ray Serve GPU 자동 감지 + Dockerize + Compose

0) 준비Local Clone· dev Branch 생성 · Rulset Setting# 원하는 작업 디렉토리에서git clone cd hybrid-mlops-demo# 원격 브랜치 확인git branch -r# main 최신화 & 로컬 dev 브랜치 생성git checkout maingit pull origin maingit checkout -b devgit push -u origin dev# 추천: 기본 브랜치 보호(웹에서 설정). 로컬에선 실수 방지용 pre-commit hook 설정mkdir -p .githookscat > .githooks/pre-commit &2 exit 1fiSHchmod +x .githooks/pre-commitgit config core.hooksPath .githook..

DevOps 2025.10.27

[MlOps]Observability 맛보기: FastAPI·Ray Log를 Local에서 살펴보기

ML 애플리케이션을 만들 때 “잘 동작하는가?”만큼 중요한 게 바로 “어떻게 동작하고 있는가?” 입니다.이번 단계에서는 서비스의 내부 상태를 들여다보기 위한 첫걸음으로,FastAPI와 Ray Serve의 로그를 로컬에서 직접 관찰(Observability) 해보겠습니다. 우선 복잡한 모니터링 스택(Grafana, Loki, Tempo)을 붙이기 전,가장 간단한 방식인 uvicorn Log 를 이용한 Local 실습부터 시작합니다.!이 과정을 통해 App이 요청을 어떻게 처리하고,어떤 순서로 Log를 남기는지 직접 눈으로 확인할 수 있습니다. 0) 초기화 (이전에 계속 실패했던 ray 깔끔히 정리)# 포트/프로세스 정리ray stop --force 2>/dev/null || truefuser -k 80..

DevOps 2025.10.26

[MlOps] Airflow 학습 DAG부터 Ray Serve 추론, Minikube까지

학습 DAG 만들기 Airflow와 MLflow가 준비됐다면 이제 학습 Pipeline을 하나 만들어보겠습니다.이 DAG은 Airflow가 실행하는 단일 Python Task로,MLflow에 학습 Log를 남기고 임의의 정확도를 기록합니다. ~/hybrid-mlops-demo/airflow/dags/train_pipeline.pycat > ~/hybrid-mlops-demo/airflow/dags/train_pipeline.py 실행 방법Airflow Web UI 접속 http://localhost:8080 (ID/PW : airflow / airflow)train_pipeline DAG 활성화 → Trigger 클릭 “클라우드 추론” 시뮬레이터 — Ray Serve이번에는 추론 API Serv..

DevOps 2025.10.26