scdo 님의 블로그

1. AI 워크로드에 대한 컨테이너 사용머신러닝과 딥러닝이 기업의 핵심 전략으로 자리 잡으면서 데이터 과학자들은 점점 더 복잡하고 연산 집약적인 모델을 다루게 되었습니다. 이러한 모델을 학습시키거나 배포할 때는 막대한 계산 자원이 필요하며, 특히 GPU는 병렬 연산에 강점을 갖기 때문에 필수적인 선택지입니다.하지만 기존 GPU 사용 방식에는 여러 가지 한계가 존재했습니다.문제점설명환경 구성의 복잡성CUDA, cuDNN 등 복잡한 드라이버 스택 설치가 필요하며, 프레임워크마다 요구하는 버전이 달라 호환성 문제가 빈번하게 발생재현성 부족동일한 환경을 다른 시스템에서 구현하기 어려움리소스 비효율성GPU 리소스가 특정 프로젝트나 사용자에 고정되어 활용도가 낮은 편 (일반적으로 30% 미만 활용률)확장성 한계새로..

[AWS]/[EKS] 2025. 4. 20. 02:27

현재 Vault의 기본 구조와 설치, 그리고 Kubernetes 환경에서 Sidecar 패턴으로 Vault를 연동하는 부분까지 학습을 마쳤습니다.이를 기반으로 이제 실제 CI/CD 파이프라인과 Kubernetes 환경에서 Vault를 활용하는 실습을 진행하려고 합니다. 최종적으로 Jenkins를 통한 CI, Argo CD를 통한 CD, 그리고 Vault Secrets Operator를 통한 Kubernetes 환경의 시크릿 관리까지 모두 Vault와 연계하여 일관성 있고 안전하게 시크릿을 다루는 체계를 마련하는 것이 목표입니다. 1. Jenkins + Vault (AppRole) - CICI 파이프라인에서 필요한 민감 정보를 안전하게 관리하기 위해 Vault 의 KV Store 에 username 과 p..

[AWS]/[EKS] 2025. 4. 12. 23:34

k8s 기본 Secret 관리의 한계Kubernetes 는 애플리케이션이 민감 정보를 안전하게 사용할 수 있도록 Secret 리소스를 제공합니다. 하지만 기본 제공되는 Secret 기능은 실제 운영 환경에서 보안과 관리 효율성 측면에서 여러 가지 한계를 드러냅니다. 1. 저장소 암호화 부족Kubernetes Secret 은 etcd 에 저장될 때 base64 인코딩만 적용됩니다.이는 암호화가 아니기 때문에 etcd 저장소가 유출되거나 내부 관리자가 접근하는 경우 Secret 이 그대로 노출될 수 있습니다.etcd 저장소 자체를 암호화할 수는 있지만, 기본적으로 활성화되어 있지 않고 관리자의 추가 작업이 필요합니다. 2. 세밀한 접근 제어의 어려움Kubernetes RBAC 으로 Secret 에 대한 접근..

[AWS]/[EKS] 2025. 4. 12. 23:33

Kubernetes 릴리스 정책 정리Kubernetes는 1년에 3개의 마이너 버전을 릴리스최근 3개 마이너 버전에 대해서만 패치 릴리스를 지원예: v1.30, v1.31, v1.32 지원 중 → v1.29 이하 버전은 공식 지원 대상 아님 Version Skew 정책 요약kube-apiserver: HA 구성 시, 최신 버전과 가장 오래된 버전 간 1 마이너 버전 차이 허용예: 최신이 1.32이면 1.31까지 허용kubelet / kube-proxy: apiserver보다 버전이 높을 수 없음. 최대 3버전 낮은 것까지 허용예: apiserver가 1.32일 때, kubelet은 1.29~1.32까지 가능kubectl: apiserver 기준 ±1 마이너 버전예: apiserver가 1.32이면 1.3..

[AWS]/[EKS] 2025. 4. 3. 01:15

실습 - Argo CD + K8S(Kind)Argo CD 설치 및 기본 설정#cd cicd-labs# 네임스페이스 생성kubectl create ns argocd# Helm values 파일 작성cat argocd-values.yamldex: enabled: falseserver: service: type: NodePort nodePortHttps: 30002 extraArgs: - --insecure # HTTPS 대신 HTTP 사용EOF# 설치helm repo add argo https://argoproj.github.io/argo-helmhelm install argocd argo/argo-cd --version 7.8.13 -f argocd-values.yaml --nam..

[AWS]/[EKS] 2025. 3. 30. 02:10

Argo CDArgo CD는 Kubernetes 환경을 위한 GitOps 기반의 선언적(Declarative) 애플리케이션 배포(Continuous Delivery, CD) 도구입니다. Git 저장소에 정의된 원하는 상태(desired state)와 k8s 클러스터의 실제 상태(live state)를 비교하고 차이가 발생할 경우 이를 감지하여 자동 또는 수동으로 동기화(sync)합니다. 배포 대상 애플리케이션 지원하는 구성 방식Kustomize: Kubernetes-native 구성 템플릿Helm: 패키지 기반 배포Jsonnet: 고급 템플릿 DSLPlain YAML/JSON 디렉토리 구조사용자 정의 구성 플러그인(Custom Config Management Plugin)구성 요소역할API Server-..

[AWS]/[EKS] 2025. 3. 30. 02:10

CI/CD 개요CI/CD는 소프트웨어 개발 프로세스를 자동화하여 코드 변경 사항이 신속하고 안정적으로 사용자에게 전달되도록 하는 방법론입니다. 이를 통해 개발자는 코드 변경을 중앙 저장소에 빈번하게 통합하고, 자동화된 빌드와 테스트를 수행하여 코드의 품질을 유지하며 배포 과정을 자동화하여 사용자에게 빠르게 소프트웨어를 제공할 수 있습니다. CI (지속적 통합, Continuous Integration)여러 명의 개발자가 협업할 때 소스 코드 변경 사항을 자주 통합하며, 이 변경 사항이 문제가 없는지 자동으로 빌드(build)하고 테스트(test)하는 과정을 말합니다.이를 통해 코드의 품질을 유지하고, 충돌이나 오류를 조기에 발견하여 빠르게 수정할 수 있습니다.CD (지속적 제공/배포, Continuous..

[AWS]/[EKS] 2025. 3. 30. 02:10

Kubernetes Scheduler 개요Kubernetes의 Scheduler는 클러스터 내에서 Pod가 실행될 최적의 Node를 선택하는 컴포넌트입니다. Pod가 생성되면 Kubernetes는 다양한 스케줄링 정책과 제약 조건을 고려하여 해당 Pod를 어떤 Node에 배치할지 결정합니다.스케줄링 프로세스사용자가 kubectl apply -f pod.yaml을 실행하거나 API 요청을 보냄API Server가 인증(Authentication) 및 인가(Authorization) 진행Admission Controller가 정책 검사 후 Pod 생성 승인Pod의 초기 상태가 Pending으로 설정되고, ETCD에 저장됨스케줄러가 Pending 상태의 Pod를 감지하고 노드를 선택스케줄러가 Pod의 .spe..

[AWS]/[EKS] 2025. 3. 23. 03:45