Eraser's StudyLog

[GenAI] GenAI on K8s: 컨테이너, K8s 아키텍처, GenAI 워크로드 통합

2026년 05월 24일 · 7 분 소요

컨테이너 기본 개념부터 K8s 아키텍처, 그리고 GenAI 워크로드에 K8s가 적합한 이유까지 정리해 보자.

2026년 05월 24일 · 18 분 소요

AI, ML, DL, GenAI의 관계부터 Transformer 아키텍처, GenAI 프로젝트 라이프사이클, 배포 스택까지 정리해 보자.

2026년 05월 24일 · 12 분 소요

unattended-upgrades가 NVIDIA 드라이버 버전 불일치와 kube-proxy IPVS 장애를 연쇄적으로 일으킨 과정과 교훈을 정리해 보자.

2026년 05월 13일 · 23 분 소요

soname/ABI 계약, RPATH와 RUNPATH의 우선순위 역전, 정적 링크 트레이드오프, NVIDIA pip 이중 구조를 정리해 보자.

2026년 05월 11일 · 33 분 소요

NCCL 분산학습 종료 후 14/32 GPU가 Util 100%·메모리 0·프로세스 없음 상태에 빠졌다. CUDA context 잔류를 유력 가설로 두되, 직접 증거를 확보하지 못한 한계까지 함께 살펴보자.

2026년 05월 06일 · 15 분 소요

CloudFormation 삭제 실패를 모른 채 5일간 요금이 새어나가고, AWS Support에 부분 환불을 요청하기까지의 기록.

2026년 04월 30일 · 16 분 소요

cuobjdump로 NCCL 바이너리의 SASS/PTX 아키텍처를 분석하고, CI와 init container에서 GPU 호환성을 자동 검증하는 패턴을 정리해 보자.

2026년 04월 27일 · 20 분 소요

선언형 도구가 어디까지 ML 워크로드를 다룰 수 있는지 고민한 기록.

2026년 04월 25일 · 10 분 소요

같은 VPN SSL Inspection인데 kubectl과는 해결이 정반대다. Node.js의 trust 모델과 NODE_EXTRA_CA_CERTS 해법을 정리해 보자.

2026년 04월 25일 · 9 분 소요

TLS handshake에서 SNI와 SAN이 각각 어떤 역할을 하는지, 그리고 openssl s_client로 인증서를 디버깅할 때 servername을 신경써야 하는 이유에 대해 알아 보자.

2026년 04월 23일 · 17 분 소요

VPN 환경에서 회사 방화벽이 kube-apiserver TLS를 가로채 재서명하며 발생한 인증서 검증 실패에 대해 알아 보자.

2026년 04월 22일 · 8 분 소요

kubelet이 노드 상태를 API server에 보고하는 원리에 대해 알아보자.