분류 전체보기79 [AEWS4기] AI Agent in EKS Automode (1) Module 2 - Agentic AI 플랫폼 컴포넌트모듈 아키텍처 LiteLLM - 통합 AI 게이트웨이 1단계 : LiteLLM 스택 발견# LiteLLM 플랫폼 컴포넌트 확인kubectl get pods -n litellm 출력에서 찾아볼 내용# 예시 패턴 (실제 이름은 다를 수 있음):NAME READY STATUS RESTARTS AGElitellm-* 1/1 Running 0 *h # ← 주요 API 게이트웨이litellm-postgresql-0 1/1 Running 0 *h # ← 구성 데이터베이스litellm-redis-master.. 2026. 5. 17. [AEWS4기] AI Agent in EKS Automode (1) https://catalog.workshops.aws/k8sagenticplatform/ko-KR Architect and deploy advanced Agentic AI platforms on Amazon EKSBuild a complete Agentic AI platform on Amazon EKS. Deploy LLMs on AWS Neuron, set up a unified API gateway (Lite LLM) with observability (Langfuse), and create intelligent agents using LangGraph and MCP. Through a credit underwriting app, implement LLM-ascatalog.workshops.aws해당.. 2026. 5. 17. [AEWS4기] EKS Auto mode EKS 를 운영하다 보면 누구나 드는 생각이 있다. 아니 EKS를 도입하기 시작하는 시점부터 바라는 것.인프라 운영의 자동화이런 자동화를 도입하기 위해서 처음 K8s를 도입했고, managed service 인 EKS를 사용하지만, 생각보다 손이 많이 간다. 그래서 처음 re:invent 2024 에서 발표된 EKS Automode 는 사람들의 많은 기대를 받으면서 등장했다. EKS Automode가 기존 EKS 운영과 어떤 부분이 다른지 비교 분석 해보았다. 배경EKS 는 k8s의 Control plane을 AWS에서 관리해주는 managed service 다. 하지만 EKS를 사용하는 사람들은 Data plane의 영역마저도 관리해주는 서비스를 필요로 해왔다. 그 기대에 부응하기 위해 re:inven.. 2026. 5. 16. [AEWS4기] EKS Blue/Green 업그레이드 실습 새로운 EKS 클러스터 생성새 클러스터는 기존 EKS 클러스터와 같은 VPC 에 생성한다.Network connectivity리소스 간 원활한 통신이 보장되어, 워크로드와 데이터 마이그레이션이 한층 수월하다.Shared resourcesNAT 게이트웨이, VPN 연결, Direct Connect 등 기존 VPC 리소스를 재사용할 수 있어 복잡성과 비용을 줄일 수 있다.Security groups두 클러스터에 걸쳐 일관된 보안 그룹 규칙을 유지할 수 있으므로 보안 관리가 단순해진다.Service discoveryAWS Cloud Map이나 유사한 서비스 디스커버리 메커니즘을 사용하는 경우, 클러스터 간에 서비스들이 서로를 더 쉽게 찾을 수 있다.Subnet utilization기존 서브넷을 효율적으로 활용.. 2026. 5. 4. [AEWS4기] EKS 업그레이드 전략 비교 In-place vs Blue/Green In-place가 합리적인 선택일까, 어쩔 수 없는 선택일까얼마 전 AWSKRUG DevOps 소모임에서 참석자들을 대상으로 EKS 업그레이드를 어떤 방식으로 하는지 현장 설문을 한 적이 있다. 약 30명 정도의 인원이 참석했었는데 충격적인 건 In-place 업그레이드를 선택한 사람이 단 한명도 없었다.나는 회사에서 In-place 방식을 쓰고 있었지만 손을 들 수가 없었다. 왜냐하면 나 스스로도 왜 In-place를 사용하고 있냐는 질문에 제대로 답을 해본 적이 없었기 때문이다. 그저 그렇게 해왔으니까, 그게 자연스러우니까. 그 정도였다. 마침 AEWS 4기 7주차 주제가 EKS 업그레이드 실습이었다. 좋은 기회다 싶어서 이번 글에서는 두 업그레이드 방식의 장·단점을 제대로 비교해보고, 마지막에는 내.. 2026. 5. 4. [AEWS4기] FluxCD로 CI/CD 환경 구성하기 현재 회사에서 사내 업무에 활용할 AI Agent를 직접 개발하고 있다. 운영 환경을 EKS로 결정했고, 단순히 컨테이너를 굴리는 수준이 아니라 스터디를 통해 배운 CI/CD 지식을 활용해 GitOps를 실제 환경에 적용해보고 싶었다. CI/CD 도구는 앞 글에서 고민한대로 FluxCD를 선택했다. 레포지토리 구성총 3개의 레포지토리로 구성했다. 레포지토리관리도구책임 범위terraform-infraTerraformAWS 리소스 + FluxCD 부트스트랩fleet-infraFluxCD플랫폼 애드온applicationFluxCDAI Agent 배포 Manifest그 외 AI Agent 별 소스코드 레포지토리 왜 3개의 레포지토리로 구성을 했나?처음엔 단일 레포지토리(monorepo)도 고민했다. 관리 포.. 2026. 4. 27. 이전 1 2 3 4 ··· 14 다음