들어가면서 이번 AWS Summit은 생성형 AI를 중심으로, 데이터 엔지니링, 운영, AI모델 활용 측면의 주제가 많았습니다. 생성형 AI(이하 Gen AI)가 업계의 새로운 광산(금을 케는)이 되었고, 이에 따라 기술적 전략을 수립하기 위한 Insight를 얻기에 좋은 자리였습니다. 본문 업계의 트렌드가 보편적인 목적의 AI모델(GPT와 같은 F...

들어가기전에.. 2024 Google MLB가 끝나고, NIPA와 Google MLB와 연계된 실무 프로젝트(이하 NIPA)를 이어가게 되었습니다. NIPA에서 6명이 팀을 이루어 ML을 이용한 ‘Synchro-you’라는 제품을 만들었습니다. Synchro-you 프로젝트 소개 최근 유행하고 있는 각종 챌린지 영상에서 영감을 받아, ‘내가 얼...

이번에는 Kubernetes에서 사용자의 Application이 돌아가는 ‘Data Plane(Node)’에서, Kubernetes 시스템을 위해 돌아가는 컴포넌트(Components)들을 알아보고자 합니다. Node와 Node의 컴포넌트들 Node에 대해서 컴포넌트들에 대해 이해하기에 앞서, Kubernetes에서 Node의 의미를 짚고 가고...

LLM을 이용한 서비스를 개발할때, 처음에는 ChatGPT와 같은 SaaS(Software as a Service)의 API를 사용하게 됩니다. 이 API를 기반으로 Production 서비스를 운영하게 되면, 생각보다 많은 비용이 나오게 됩니다. ChatGPT API Pricing ChatGPT API Pricing ChatGPT API의 P...

Kubernetes에서 ‘Control Plane’은 Cluster를 운영하는 Core혹은 ‘뇌’의 역할을 합니다. Cluster를 다루기 위한 API요청을 검증하고, 상태를 저장하고, 요청을 실행시키고, Cluster를 유지하는 역할을 합니다. 여기서는 ‘Control Plane’이 어떤 Component를 통해 이런 역할을 수행하는지 알아봅니다. ...

어떤 기술을 사용함에 있어, 기술에 담긴 철학(Philosophy)을 이해하는건, 그 기술을 제대로 활용하기 위해 필수적입니다. 이번 Post에선, Kubernetes에 담긴 철학을 알아봄으로서, 제대로 활용하기 위한 첫 걸음을 떼고자 합니다. Kubernetes의 철학(Philosophy) Immutable(불변성) ‘한 번 생성된 객체(서버나...

오늘날, IT서비스를 구성할때, Kubernetes와 같은 Orchestration 환경을 기본으로 시작하게 됩니다. 여기서는, 이런 배경을 알아보고자 합니다. Kubernetes의 성장 배경 Kubernetes가 오늘날 처럼 인프라 운영의 핵심으로 자리 잡기 까지, 여러 배경이 있습니다. 더 빨라진 비지니스 변화 → 잦은 배포가 발생합니다....

IPv4는 전세계 네트워크의 근간입니다. 하지만, 이 IPv4의 데이터 대역은, 다른 데이터(int등)와 같이, 표현하기 위한 데이터 ‘갯수’에 제한이 있습니다. Private IP(사설 IP)의 필요성 이 제한을 극복하기 위해, ‘Private IP’개념을 사용하게 됩니다. ‘Private IP’는 사설망(Private Network, 내부망이라...

들어가면서 이 post에선, Terraform의 핵심인 ‘State’에 대해서 알아봅니다. 본문 Terraform의 State에 대한 이해 Terraform은 리소스의 현재 상태를 저장하고 추적하기 위해 State 파일을 사용합니다. State 파일에는 Terraform이 관리하는 인프라 리소스의 실제 상태가 JSON 형태로 저장됩니다. ...

들어가면서 회사의 비지니스적인 상황에 따라서, Serverless Architecture(AWS Lambda + API gateway)를 사용할때가 있습니다. Serverless 환경에서 개발할때에 여러 어려움중에 하나가, 개발 Cycle에 대한 불편함인데, Local에서 HTTP server를 구동하는게 어려워서, AWS Lambda에 배포하여...