AI 인프라 GPU 자원 최적화·모니터링 실무
AI 워크로드를 위한 GPU 가속 인프라를 구축·운영할 수 있다.
교육 목표
- AI 워크로드를 위한 GPU 가속 인프라를 구축·운영할 수 있다.
- GPU 자원을 효율적으로 할당·분할하여 활용률을 높일 수 있다.
- GPU 상태를 모니터링하고 장애징후·유휴자원을 분석하여 운영을 최적화할 수 있다.
핵심 교육 내용
- GPU 가속 인프라 구성 (7시간)
- GPU 자원 할당·분할 (7시간)
- GPU 메트릭·모니터링 (7시간)
- GPU 자원 최적화·장애예방 (7시간)
교육 후 기대 효과
- 실습 예시: GPU 모니터링 대시보드와 자원 최적화 방안
교육비와 정부지원은 먼저 확인합니다
교육비와 지원 가능 여부는 기업 규모, 교육 인원, 과정, 운영 방식에 따라 달라집니다. 정식 견적과 지원 가능 여부는 상담 후 안내합니다.
- 교육 대상·인원·희망 시기와 장소를 먼저 확인합니다.
- 정부지원은 기업·과정·운영 요건에 따라 별도로 검토합니다.
- 정식 견적서는 확인된 조건을 기준으로 안내합니다.
과정 소개
AI 모델의 학습·추론에 사용되는 GPU 인프라를 Kubernetes 환경에서 구축하고 효율적으로 운영하는 전문과정입니다.
GPU 자원의 할당·분할·스케줄링과 사용량·온도·전력·메모리 등 운영지표를 모니터링하고, 유휴자원과 성능병목을 줄이는 방법을 실습합니다.
기업의 GPU 환경과 AI 워크로드 특성에 따라 자원할당·모니터링·최적화 실습을 조정할 수 있습니다.
단원별 세부 내용
GPU 가속 인프라 구성 · 7시간
• GPU Driver·Container Toolkit 구성
• Kubernetes GPU 노드 구성과 호환성 확인
• GPU 전용 노드 스케줄링
• GPU 상태관리·진단 구조 이해
• AI 워크로드 실행을 위한 기본 인프라 구성
GPU 자원 할당·분할 · 7시간
• Kubernetes GPU 자원인식과 Pod 할당원리
• GPU 자원요청·스케줄링 정책
• MIG 등 GPU 자원분할 방식 이해·실습
• Time-slicing 등 공유방식 활용
• AI 워크로드 특성에 따른 자원할당 전략
GPU 메트릭·모니터링 · 7시간
• GPU 사용률·메모리·온도·전력 등 핵심지표 수집
• Prometheus 기반 메트릭 수집
• Grafana 기반 GPU 대시보드 구성
• 학습·추론 워크로드별 주요지표 분석
• 성능병목·유휴자원 식별
GPU 자원 최적화·장애예방 · 7시간
• GPU 활용률 기반 자원운영 전략
• 오토스케일링 연계 기본구조
• 과열·메모리 오류·Throttle 등 이상징후 탐지
• 임계치·알림정책 구성
• 유휴 GPU 식별·회수 및 비용최적화 방안 수립
시설·장비·교재
• PC, 모니터
• Windows 10 이상, RAM 8GB 이상
• VMware Workstation Player
• Ubuntu
• MobaXterm
• VS Code
• K9s
• Git
• GPU 실습환경 또는 이에 준하는 실습환경
• 자체 제작 교안
GPU 장비·드라이버·실습 계정과 할당 가능한 자원을 교육 전 확인합니다.
교육 편성 안내
기준 편성 28시간 · 연중 상시
비대면 편성 가능 여부와 실습 환경은 사전 협의합니다.
교강사 편성 참고 요건
제공된 과정안의 교강사 프로필과 편성 참고 요건입니다. 실제 담당 강사 배정이 확정되었다는 의미는 아닙니다.
• 정보처리기사
• 산업체(정보기술개발분야) 경력 8년
• 직업훈련(정보기술개발분야) 강의 경력 5년
교육 전 함께 확인할 사항
참여 직무와 현재 과제, 원하는 변화, 교육 인원·시기·장소를 알려주시면 과정 구성과 운영 범위를 검토합니다.
AI 인프라 GPU 자원 최적화·모니터링 실무
