1. 수행배경

• AI 서비스를 클라우드에 배포하려면 모델의 GPU 메모리 사용량, 응답시간, 처리량 및 비용을 함께 고려해야 하지만, 비전문가가 적절한 GPU 인스턴스를 선택하기는 어렵다.
• 이로 인해 필요 이상으로 높은 사양을 선택하여 비용을 낭비하거나, 낮은 사양을 선택하여 메모리 부족과 성능 저하를 겪을 수 있다.
• 이에 실제 GPU 인스턴스를 직접 대여하기 전에 AI 워크로드에 필요한 자원과 성능을 예측하고, 적합한 AWS GPU 인스턴스를 추천하는 시뮬레이터를 개발하고자 하였다.

2. 수행기간

• 2026년 5월 ~ 2026년 9월
• 초기에는 선행기술 조사와 시스템 요구사항 정의, AWS GPU 인스턴스 데이터 수집을 진행하였다.
• 이후 VRAM·응답시간·처리량 예측과 인스턴스 추천 기능을 구현하였으며, 최종적으로 사용자 인터페이스 개발과 통합 테스트 및 결과 검증을 수행하였다.

3. 개발작품 설명

• 사용자가 AI 모델, 정밀도, 목표 응답시간, 목표 처리량, 동시 요청 수 및 월 예산을 입력하면 적합한 AWS GPU 인스턴스를 추천하는 시스템이다.
• 워크로드 실행에 필요한 최대 VRAM을 예측하고, VRAM과 예산 조건을 만족하지 못하는 인스턴스를 후보에서 제외한다.
• 남은 후보들의 예상 응답시간, 처리량 및 비용을 계산하고, 사용자가 설정한 응답시간·처리량 가중치에 따라 성능 점수를 산출한다.
• 최종적으로 인스턴스별 순위, 예상 응답시간, 예상 처리량, SLO 충족 여부 및 예상 비용을 비교하여 보여준다.

4. 활용방안

• AI 서비스 초기 인프라 설계: 실제 배포 전에 필요한 GPU 사양과 AWS 인스턴스 후보를 검토할 수 있다.
• 클라우드 비용 절감: 과도한 사양 선택을 방지하고 예산 안에서 적절한 인스턴스를 선택할 수 있다.
• 서비스 성능 검토: 목표 응답시간과 처리량을 만족할 가능성이 높은 인스턴스를 비교할 수 있다.
• 교육 및 오픈소스 활용: 오픈소스로 배포하여 AI 모델과 GPU 자원·성능·비용의 관계를 학습하는 도구로 활용하고, 향후 다른 클라우드 환경까지 확장할 수 있다.