AI 추론의 숨은 저장 비용: 각 응답 뒤에 쌓이는 데이터 비용 청구
생성형 AI의 추론 규모가 급증함에 따라, 기업들은 로그, 캐시, 중간 렌더링, 보안 기록 등 사용자에게는 눈에 보이지 않는 후방 데이터 스토리지 비용을 크게 과소평가하고 있습니다. 이러한 데이터의 용량은 종종 사용자가 직접 확인할 수 있는 출력물의 수십 배에서 수백 배에 달합니다. IDC의 조사에 따르면, 설문에 응한 기업의 95%가 지난 1년간 AI로 인해 데이터 양이 증가했으며, 그중 61%에서는 증가율이 25%를 넘어섰습니다. 한편, 스토리지 지출 증가 속도는 이미 컴퓨팅 파워 예산의 증가 속도를 앞서기 시작했습니다.