SKT, 서울에 엔비디아 GPU 전용 AI데이터센터 연다

SK텔레콤이 오는 12월 서울에 엔비디아 그래픽처리장치(GPU) 기반 인공지능(AI) 데이터센터를 연다. SK텔레콤은 이 데이터센터를 시작으로 국내 최대 규모 ‘GPU 팜(대량의 GPU를 하나로 연결한 컴퓨팅 시스템)’을 구축해 AI 인프라 사업을 확장할 계획이다.
SK텔레콤은 21일 글로벌 GPU 클라우드 회사 ‘람다’가 보유한 엔비디아 GPU 자원을 자회사 SK브로드밴드의 가산 데이터센터에 전진 배치한다는 내용의 파트너십을 람다와 체결했다고 21일 밝혔다. 람다는 엔비디아로부터 최신 GPU를 공급받아 AI 클라우드 서비스를 제공하는 회사다.
양사는 12월까지 가산 데이터센터에 엔비디아 GPU ‘H100’을 배치한다. 최신 GPU 모델인 ‘H200’ 조기 인스타 팔로워 구매 도입도 추진 중이다. SK텔레콤은 국내 GPU 수요 급증에 대응해 GPU를 3년 안에 수천대로 확대하고, 가산 데이터센터를 시작으로 엔비디아 단일 GPU로 구성된 국내 최대 규모 GPU 팜을 조성하는 것이 목표다.
SK브로드밴드는 기존 데이터센터 운영 노하우를 살려 GPU 서버가 안정적으로 작동할 수 있도록 가산 데이터센터 랙당 전력밀도를 국내 최고 수준인 44킬로와트(kW)로 구현할 계획이다. 이는 국내 데이터센터 랙당 평균 전력밀도인 4.8kW의 약 9배에 달한다.
이 센터는 아시아·태평양 지역 최초로 람다의 한국 리전(Region)으로도 기능한다. 앞으로 람다의 GPU 기반 AI 클라우드 서비스를 이용하는 국내 기업들의 데이터는 이곳에 저장될 예정이다.
SK텔레콤은 람다의 GPU 자원을 기반으로 구독형 AI 클라우드 서비스 ‘GPUaaS’도 12월에 함께 출시한다. AI 데이터센터를 새로 만들려면 수년이 걸리지만, 람다와의 협업 덕분에 곧바로 AI 서비스를 제공할 수 있게 된 것이다.
GPUaaS는 기업 고객이 인스타 팔로워 구매 AI 서비스 개발이나 활용에 필요한 GPU를 직접 구매하지 않고, 클라우드를 통해 가상 환경에서 빌려 쓰는 서비스다. 가격이 비싼 데다 공급도 달리는 GPU를 직접 구매하기 어려운 기업들이 상대적으로 저렴한 비용에 AI 자원을 이용할 수 있어 관련 수요가 급증하고 있다. 포천 비즈니스 인사이트에 따르면 글로벌 GPUaaS 시장 규모는 올해 43억1000만달러에서 2032년 498억4000만달러로 늘어날 것으로 전망된다.
SK텔레콤은 지난 2월 람다에 대한 투자를 통해 데이터센터 사업 본격 진출 계획을 밝힌 데 이어, 지난달 AI 데이터센터 인스타 팔로워 구매 통합 솔루션 기업 SGH에 2억달러를 투자하는 등 AI 인프라 사업에 속도를 내고 있다.