"자원 줄이고 속도 높였다"...SKT 'AI 클라우드 매니저' 출시

이재은 기자 / 기사승인 : 2024-10-08 10:46:30
  • -
  • +
  • 인쇄
▲SK텔레콤은 AI 인프라 자원을 최적화하고, AI 개발 환경을 통합 관리할 수 있는 'SKT 엔터프라이즈 AI 클라우드 매니저'를 출시했다고 8일 밝혔다 (사진=SK텔레콤)


SK텔레콤은 AI 인프라 자원을 최적화하고, AI 개발환경을 통합 관리할 수 있는 B2B 솔루션 'SKT 엔터프라이즈 AI 클라우드 매니저'를 출시했다고 8일 밝혔다.

'AI 클라우드 매니저'는 SKT가 보유한 대규모 GPU 자원에 대한 관리 및 운영 노하우를 상용화한 제품으로, GPU 자원을 효율적으로 활용할 수 있는 AI Job 스케줄러 기반의 GPU 클러스터 특화 솔루션이다. AI Job 스케줄러는 클라우드 환경에서 다수의 작업이 요청되면 한정된 자원을 효율적으로 배분해 사용자의 작업이 원활히 수행되도록 도와주는 역할을 한다.

대규모 데이터 학습에 GPU 자원이 많이 소모되기 때문에 이와 같은 AI 자원 최적화는 AI 클라우드 솔루션에 꼭 필요한 기능이다. 'AI 클라우드 매니저'를 사용하면 기업은 보유한 수많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축할 수 있다. 일례로 프로젝트마다 GPU 사용량 및 성능을 실시간으로 모니터링하고, 사용하지 않는 GPU를 감지해 다른 프로젝트에 재분배한다. 또 우선 순위가 높은 프로젝트에 클라우드 자원을 먼저 할당하는 등 자원 효율성도 높인다.

AI 개발의 모든 과정을 체계적으로 관리할 수도 있다. AI 서비스 개발은 △데이터 전처리 및 저장·관리 △모델 개발·학습 △모델 배포 △모델 추론 등 많은 단계를 거친다. 'AI 클라우드 매니저'는 각 개발 과정에서 고객이 활용하기 쉬운 기능을 제공하고, 모든 과정이 유기적으로 연계될 수 있도록 하는 기계학습 운영(MLOps) 환경을 제공한다.

AI 모델 학습 과정에서는 대규모 데이터를 다수의 컴퓨터에 분산 처리하는 대규모 병렬 학습 환경을 제공해 학습 속도를 높인다. 또 'AI 클라우드 매니저'는 개발자들이 손쉽게 AI 서비스를 개발할 수 있는 다양한 편의 기능도 탑재했다. 특정 소프트웨어를 설치할 필요 없이 웹 브라우저(Web UI) 기반으로 사용할 수 있고, 다수의 개발자가 동시에 같은 AI 개발 프로젝트에 접근할 수 있는 등 협업 환경도 마련했다.

모델 추론 과정에서는 프로젝트나 비용에 최적화된 GPU 종류와 추론 엔진 조합을 고객이 선택할 수 있도록 제공한다. 최고 성능, 최저 비용, 최소 GPU 사용 등 다양한 조합이 지원된다. 또 검색 증강 생성(RAG, Retrieval Augmented Generation) 기술을 도입해 과거 자료를 최신 정보처럼 인식해 제공하는 환각현상(할루시네이션)을 최소화한다.

SKT는 지난 9월 하나금융티아이와 협업해 대규모 GPU 클러스터를 구축했다. 이번 프로젝트에서 하나금융티아이는 'AI 클라우드 매니저'를 활용해 하나금융그룹이 AI 기술 수요에 안정적이고 유연하게 대응할 수 있는 환경을 구축했다. 효율적인 GPU 자원 운영, 학습 및 작업시간 단축 등이 가능해진 것이다.

김명국 SKT Cloud CO 담당은 "이번 'AI 클라우드 매니저' 출시로 AI 서비스 도입을 준비하는 기업들이 GPU 자원의 성능을 극대화하고, AI 서비스를 효과적으로 개발할 수 있게 되었다"며 "향후 AI 데이터센터와 GPU 서버를 안정적으로 공급하고, 이를 관리하는 필수 솔루션들도 함께 제공해 AI 데이터센터 솔루션 사업 분야를 선도해 나갈 것"이라고 말했다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

한국노총·민주당·쿠팡 '한자리'..."택배산업 발전 위해 소통" 다짐

택배산업 발전을 통해 노사가 윈윈하기 위해 노사정이 머리를 맞댔다. 김동명 한국노동조합총연맹 위원장과 김사성 한국노총 택배산업본부 위원장,

'참붕어빵' 제품에서 곰팡이...오리온 "전량 회수조치"

오리온 '참붕어빵' 제품 일부에서 곰팡이가 검출돼 전량 회수 조치가 내려졌다.오리온은 참붕어빵 제품 일부에서 곰팡이 발생 사례가 확인돼 시중에

F1 '넷제로' 향한 질주 5년만에 탄소배출량 26% 줄였다

영화 'F1 더 무비' 개봉과 함께 서킷 위 스피드에 열광하는 팬들이 늘고 있는 가운데 포뮬러1(F1)은 탄소중립을 향한 질주도 이어가고 있다. F1은 2019년 '20

수자원공사, 재난구호용 식수페트병 '100% 재생원료'로 전환

한국수자원공사(K-water)가 재난구호용으로 지급하는 식수페트병을 100% 재생원료로 만든 소재를 사용한다고 23일 밝혔다. 수자원공사가 제공하는 이 생

친환경 사면 포인트 적립...현대이지웰 '그린카드' 온라인으로 확대

현대백화점그룹 계열의 토탈복지솔루션기업 현대이지웰이 녹색소비생활을 촉진하기 위해 친환경 구매시 인센티브를 지원하는 그린카드 적립서비스

SK AX, ASEIC과 51개국 제조업 탄소중립 전환 나서

SK AX가 'ASEIC'과 손잡고 국내외 51개국 중소·중견 제조기업을 대상으로 공급망 탄소관리, 기후공시 등 탄소중립 전환을 돕는다. SK AX은 ASEIC(아셈중

기후/환경

+

'양산' 쓰는 남자가 늘고 있다..."사막같은 햇빛 그늘막으로 제격"

여자들만 주로 사용하던 '양산'이 38℃를 넘나드는 폭염에 남자들도 여름 필수템으로 이용하기 시작했다.25일 유통업계에 따르면 패션 플랫폼 무신사

AI로 탄소포집하는 콘크리트 찾아냈다

수백 년간 공기 중 탄소를 흡수할 수 있는 콘크리트 소재를 인공지능(AI)를 활용해 찾아냈다.23일(현지시간) 미국 서던캘리포니아대학(USC) 비터비공과대

불볕더위 '아차'하면 온열질환에 쓰러져...폭염 안전수칙은?

전국 곳곳에 폭염경보 혹은 폭염주의보가 내려진 가운데 온열질환을 예방하려면 폭염 안전수칙을 반드시 지켜야 한다.폭염주의보는 최고 체감온도 33

EU·중국 '기후리더십' 주도권 노리나?…'기후협력' 공동성명 채택

미국과 대척점에 서있는 중국과 유럽연합(EU)이 기후변화에 대응하기 위한 녹색기술을 공동보급하기로 하는 등 협력관계를 더욱 밀착시키고 있다.24일(

산불 1년만에 한달 두차례 홍수...美 뉴멕시코주 마을의 수난

미국 뉴멕시코주 루이도소 마을이 또 물에 잠겼다. 이달에만 벌써 두번째 홍수다. 24일(현지시간) AP통신 등 현지언론에 따르면 이날 오후 루이도소 일

폭염에 차량 방치하면 실내온도 90℃까지...화재·폭발 막으려면?

차량이 직사광선에 노출되면 실내온도가 90℃까지 치솟으면서 화재나 폭발 위험성이 높아지기 때문에 폭염시 차량관리에 주의를 기울여야 한다. 25일

에너지

+

순환경제

+

오피니언

+