"자원 줄이고 속도 높였다"...SKT 'AI 클라우드 매니저' 출시

이재은 기자 / 기사승인 : 2024-10-08 10:46:30
  • -
  • +
  • 인쇄
▲SK텔레콤은 AI 인프라 자원을 최적화하고, AI 개발 환경을 통합 관리할 수 있는 'SKT 엔터프라이즈 AI 클라우드 매니저'를 출시했다고 8일 밝혔다 (사진=SK텔레콤)


SK텔레콤은 AI 인프라 자원을 최적화하고, AI 개발환경을 통합 관리할 수 있는 B2B 솔루션 'SKT 엔터프라이즈 AI 클라우드 매니저'를 출시했다고 8일 밝혔다.

'AI 클라우드 매니저'는 SKT가 보유한 대규모 GPU 자원에 대한 관리 및 운영 노하우를 상용화한 제품으로, GPU 자원을 효율적으로 활용할 수 있는 AI Job 스케줄러 기반의 GPU 클러스터 특화 솔루션이다. AI Job 스케줄러는 클라우드 환경에서 다수의 작업이 요청되면 한정된 자원을 효율적으로 배분해 사용자의 작업이 원활히 수행되도록 도와주는 역할을 한다.

대규모 데이터 학습에 GPU 자원이 많이 소모되기 때문에 이와 같은 AI 자원 최적화는 AI 클라우드 솔루션에 꼭 필요한 기능이다. 'AI 클라우드 매니저'를 사용하면 기업은 보유한 수많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축할 수 있다. 일례로 프로젝트마다 GPU 사용량 및 성능을 실시간으로 모니터링하고, 사용하지 않는 GPU를 감지해 다른 프로젝트에 재분배한다. 또 우선 순위가 높은 프로젝트에 클라우드 자원을 먼저 할당하는 등 자원 효율성도 높인다.

AI 개발의 모든 과정을 체계적으로 관리할 수도 있다. AI 서비스 개발은 △데이터 전처리 및 저장·관리 △모델 개발·학습 △모델 배포 △모델 추론 등 많은 단계를 거친다. 'AI 클라우드 매니저'는 각 개발 과정에서 고객이 활용하기 쉬운 기능을 제공하고, 모든 과정이 유기적으로 연계될 수 있도록 하는 기계학습 운영(MLOps) 환경을 제공한다.

AI 모델 학습 과정에서는 대규모 데이터를 다수의 컴퓨터에 분산 처리하는 대규모 병렬 학습 환경을 제공해 학습 속도를 높인다. 또 'AI 클라우드 매니저'는 개발자들이 손쉽게 AI 서비스를 개발할 수 있는 다양한 편의 기능도 탑재했다. 특정 소프트웨어를 설치할 필요 없이 웹 브라우저(Web UI) 기반으로 사용할 수 있고, 다수의 개발자가 동시에 같은 AI 개발 프로젝트에 접근할 수 있는 등 협업 환경도 마련했다.

모델 추론 과정에서는 프로젝트나 비용에 최적화된 GPU 종류와 추론 엔진 조합을 고객이 선택할 수 있도록 제공한다. 최고 성능, 최저 비용, 최소 GPU 사용 등 다양한 조합이 지원된다. 또 검색 증강 생성(RAG, Retrieval Augmented Generation) 기술을 도입해 과거 자료를 최신 정보처럼 인식해 제공하는 환각현상(할루시네이션)을 최소화한다.

SKT는 지난 9월 하나금융티아이와 협업해 대규모 GPU 클러스터를 구축했다. 이번 프로젝트에서 하나금융티아이는 'AI 클라우드 매니저'를 활용해 하나금융그룹이 AI 기술 수요에 안정적이고 유연하게 대응할 수 있는 환경을 구축했다. 효율적인 GPU 자원 운영, 학습 및 작업시간 단축 등이 가능해진 것이다.

김명국 SKT Cloud CO 담당은 "이번 'AI 클라우드 매니저' 출시로 AI 서비스 도입을 준비하는 기업들이 GPU 자원의 성능을 극대화하고, AI 서비스를 효과적으로 개발할 수 있게 되었다"며 "향후 AI 데이터센터와 GPU 서버를 안정적으로 공급하고, 이를 관리하는 필수 솔루션들도 함께 제공해 AI 데이터센터 솔루션 사업 분야를 선도해 나갈 것"이라고 말했다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

올해 글로벌 '기후펀드' 첫 순유출 전망...고금리·그린워싱 우려탓

2024년은 글로벌 기후펀드가 처음으로 순유출을 기록하는 해가 될 전망이다.21일(현지시간) 모닝스타의 자회사이자 ESG 평가기관인 서스테이널리틱스(Sus

[알림] 25일 'ESG포럼' 초대합니다...'기후통상과 수출기업 전략'

제조업이 많은 우리나라는 전력 탄소배출계수가 높습니다. 그만큼 전기사용 과정에서 탄소배출이 많다는 것을 의미합니다. 전기는 제품생산에 없어서

바람으로 탄소감축 실현...삼성重 '윙세일' LNG운반선 설계 인증

삼성중공업은 화석연료 대신 바람으로 추진력을 얻을 수 있는 '윙 세일(Wing Sail) 액화천연가스(LNG) 운반선'에 대해 기본설계 인증(AIP)을 받았다고 20일

KT, 서스틴베스트 ESG평가 'AA' 등급...통신업계 최고수준

KT가 국내 대표 ESG 평가기관 서스틴베스트의 'ESG 경영평가'에서 최고등급인 'AA'를 획득했다고 20일 밝혔다.KT는 서스틴베스트 올 하반기 ESG 경영평가에

서스틴베스트, 올 하반기 ESG 우수기업 100곳 선정

네이버와 KT 등 서스틴베스트는 올 하반기 ESG경영을 리드한 기업 100개사를 선정했다.20일 ESG평가기관 서스틴베스트는 상장사 1069개사와 비상장사 264개

네이버, 로레알코리아와 '친환경 소비문화' 확산 앞장

네이버가 지난 18일 로레알코리아와 친환경적 비즈니스 및 사회적 가치 확산을 위한 공동계획 수립 등 다각적인 협력을 추진하는 내용의 업무협약을

기후/환경

+

[COP29] 1조달러 확보 결국 실패?...기후재원 '텅빈' 합의문 초안

제29차 유엔기후변화협약 당사국총회(COP29)에서 1조달러의 신규 기후재원을 확보하겠다는 목표가 결국 실패로 돌아갈 전망이다. 폐막 하루전 나온 '신

아제르바이잔, COP29.com 도메인 뺏기고 뒤늦게 접속차단

아제르바이잔 바쿠에서 열리고 있는 제29차 유엔기후변화협약 당사국총회(COP29)의 공식 웹사이트 주소가 'COP29.com'이 아닌 'COP29.az'가 된 배경에는 환경

거목이 뿌리째 뽑혔다…'폭탄 사이클론' 美서북부 강타

미국 서북부 지역이 10년에 한번 올까말까한 '폭탄 사이클론'으로 쑥대밭이 됐다. 시속 163㎞에 달하는 초강풍에 거리 곳곳에서 나무들이 뿌리째 뽑히고

[COP29] 관광도 NDC 포함되나...'관광분야 기후행동 강화 선언' 출범

전세계 탄소배출량의 8.8%를 차지하는 관광산업도 국가온실가스감축목표(NDC)에 포함시켜 정부가 관리하도록 하는 국제 이니셔티브가 추진된다.20일(현

"AI기술로 기후변화 대응한다"…코이카, 유엔기후변화협약과 협약

한국국제협력단(KOICA)이 리우협약, 파리기후변화협정 등의 합의를 이뤄낸 기후변화대응협의체 '유엔기후변화협약'(UNFCCC)과 협력해 인공지능(AI) 기술을

기상재해 74% "기후변화 없었다면 발생하지 않았을 것"

최근 발생한 기상재해 744건 중 최소 550건이 지구온난화가 없었으면 발생하지 않았거나 심각해지지 않았을 것이라는 분석이다.18일(현지시간) 영국 기

에너지

+

순환경제

+

오피니언

+