"자원 줄이고 속도 높였다"...SKT 'AI 클라우드 매니저' 출시

이재은 기자 / 기사승인 : 2024-10-08 10:46:30
  • -
  • +
  • 인쇄
▲SK텔레콤은 AI 인프라 자원을 최적화하고, AI 개발 환경을 통합 관리할 수 있는 'SKT 엔터프라이즈 AI 클라우드 매니저'를 출시했다고 8일 밝혔다 (사진=SK텔레콤)


SK텔레콤은 AI 인프라 자원을 최적화하고, AI 개발환경을 통합 관리할 수 있는 B2B 솔루션 'SKT 엔터프라이즈 AI 클라우드 매니저'를 출시했다고 8일 밝혔다.

'AI 클라우드 매니저'는 SKT가 보유한 대규모 GPU 자원에 대한 관리 및 운영 노하우를 상용화한 제품으로, GPU 자원을 효율적으로 활용할 수 있는 AI Job 스케줄러 기반의 GPU 클러스터 특화 솔루션이다. AI Job 스케줄러는 클라우드 환경에서 다수의 작업이 요청되면 한정된 자원을 효율적으로 배분해 사용자의 작업이 원활히 수행되도록 도와주는 역할을 한다.

대규모 데이터 학습에 GPU 자원이 많이 소모되기 때문에 이와 같은 AI 자원 최적화는 AI 클라우드 솔루션에 꼭 필요한 기능이다. 'AI 클라우드 매니저'를 사용하면 기업은 보유한 수많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축할 수 있다. 일례로 프로젝트마다 GPU 사용량 및 성능을 실시간으로 모니터링하고, 사용하지 않는 GPU를 감지해 다른 프로젝트에 재분배한다. 또 우선 순위가 높은 프로젝트에 클라우드 자원을 먼저 할당하는 등 자원 효율성도 높인다.

AI 개발의 모든 과정을 체계적으로 관리할 수도 있다. AI 서비스 개발은 △데이터 전처리 및 저장·관리 △모델 개발·학습 △모델 배포 △모델 추론 등 많은 단계를 거친다. 'AI 클라우드 매니저'는 각 개발 과정에서 고객이 활용하기 쉬운 기능을 제공하고, 모든 과정이 유기적으로 연계될 수 있도록 하는 기계학습 운영(MLOps) 환경을 제공한다.

AI 모델 학습 과정에서는 대규모 데이터를 다수의 컴퓨터에 분산 처리하는 대규모 병렬 학습 환경을 제공해 학습 속도를 높인다. 또 'AI 클라우드 매니저'는 개발자들이 손쉽게 AI 서비스를 개발할 수 있는 다양한 편의 기능도 탑재했다. 특정 소프트웨어를 설치할 필요 없이 웹 브라우저(Web UI) 기반으로 사용할 수 있고, 다수의 개발자가 동시에 같은 AI 개발 프로젝트에 접근할 수 있는 등 협업 환경도 마련했다.

모델 추론 과정에서는 프로젝트나 비용에 최적화된 GPU 종류와 추론 엔진 조합을 고객이 선택할 수 있도록 제공한다. 최고 성능, 최저 비용, 최소 GPU 사용 등 다양한 조합이 지원된다. 또 검색 증강 생성(RAG, Retrieval Augmented Generation) 기술을 도입해 과거 자료를 최신 정보처럼 인식해 제공하는 환각현상(할루시네이션)을 최소화한다.

SKT는 지난 9월 하나금융티아이와 협업해 대규모 GPU 클러스터를 구축했다. 이번 프로젝트에서 하나금융티아이는 'AI 클라우드 매니저'를 활용해 하나금융그룹이 AI 기술 수요에 안정적이고 유연하게 대응할 수 있는 환경을 구축했다. 효율적인 GPU 자원 운영, 학습 및 작업시간 단축 등이 가능해진 것이다.

김명국 SKT Cloud CO 담당은 "이번 'AI 클라우드 매니저' 출시로 AI 서비스 도입을 준비하는 기업들이 GPU 자원의 성능을 극대화하고, AI 서비스를 효과적으로 개발할 수 있게 되었다"며 "향후 AI 데이터센터와 GPU 서버를 안정적으로 공급하고, 이를 관리하는 필수 솔루션들도 함께 제공해 AI 데이터센터 솔루션 사업 분야를 선도해 나갈 것"이라고 말했다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

빙그레, 영업용 냉동 탑차 전기차로 전환한다

빙그레가 친환경 사업장 구축을 위해 영업용 냉동 탑차를 전기차로 전환한다고 12일 밝혔다.이번에 전환되는 차량은 빙그레의 영업소에서 빙과 제품

셀트리온, ESG 경영활동 일환으로 야생조류 보호활동 전개

셀트리온은 생물다양성 보전 활동의 일환으로 지역 시민단체인 인천녹색연합과 공동으로 야생조류 보호 ESG 활동을 전개했다고 11일 밝혔다.이번 행사

[알림] 돌아온 트럼프와 美 에너지정책 전망...25일 'ESG포럼' 개최

도널드 트럼프가 미국 차기 대통령에 당선됨에 따라, 미국의 에너지 정책기조에도 많은 변화가 예상되고 있습니다. 전세계는 미국의 변화에 영향을 받

울산시, 내년부터 공공 현수막 친환경 소재로 바꾼다

울산시가 2025년 1월부터 시청의 전 부서와 출자·출연기관 등에서 사용하는 행정용과 행사·축제 홍보용 현수막(현수기)을 친환경 소재로 전환

SK '이사회 2.0' 도입...최태원 "AI시대 기회포착 '운영개선' 필수"

SK그룹이 각 관계사 이사회의 역할을 '경영진에 대한 관리·감독'으로 강화하는 '이사회 2.0' 도입을 통해 그룹 거버넌스 체계를 고도화한다.11일 SK

[최남수의 ESG풍향계]트럼프의 귀환과 ESG - 권력과 시장의 힘겨루기

2024년 미국인의 선택은 트럼프였다. 글로벌 리더십보다는 미국 국익을 강조하며 독특한 '불규칙 바운드'의 성향을 가진 트럼프의 귀환은 미국은 물론

기후/환경

+

나무·풀로 항공유 만든다…KIST, 차세대 지속가능 항공유 개발

국내 연구진이 풀과 나무 등 식물 원료를 사용해 '지속가능 항공유'를 개발하는데 성공했다.한국과학기술연구원(KIST)는 청정에너지연구센터 하정명&mid

빈곤지역 녹지 1% 늘리면...사망률 40% 감소

도시 빈곤지역에 녹지공간을 1%만 늘려도 예방 가능한 사망률을 40%까지 줄일 수 있다는 연구결과가 나왔다.12일(현지시간) 영국 벨파스트 퀸즈대학 트

英, 2035년 탄소저감목표 높였다..."90년보다 81% 줄이겠다"

영국이 2035년까지 온실가스 배출량을 1990년 대비 81% 줄이겠다고 선언했다.12일(현지시간) 키어 스타머 총리는 제29차 유엔기후변화협약 당사국총회(COP29

친환경인줄 알고 썼더니…'미생물 음식물 처리기'의 민낯

여름철에 음식물 쓰레기를 하루만 방치해도 지독한 냄새가 나자, 주부 A씨는 큰 마음을 먹고 싱크대 하단에 설치하는 음식물 미생물처리기를 구매했다

2000년간 탄소농도 분석했더니...지구온도 이미 1.49℃까지 상승

인간이 유발한 지구온난화로 인해 1700년대부터 지난해말까지 지구의 평균기온 상승폭이 이미 약 1.5℃에 근접한 것으로 추정된다는 연구결과가 나왔다

[COP29] 바바예프 의장 "파멸의 길" 경고...'기후재원'이 쟁점

아제르바이잔 바쿠에서 제29차 유엔기후변화협약 당사국 총회(COP29)가 열리고 있는 가운데 빠르게 진행되고 있는 기후위기에 대한 경고가 잇따라 나오

에너지

+

순환경제

+

오피니언

+