카카오, AI 안전성 검증하는 '카나나 세이프가드' 무료배포

조인준 기자 / 기사승인 : 2025-05-27 09:56:31
  • -
  • +
  • 인쇄
▲카카오가 공개한 '카나나 세이프가드' 모델 개요 (자료=카카오)

카카오가 인공지능(AI) 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 '카나나 세이프가드'(Kanana Safeguard) 3종을 오픈소스로 공개한다고 27일 밝혔다. 

최근 다양한 생성형 AI 서비스들이 확산되면서 유해 콘텐츠의 위험성에 대한 우려도 커지고 있다. 이에 카카오는 AI의 안전성과 신뢰성을 검증할 수 있는 '카나나 세이프가드'를 개발하게 됐다.

'카나나 세이프가드'는 카카오가 자체 개발한 언어모델 '카나나'(Kanana)를 기반으로 구축됐으며, 한국어 및 한국 문화를 반영한 자체 구축 데이터셋을 활용했다는 것이 강점이다. AI 모델의 정밀도와 재현율을 평가하는 수치인 F1 스코어를 기준으로 평가한 결과, 한국어 성능에서 글로벌 모델 이상의 성과를 나타냈다.

이번에 오픈소스로 공개한 3종의 모델은 △사용자의 발화 또는 AI의 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 '카나나 세이프가드' △개인 정보나 지식재산권 등  법적 측면에서 주의가 필요한 요청을 탐지하는 '카나나 세이프가드-사이렌' △AI 서비스를 악용하려는 사용자의 공격을 탐지하는 '카나나 세이프가드-프롬프트'다. 이 모델들은 모두 리스크 유형에 따라 유해성 및 위험성에 대한 효과적 탐지가 가능하다. 이 모델들은 AI 오픈 플랫폼 허깅페이스에서 내려받으면 된다.

카카오는 안전한 AI 생태계의 구축에 기여하고자 카나나 세이프가드에 상업적 이용과 수정 및 재배포 등이 자유롭게 가능한 아파치2.0 라이선스를 적용했다. 향후 지속적인 업데이트를 통해 모델을 고도화 할 예정이다.    

카카오 김경훈 AI세이프티 리더는 "생성형 AI의 등장 이래, 기술의 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고, 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획"이라고 말했다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

수자원공사, SK하이닉스와 PPA 체결...6월부터 수력에너지 공급

한국수자원공사가 SK하이닉스에 수력발전으로 생산한 전력을 직접전력거래(PPA) 방식으로 공급한다. 이를 위해 한국수자원공사는 30일 SK하이닉스 이천

"현대차, 배출량 전과정평가(LCA) 시스템으로 95%까지 추적 가능"

"현대차는 전과정평가(LCA) 시스템을 통해 자동차 생산에서 폐기에 이르는 과정에서 발생하는 탄소배출량을 95%까지 추적할 수 있다."홍성준 현대자동차

이니스프리, 수거 공병으로 만든 '마키토이 그린티' 한정판 출시

이니스프리가 국내 작가 '마키토이'와의 협업한 '마키토이 그린티' 한정판을 출시했다고 30일 밝혔다.이번에 출시한 '마키토이 그린티 리미티드 에디션

대한항공, 폐항공기 업사이클링…네임택·볼마커 굿즈 출시

대한항공이 폐항공기 동체로 제작한 업사이클링 굿즈 시리즈에서 에어버스 A380 기종을 활용한 제품을 처음 선보인다.대한항공은 브랜드 굿즈 공식 판

전국 226개 시군구, 첫 탄소중립 계획 수립…감축사업 본격화

전국 226개 기초지자체가 모두 탄소중립 실천전략을 담은 '제1차 시군구 탄소중립 녹색성장 기본계획'을 수립해 5월 30일까지 환경부에 제출할 예정이다

SK이노베이션 신임 대표에 SK E&S 추형욱 대표 선임

SK이노베이션이 추형욱 SK이노베이션 E&S 사장을 신임 대표이사로 선임했다. SK이노베이션 총괄사장에는 장용호 SK(주) 대표이사가 신규 선임됐다.SK이

기후/환경

+

이스라엘의 가자 침공 '온실가스 3100만톤'...'기후비용' 누가 책임?

이스라엘의 가자지구 침공을 비롯한 전쟁이 민간인 학살 및 인권침해 문제와 더불어 기후위기를 더욱 악화시키고 있다.지난달 30일(현지시간) 프레데

올여름 한반도 바다 1℃ 상승 전망…"생태계 파괴 가속화 우려

올여름 우리나라 연안 해역의 수온이 평년보다 약 1.0℃ 높아질 것으로 전망됐다. 수온 상승은 해양 생태계 파괴와 이상기후로 이어질 수 있다.해양수

한달치 3배의 비가 2시간에 내렸다...나이지리아 기후변화로 대참사

아프리카 나이지리아 중서부에서 기록적인 폭우가 쏟아져 도시 대부분이 물에 잠기는 참사가 벌어졌다.나이지리아의 수도 아부자에서 서쪽으로 약 380

日 훗카이도 해역에서 또?…사흘새 '불의고리'에서 두차례 지진

지난달 31일 지진이 발생했던 일본 홋카이도 인근 해역에서 2일 새벽 또다시 규모 5.9의 지진이 발생했다. 같은 지역에서 사흘 사이에 두번의 지진이 발

온난화로 미국과 캐나다 빙하 70~80% 사라질 위기

지구온난화로 전세계 빙하의 절반 가까이가 사라지고, 특히 미국 서부와 캐나다의 빙하는 최대 80%까지 없어질 수 있다는 경고가 나왔다.29일(현지시간)

[영상] 캐나다 134건 산불 동시다발...매니토바주는 '불바다'

캐나다 서부 매니토바주에 22건의 대형 산불이 동시 발생하는 국토 전역에서 134건의 산불이 발생했다.28일(현지시간) 영국 가디언 등에 따르면 매니토

에너지

+

순환경제

+

오피니언

+