지난 1월 막말 논란을 일으켰던 인공지능(AI) 챗봇 '이루다' 개발사 스캐터랩이 과징금 철퇴를 맞았다.
개인정보보호위원회는 28일 오후 인공지능(AI) 챗봇 '이루다' 개발사 스캐터랩에 개인정보보호법 위반(개인정보유출)으로 총 1억330만원의 과징금과 과태료를 부과했다.
'이루다' 서비스의 개인정보유출 피해를 주장하는 이용자들은 지난 2월 개발사인 스캐터랩을 상대로 2억원의 손해배상청구 소송을 제기한 상태였다.
개인정보위 조사결과, 스캐터랩은 자사 앱서비스인 '텍스트앳'과 '연애의 과학'에서 수집한 카카오톡 대화를 2020년 2월부터 2021년 1월까지 '이루다' AI 개발과 운영에 데이터베이스(DB)로 이용한 것으로 확인됐다.
스캐터랩은 '이루다' AI모델의 개발을 위한 알고리즘 학습과정에서 DB로 사용된 카카오톡 기록에서 이름, 이동전화번호, 주소 등의 개인정보를 삭제하거나 암호화하지 않고 이용자 약 60만명의 카카오톡 대화 94억여건을 이용했으며, 서비스 운영과정에서도 20대 여성의 카카오톡 대화문장 약 1억건에서 응답 DB로 구축했다.
스캐터랩은 이날 보도자료에서 "이번 일을 거치며 AI기술 기업으로서 관련 기술과 서비스를 발전시키는 과정에서 올바른 개인저오 처리의 필요성에 대한 무거운 사회적 책임을 느꼈다"고 말했다.
스캐터랩은 "이번 같은 일이 되풀이되지 않도록 1월 이루다 서비스 종료 후 바로 내부 TF팀을 구성해 보다 엄격한 기준 아래에서 개인정보 처리에 필요한 프로세스 및 기술들을 마련해 나가고 있다"며 만 14세 미만 사용자 서비스 제한, 가명 처리 시스템 고도화 등 개인정보 보호 강화를 위한 조치를 준비 중이라고 밝혔다.
한편 '이루다' 서비스는 지난 1월 인종차별, 혐오발언 등 수집형 DB오염에 따른 '막말 논란'으로 현재 운영을 중지한 상태다.
Copyright @ NEWSTREE All rights reserved.
