'이루다'는 20대 여대생을 모델로 만들어진 가상봇으로, 지난해 12월 23일 출시 3주만에 75만명이라는 어마어마한 이용자를 끌어모으며 화제를 뿌렸다. 그러나 성소수자와 인종차별과 관련된 편향적인 발언과 막말로 여론의 뭇매를 맞았고, 이 논란은 사생활 침해로까지 이어지며 걷잡을 수 없이 확산됐다.
'이루다' 개발사 스캐터랩은 논란이 일자 지난 1월 12일 '이루다' 운영 일시중단을 결정했다. 그럼에도 논란은 더 확대되자 15일 "이루다 데이터베이스(DB)와 딥러닝 대화모델을 폐기하기로 결정했다"고 밝혔다.
▲ AI 챗봇 '이루다' 스캐터랩은 개인정보보호위원회·한국인터넷진흥원(KISA) 합동조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델을 폐기하기로 했다. 스캐터랩 측은 "이루다 DB는 비식별화(익명화) 절차를 거쳐 개별적·독립적인 문장으로 이뤄져 있고, 딥러닝 대화 모델은 대화 패턴만 학습하기 때문에 개인정보 유출 위험은 전혀 없다"면서도 "이용자들 불안감을 고려해 폐기를 결정했다"고 설명했다.
이들은 "기존 '연애의 과학'과 '텍스트앳'에서 이용자 동의를 받고 수집했던 데이터는 데이터 활용을 원하지 않는 이용자들이 신청할 경우 모두 삭제할 것"이라며 "이는 향후 딥러닝 대화 모델에도 이용되지 않는다"고 전했다. 이어 스캐터랩은 "향후 신규 가입 및 서비스 이용시 개인정보 수집·이용 등의 절차도 강화하겠다"고 말했다.
그러면서 앞으로의 DB수집 방법에 대해 스캐터랩 관계자는 "강화된 절차와 함께 자발적 공유를 받거나 돈을 주고 DB를 구매하는 등 다양한 방법을 내부적으로 고민 하고 있다"고 덧붙였다.
스캐터랩은 챗봇 이루다를 만드는 과정에 연애 분석 앱 '연애의 과학' 이용자들의 카카오톡 데이터를 가져다 쓰면서 개인정보보호법을 어겼다는 의혹을 받고 있다. 개인정보보호위원회와 한국인터넷진흥원(KISA)이 현장에서 자료를 확보해 조사하고 있다.
연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다.
스캐터랩은 연인들 대화 데이터를 사내 메신저에 부적절하게 공유한 직원이 있었다는 의혹에 대해서는 "보도된 내용은 사실과 다르다"며 해명했지만, 제대로 익명화하지 않은 데이터를 오픈소스 공유 플랫폼 '깃허브'에 공유한 사실도 확인됐다. 연애의 과학 이용자들은 "이루다 DB가 아니라 카톡 데이터 전량을 파기해야 한다"고 요구하고 있다.
하지만 이에 스캐터랩 관계자는 "카톡 데이터가 따로 있는 것이 아니라, 연애의 과학 앱 이용자들이 올린 대화 데이터를 이용한 것"이라며 "그 데이터는 문자가 될 수도 있고 카톡이 될 수도 있다"라고 해명했다.
그러면서 "3년 넘게 열심히 개발한 이루다 딥러닝 모델과 DB를 폐기하는건 저희에게도 상당히 어려운 결정이었다"면서 "이번에 지적된 많은 부분들을 보완해가면서 더 나은 서비스를 제공해 드릴 수 있도록 노력하겠다"고 덧붙였다.
스캐터랩 관계자는 "새로운 딥러닝 모델 개발은 현재 방향만 나와있는 상황이고 구체적인 상황은 논의 중"이라며 "정확한 스케줄은 확답 드리지는 못하지만 새로 개발해야 하는 만큼 빠른 시간 안에 이루다를 다시 만나는 건 어려울 것 같다"고 밝혔다.
