'20살 가상 여대생' 인공지능 챗봇 이루다, 결국 법정으로... '개인정보 유출' 집단소송
'20살 가상 여대생' 인공지능 챗봇 이루다, 결국 법정으로... '개인정보 유출' 집단소송
  • 신새아 기자
  • 승인 2021.02.18 17:51
이 기사를 공유합니다

"AI 학습용 데이터 개인정보 유출 소송 전례 없어... 기준 되는 선례 만들어야"

[법률방송뉴스] 최근 20살 가상의 여대생, 인공지능(AI) 대화 서비스 챗봇 ‘이루다’가 큰 관심과 함께 논란이 된 바 있습니다.

장애인이나 성소수자를 비하했다는 논란과 함께 이루다를 만든 ‘스캐터랩’이라는 스타트업 회사가 이용자들의 개인정보를 무단으로 수집, 유출했다는 의혹까지 제기된 건데요.

이루다 개발 및 서비스 과정에서 개인정보 유출을 당했다고 주장하는 피해자들이 이루다 개발사인 스캐터랩을 상대로 집단소송을 준비하고 있다고 합니다. 

해당 소송을 대리하고 있는 김상현 변호사를 만나 소송 쟁점 등 관련 얘기들을 들어봤습니다. 신새아 기자입니다.

[리포트]

‘이루다’라는 이름의 인공지능(AI) 대화 서비스 챗봇이 첫선을 보인 건 크리스마스 이브를 하루 앞둔 지난해 12월 23일입니다.

‘20살 가상 여대생’은 첫선을 보이자마자 뜨거운 관심과 주목을 받았고, 3주 만에 이용자는 80만명을 넘어섰습니다.

그런데 폭발적인 관심과 함께 자신의 개인정보가 유출된 것 같다는 의혹이 여기저기서 터져 나왔습니다.

[스캐터랩 앱 '이루다' 이용자]
“이루다를 들어가서 해봤는데 그런 경우도 있었거든요. 누구 이름을 부르면 거기에 맞춰서 다른 분의 애칭이 나온다든지 그런 경우도..."

이루다 개발사는 앞서 지난 2013년부터 2016년까지 출시한 연애 상담 앱 ‘텍스트앳’, ‘진저’, ‘연애의 과학’ 등을 통해 수집한 이용자들 카카오톡 대화 100억건을 이루다에게 학습시켰습니다.

이 데이터를 기반으로 한 이른바 ‘딥러닝’을 통해 이루다는 상대 이용자가 말을 걸면 비슷한 상황과 답변을 찾아 대화를 이어가는 겁니다.

그러나 이 과정에서 특정 개인의 주소나 실명, 카카오톡 대화 내용, 심지어 계좌번호까지 여과 없이 노출되는 사례가 다수 전해졌고, 이용자들은 사생활 유출 불안감에 휩싸였습니다.

[스캐터랩 앱 ‘연애의 과학’ 이용자]
“이 앱을 사용한 유저들은 사랑하는 사람 마음을 파악해서 더 나은 관계에 도움이 된다고 생각해 결제를 하고 앱에 신뢰와 애착을 갖고 사용을 해왔던 거거든요. 그런데 이런 일로 피해자들은 충격을 많이 받았고 개인정보가 언제, 어디에 퍼질지 모른다는 불안감에 떨면서 지금...”

이에 이루다 개발사인 스캐터랩은 결국 지난 1월 12일 이루다 서비스 잠정 중단을 발표했지만, 파문은 가라앉지 않고 있습니다.

370명 넘는 이용자들이 개인정보 유출에 따른 피해를 봤다며 집단소송에 나서고 있는 겁니다.

피해자들을 대리하고 있는 법무법인 태림 김상현 변호사도 이루다 개발사인 스캐터랩이 출시한 앱 ‘진저’ 이용자였습니다.

[김상현 법무법인 태림 변호사 / 이루다 개인정보 유출 집단소송 대리인]
“그 과정에서 개인정보들이 비식별화 조치나 가명 정보 조치들이 제대로 되지 않았다는 사례들까지 접하게 되니까 제 스스로의 개인적인 정보들 또한 그렇게 제공됐을 것으로 상상을 하니 굉장히 좀 혼란스럽고 분노나 우려나...”

일단 인공지능 챗봇의 학습 관련 개인정보 유출에 대한 피해 위자료 청구 소송은 국내에선 처음이라는 것이 김상현 변호사의 설명입니다.

[김상현 법무법인 태림 변호사 / 이루다 개인정보 유출 집단소송 대리인]
“(변호사인) 제가 이렇다면 사실 법에 많이 익숙하지 않은 일반 이용자들은 (대처에) 더 답답함과 많은 어려움들을 겪으실 것이라 생각이 들었고, 이게 굉장히 중대한 사안이고 앞서 선례 같은 것도 많이 없다 보니까...”

공동소송 플랫폼 ‘화난사람들’을 통해 집단소송 동참자를 모집한 김상현 변호사는 본안소송에 앞서 일단 스캐터랩 측이 자료를 임의로 파기하지 못하도록 법원에 증거보전 신청을 냈습니다.

[김상현 법무법인 태림 변호사 / 이루다 개인정보 유출 집단소송 대리인]
“스캐터랩 측에서 자의적으로 데이터를 파기하게 되는 경우에는 피해자들의 구체적인 개별 피해 내역을 좀 확인하기가 어려운 상황이 예상돼서요. 저희가 빠르게 사전조치로써 서울동부지방법원에 데이터베이스(DB), 개인정보 데이터베이스들에 관한 증거보전 신청을...”

본안소송이 제기되면 핵심 쟁점은 스캐터랩 측이 이루다 서비스를 출시하기 위해 활용한 카톡 대화가 적법하게 수집·활용됐는지 여부입니다.

[김상현 법무법인 태림 변호사 / 이루다 개인정보 유출 집단소송 대리인]
“만약에 고의적으로, 의도적으로 그렇게 불분명하게 고지를 하고 대화 내용을 수집해 이루다 개발에 사용을 했다면 ‘개인정보보호법’ 위반에 해당하는 것은 물론이고 ‘정보통신망 이용 촉진 및 정보보호 등에 관한 법률’ 위반에 해당될 수도 있기 때문에...”

이와 관련 스캐터랩 측은 ‘신규 서비스 개발 등’에 카톡 대화 같은 개인정보가 이용될 수 있다고 공지한 만큼 문제가 없다는 입장이지만, 김상현 변호사는 어불성설이라고 반박합니다.

이용자들 입장에선 가입 당시 존재하지도 않은 이루다 서비스에 자신들의 개인정보가 이용될 것이라고는 생각할 수 없다는 겁니다.

[김상현 법무법인 태림 변호사 / 이루다 개인정보 유출 집단소송 대리인]
“사실 이용자들 입장에서 ‘신규 서비스’라는 부분이 어떤 본인들이 지금 사용하고 있는 애플리케이션인 ‘연애의 과학’이나 ‘진저’ 이외에 다른 서비스일 것이라고는 상상하기 어렵죠. 이에 관해서 구체적인 고지나 동의절차를 거치지 않고 자신들이 개발 중인 이루다 인공지능 서비스 학습 데이터로써, 자연 학습 데이터로써 이용자들의 대화 내용을 무단으로 사용을...”

스캐터랩 측이 개인정보 보호에 대해 지나치게 무감하거나 가볍게 여기는 것 아니냐는 것이 김상현 변호사의 지적입니다.

[김상현 법무법인 태림 변호사 / 이루다 개인정보 유출 집단소송 대리인]
“회사 내에서도 개인정보처리 취급 권한이 없는 직원들에게까지 특정인들의 대화 내용을 공유하면서 희화화하는 내용의 메시지 내용이 발견되기도 하는 등 개인의 정보들이 전혀 보호받지 못하고 범위를 알 수 없을 정도로 유출되는 이런 피해들을...”

소송과는 별개로 현재 국무총리 산하 개인정보보호위원회 조사가 진행 중인데 조사 결과에 따라 집단소송에도 영향을 미칠 수 있다고 김상현 변호사는 말합니다.

[김상현 법무법인 태림 변호사 / 이루다 개인정보 유출 집단소송 대리인]
“개인정보보호법 위반 사실의 결과와 손해 결과만 드러난다면 스캐터랩 측에서는 자신들의 고의·과실이 없음을 입증해야 되는 상황이거든요. 이런 개인정보위원회의 조사결과로 개인정보보호법 위반 행위를 한 사실이 드러나게 됐을 때는 저희 피해자들의 소송이 조금 더 긍정적인 영향을...”

김상현 변호사는 그러면서 인공지능 개인정보 침해 관련 최초 선례를 만드는 소송이니만큼 합리적 기준을 정립할 수 있도록 최선을 다해 소송에 임하겠다는 각오를 거듭 밝혔습니다.

[김상현 법무법인 태림 변호사 / 이루다 개인정보 유출 집단소송 대리인]
“개별 이용자들이 스캐터랩에 개별적으로 정보의 파기를 요청하거나 피해 보상들이나 이런 것들을 요구했을 때 제대로 잘 이뤄지지 않을 것이라고 생각했고, 중대한 사안인 만큼 굉장히 많은 피해자들이 단체로 목소리를 높여서 법적인 절차를 통해 공식적인, 객관적인 판단을 받는 것이 중요하다...”

이와 관련 스캐터랩 측은 "숫자와 영문, 실명 정보 등은 기계적인 필터링을 거쳐 이루다 최초 출시 당시부터 모두 삭제했고, 개별 문장 단위 대화 내용은 알고리즘에 의해 비식별화 조치를 했다"고 밝혔습니다.

"AI는 프리 트레이닝(Free Training) 단계에서 사람 간의 대화 속에 존재하는 맥락과 답변의 상관관계만 학습하게 되며, 이때의 데이터는 외부로 노출되지 않는다“는 것이 스캐터랩 측의 해명입니다.

스캐터랩 측은 그러면서 “연애의 과학 사용자 데이터는 사용자의 사전 동의가 이루어진 개인정보 취급방침의 범위 내에서 활용했다”며 “AI 학습에 데이터가 활용되기 원치 않는 경우 해당 데이터를 삭제하는 등 추가 조치를 진행할 예정”이라고 덧붙였습니다.

관련해서 김상현 변호사는 앞으로 우리 사회가 맞닥뜨릴 빅데이터 산업과 AI에 대한 윤리적·법적 기준과 적절한 법제도 마련이 필요하다고 강조했습니다.

[김상현 법무법인 태림 변호사 / 이루다 개인정보 유출 집단소송 대리인]
“사실 인공지능 개발이라는 것들이 사회적으로 저희에게 밀접해진 것도 얼마 되지 않았고 실제로 개인정보보호법 또한 아직 부족한 부분들도 많이 있을 거라는 생각이 많이 들거든요. 인공지능 산업 발전과 개인의 기본 권리들이 잘 조화될 수 있도록, 그리고 선례를 잘 만들어서 정부 차원이나 공공기관 차원에서의 어떤 윤리기준이나 수칙들을 잘 수립할 수 있고 제반 지원 환경이 잘 만들어질 수 있도록...“

법률방송 신새아입니다. 

 

신새아 기자 saeah-shin@lawtv.kr



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울시 강남구 역삼로7길 22 BMS 4층
  • 대표전화 : 02-585-0441
  • 팩스 : 02-2055-1285
  • 메일 : ltn@lawtv.kr
  • 청소년보호책임자 : 신새아
  • 법인명 : 주식회사 법률방송(Law TV Network)
  • 제호 : 법률방송뉴스
  • 등록번호 : 서울 아 04176
  • 등록일 : 2016-10-17
  • 발행일 : 2016-10-17
  • 발행인 : 김선기
  • 편집인 : 박재만
  • 열린 보도원칙 : 법률방송뉴스는 독자와 취재원의 권리 보장을 위해 반론·정정보도를 요청할 수 있는 창구를 열어두고 있습니다.
  • 고충처리인 : 박재만
  • 법률방송뉴스의 모든 콘텐츠(기사, 영상, 사진)는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2021 법률방송뉴스. All rights reserved. mail to ltn@lawtv.kr
ND소프트