이루다 AI 챗봇 연애의 과학 카카오톡 개인정보 유출 문제

바쁜 분들을 위해 세줄 요약부터 올린다.

 

출처 : 에브리타임

- 연애의 과학 앱을 통해 사용자 카톡 대화 정보 100억건으로 이루다 챗봇을 만듬

- 개인정보가 확실히 숨겨지지 않은 상태에서 대중들에게 공개됨(계좌번호, 사는 곳, 애칭, 성적인 농담 등등)

- 이루다가 하는 각종 성적인 대화, 잔인한 대화, 동성애 혐오 등등은 전부 누군가가 실제로 했던 대화들로 추측

와 진짜 충격이다.

 

최근 이루다 AI 챗봇이 되게 인기다. 성희롱이라던가 동성애 혐오라던가 많은 문제점이 있어 논란이 됐지만, 상당히 자연스러운 대화가 가능하다길래 놀랐다.

● 이루다 AI 챗봇 어떻게 이렇게 똑똑해?

알고보니 카카오톡 100억건의 대화를 기반으로 학습시켰고, 그걸 기반으로 대화를 이끌어간단다. 여기서 신기했다. 이제 스타트업 회사 아닌가? 어떻게 100억개나 가졌지?

 

출처 : 연애의 과학

● 유명 대화분석 관련 회사와 연관

근데 알고보니 스타트업 회사가 아니었다. 이 카카오톡 대화들은 연애의 과학이라는 사이트에서 가져온 것이었다. 연애의 과학 사이트는 위 처럼 연인들, 썸타는 사이들의 심리를 분석하는 사이트다. 연애 정보나 내가 좋아하는 사람의 마음이 궁금한 분들은 한번쯤 들어가봤을 사이트다.

 

 

상당히 흥미로운 주제가 많다.

 

● 대화를 분석해주는 유료 서비스

그리고 유료서비스도 있다. 카카오톡 대화를 기반으로 상대방의 속마음을 알려주는 서비스가 있다. 어떻게 분석하냐고? 이모티콘 쓰는 빈도나 ㅋㅋ의 개수, 답장 시기, 말투 등등으로 분석해준다.

 

연애의 과학에는 무려 100억개의 대화가 있다고!!!! 이 빅데이터를 바탕으로 실제 연인 발전 가능성이나 권태기 극복 가능성들을 알려주는거지.

 

● 유료서비스2

게다가 1년동안 어떤 대화를 많이 나눴는지 올해의 기록, 올해의 키워드, 행복했던 순간들, 올해의 타임라인 등등을 마찬가지로 분석해준다.

 

상당히 재밌어보이지? 흥미롭기에 많은 회원들이 생겼다. 앱 다운로드 수만 250만건 이상.

 

이러한 분석을 위해 대화내용 수집 동의를 받았을 것이다. 하지만 내 대화가 저딴 이루다 AI 챗봇같은 걸 만드는데 사용할 거라고 누가 예상했겠는가???

 

● 정보 이용 동의가 있긴해.

동의 내용에 신규 서비스 개발이란 내용이 있는데, 내 개인 정보를 기반으로 신규 서비스를 개발한 것이다. 증거를 보여달라고? 아래는 실제 이루다 AI와 대화한 내용들이다.

 

● 누군가의 사는 곳을 동과 호수까지 말해주는 사례

이루다는 분명 사는 곳이 없는 AI인데 주소에 대해 물어보면 또 답장해준다. 저게 누구의 주소냐고? 연애의 과학 앱을 사용하던 커플 중 누군가의 주소겠지. 그 사람의 대화내역이 연애의 과학에 수집되었을 거고, 그 정보가 이루다 앱에 흘러갔을 가능성이 있다.

 

에버랜드 데이트 가던 커플인가보다.

 

● 누군가의 애칭을 말해주는 사례

거기에 지영아라고 부르면 지영이랑 사귀던 사람의 애칭이 나온다. '대미낭'인거 보면 대민이란 사람과 사귀었나보다. 혀누도 나오네.

 

● 계좌를 말해주는 사례

계좌를 물어보면 예금주 이름과 계좌번호까지 알려준다. 저것도 누군가의 소중한 개인정보겠지.

● 실명으로 사는 곳 대답해주는 사례

성민이가 어디사는지 물어보면 성민이란 사람이 노원역 커피나무에서 일하고, 오픈할 때쯤 카톡했다는 것을 알 수 있다. 재호란 사람은 또 어디 사는지 정보도 나오고...

 

 

이런 것들을 보면 실제 연인들 대화 기반으로 만들어진 것이 분명해 보이고, 이루다가 하는 채팅들은 높은 확률로 실제 대화임을 추측할 수 있다.

● 이런 대화들은 실제 누군가 했던 말들이다.

그럼 개소름돋는 사실을 알게된다.

 

이루다 AI 챗봇의 각종 성적인 대화들은...? 이게 그냥 나온걸까? 아니다! 서로 사랑했던 누군가의 대화 아닌가? 그걸 남한테 보여준다고...? 연인들끼리 야한 카톡하는거 죄 아니다. 그럴 수 있다. 연인이니까. 사생활이니까. 유출될 걱정 안했으니까.

여기에 다 올릴까하다가 내 블로그 이상해질 것 같아서 안올린다. 인터넷 좀만 검색해도 나옴.

 

근데 그걸 이제 남한테 보여주라하면 보여줄 수 있을까? 없다. 부끄럽거든. 절대 안보여준다. 그것은 사생활이거든. 나의 사생활. 근데 내 자의가 아니라 타의로 누군가에게 공유된다면? 유출된다면? 정말 세상 살기 싫어질 것이다.

 

● 앱 내 Q&A

결과적으로 개인정보 비식별화가 확실히 이뤄지지 않았다고 생각한다. 위 사진은 연애의 과학 앱에 있는 Q&A다. 사생활 노출 평생 지켜준다고 한다. 근데 이루다 앱을 보면 아니라고 느꼈다. 무섭다. 개인정보 유출이 발생하는 것이. 내가 했던 대화도 어딘가에서 이렇게 사용될까봐.

 

● 2021년 1월 12일 추가

이루다 개발사 직원들이 수집한 연인들의 성적인 카톡 대화를 단톡방에 공유했다고 뉴스가 떴음.

 

출처 : 연합뉴스

와 미친 대박 이거는 진짜 잘못 만든 수준이 아니라 조사해야함. 완전 노답인데???

---

이 유료서비스는 연인들 대화 뿐만 아니라 썸타는 사람, 짝사랑과의 대화도 분석 대상이다. 돈만 내면 다 분석해준다. 그 뜻은 어떤 대화든 연애의 과학 회원이라면 분석 의뢰를 맡길 수 있다는거지.

 

얼른 탈퇴하라고 권하고 싶은데, 과연 여기에 사용됐던 내 데이터가 탈퇴한다고 완전 삭제될지 미지수다.