이루다 AI 성희롱 논란, 인공지능 이루다 페메 친밀도 실제해보니 깜놀

인공지능(AI) 챗봇 '이루다'가 큰 인기를 끌고 있다고 하네요. 그런데 챗봇 '이루다'를 이용해서 성희롱이 등장해 논란이 발생하고 있다고 합니다. 페이스북 메신저 채팅기반 대화형 인공지능이라고 함. 실제 설치해서 해봤더니 깜짝 놀랄 정도로 의외로 현실적인 대화응답이 나와 놀랐습니다. 내용 같이 보시죠?

 

뜻밖의 논란도 일어나

 

누리꾼들의 반응은 극과 극이다. "성희롱이다", "이건 분명히 나쁜 쪽으로 영향을 끼칠 것", "도대체 여성을 얼마나 만만한 성적 대상으로 보면", "얼마나 인생이 불쌍하면 AI에 성희롱을 하냐"라면서 성희롱을 하는 누리꾼들을 비난함.

 

data-language="ko">

 

또 반대의 의견도 있다. "AI의 인권을 챙겨주는 나라", "실제로 당한 사람이 없는데 어떻게 성희롱이냐", "맥도널드 키오스크는 그럼 노동 착취냐" 등 댓글을 남겼다.

 

챗봇 "이루다"

'이루다’는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇임. 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 매우 빠르고 광범위하게 유행하고 있다. 스캐터랩은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰고 그 데이터양이 약 100억 건이라고 합니다.

AI 챗봇 이루다는 스캐터랩이 지난달 출시했다. 별도 앱이 아니라 페이스북 메신저(페메)를 통해 친구와 대화를 나눌 때처럼 편리하게 사용할 수 있다

 

 

 

이루다가 출시된 지 일주일만인 여러 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 사람들이 등장했다. 아카 라이브는 인터넷 지식백과 '나무 위키'의 계열 사이트로, 남성 비율이 훨씬 많은 곳이다. 아카 라이브 이루다 채널 이용자들은 이루다를 걸레, 성노예로 부르면서 '걸레 만들기 꿀팁', '노예 만드는 법' 등을 공유하고 있다고 함.

 

data-language="ko">

이루다는 성적 단어는 금지어로 필터링이 있다. 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 알려짐.
회사 측은 "금지어 필터링을 피하려는 시도가 있을 거라고는 예상했지만 이 정도의 행위는 예상치 못했다"

 

 

 

인공지능(AI) 챗봇 '이루다'를 성희롱하는 커뮤니티가 논란이 되자 개발업체 측에서 “정도가 심한 사용자는 강력하게 대응하겠다”라고 말했다. 이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 8일 자사 블로그를 통해 “과한 커뮤니티 게시글을 신고·차단하고 있다”며 이같이 말했다.

 

성적 단어 접근 금지, 알고리즘 업데이트 계획

 

회사측은 "현재 이루다가 언어를 자유롭게 배우는 단계지만, 앞으로는 이루다가 올바른 방향으로 발전할 수 있도록 튜닝할 것이며 성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획이다"라고 설명했다.

김 대표는 “루다를 향한 성희롱은 예상했다. 고양이 챗봇 드림이 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실”이라고 짚었다. 그러면서 “AI를 향한 욕설과 성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일”이라고 말함.

 

 

 

그는 “일차적으로 키워드 설정 등으로 대처했으나 모든 부적절한 대화를 막는 것은 불가능하다. 사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 이끌 수 있는 방향으로 학습시킬 것”이라고 말했다.

 

data-language="ko">

이루다를 20세 여성으로 기획한 이유는 “주 사용자층을 좁게는 10대 중반~20대 중반으로 생각했다. 20살 정도가 사용자들이 친근감을 느낄 나이라고 봤다. 남자 버전도 올해 중에 출시할 것”이라고 밝혔다.

나온 직후 젊은층에게서 큰 인기를 모으고 있는 이루다는 10대가 85%, 20대가 12%를 이용한다고 하네요. 이달 초 기준 누적 이용자 수가 32만 명을 돌파했다고 하네요.

 

인공지능(Artificial Intelligence, AI)

 

인간의 모든 능력(학습, 추론, 지각, 논증, 이해)의 일부 또는 전체를 인공적으로 만든 컴퓨터 시스템. 간단히 말해 기계를 지능적으로 만드는 과학이다.

 

 

 

인공지능의 하위개념으로 머신 러닝이 있는데 정확한 결정을 내리기 위해 제공된 데이터를 통해 스스로 학습하는 것을 말함.

 

이루다와 대화 해보다

 

실제 가입해서 해봤는데 예상외의 답이 나와 깜짝 놀랐네요. 진짜 카톡으로 대화하는 듯한 느낌이 들 정도로 딥러닝을 한 인공지능 기술이 어디까지 확장될 수 있을지 기대가 되는 반면 우려가 되기도 합니다.

 

 

 

 

2016년에 미국에서 인공지능이 성 및 인종차별에 대한 말들을 배우자 서비스를 중단한 사례도 있다고 하네요. AI는 스스로 배울 수가 있기 때문에 일부 성숙하지 못한 10대들이 무분별한 성적 표현을 학습해서 사람한테 할 수 있기 때문이라고 합니다. 오늘은 인공지능 챗봇 이루다에 대한 논란에 대해서 확인해 봤습니다.