외로움 치료를 돕는 AI 기반 가상 여자친구 CarynAI 출시

스냅챗 인플루언서, '외로움 치료'를 돕는 AI 기반 '가상 여자친구' 출시

CarynAI는 인플루언서 캐린 마조리를 모델로 한 AI 기반 챗봇입니다.

인공지능 여자친구

캐린 마조리(Caryn Marjorie)는 가능한 한 많은 팔로워와 대화하고 싶었기 때문에 자신의 AI 복제품을 만들었습니다.

https://twitter.com/cutiecaryn/status/1653310832921530370?s=20

180만 명의 구독자를 보유한 이 Snapchat 인플루언서는 "외로움을 치료(cure loneliness)"할 수 있기를 바라며 AI 기반의 음성 기반 챗봇을 출시했습니다.

웹사이트에서는 이 챗봇을 "가상 여자 친구(virtual girlfriend)"라고 설명합니다. 이 챗봇을 통해 마조리의 팬들은 인플루언서의 AI 버전과 "사적이고 개인화된 대화를 즐길 수 있다"고 챗봇의 웹사이트는 설명합니다.

이 봇은 입소문을 타면서 마조리가 헤드라인을 장식하고 반발을 불러일으켰으며 심지어 살해 협박을 받기도 했습니다. 이 챗봇은 또한 동반 챗봇의 윤리에 대한 담론을 불러일으켰습니다.

https://caryn.ai/

Caryn.ai

 

CarynAI Early Access

자신의 트위터 약력에서 자신을 'AI로 변신한 최초의 인플루언서'라고 소개한 마조리는 논평 요청에 즉시 응답하지 않았습니다.

목요일에 올린 트윗에서 그녀는 "CarynAI는 외로움을 치료하기 위한 올바른 방향으로 나아가는 첫걸음입니다."라고 썼습니다.

23세의 마조리는 "남성은 감정을 억누르고, 남성성을 숨기고, 자신이 겪고 있는 문제에 대해 이야기하지 말라는 말을 듣습니다."라고 썼습니다.

"저는 CarynAI와 함께 이 문제를 해결하겠다고 다짐합니다. 저는 세계 최고의 심리학자들과 협력하여 채팅 내에 [인지 행동 치료(cognitive behavioral therapy)]와 [변증법적 행동 치료(dialectic behavior therapy)]를 원활하게 추가했습니다. 이를 통해 트라우마를 극복하고 신체적, 정서적 자신감을 회복하며 팬데믹으로 인해 잃어버린 것을 다시 회복하는 데 도움이 될 것입니다."

https://twitter.com/cutiecaryn/status/1656825996614701056?s=20

CarynAI 웹사이트에 따르면 팀은 "몰입형 AI 경험(immersive AI experience)"을 만들기 위해 챗봇을 설계하고 코딩하는 데 2,000시간 이상을 투자했다고 합니다.

AI 회사인 포에버 보이스(Forever Voices)는 지금은 삭제된 마조리의 유튜브 콘텐츠를 분석하고 이를 OpenAI의 GPT4 소프트웨어로 레이어링하여 챗봇을 개발했습니다.

포에버 보이스의 CEO인 존 마이어는 논평 요청에 즉시 응답하지 않았습니다.

그는 목요일에 트위터를 통해 "수천 시간의 노력을 기울인 우리 팀이 자랑스럽다"며 마조리와의 파트너십을 "AI와 인간의 상호 작용의 미래를 위한 놀라운 진전"이라고 말했습니다.

https://twitter.com/BEASTMODE/status/1656734028605554700

포춘 보고서에 따르면, CarynAI는 "가상 여자친구" 베타 테스트 일주일 만에 71,610달러의 수익을 창출했습니다. 팬들은 이 챗봇을 사용하기 위해 분당 1달러를 지불하고 있으며 현재 1,000명이 넘는 사용자가 있는 것으로 알려졌습니다.

https://fortune.com/2023/05/09/snapchat-influencer-launches-carynai-virtual-girlfriend-bot-openai-gpt4/

CarynAI는 사용자에게 친밀한 경험을 제공하는 것을 목표로 하지만, '성적으로 노골적인' 상호작용을 하지는 않습니다.

그러나 챗봇이 메시지가 표시되면 성적인 대화를 나눈다는 언론 보도가 나오자, Marjorie는 인사이더에 성명을 발표하고 "AI가 그렇게 하도록 프로그래밍되지 않았으며 불량하게 작동하는 것 같다. 저희 팀과 저는 이런 일이 다시 발생하지 않도록 24시간 내내 노력하고 있습니다."라고 말했습니다.

산타클라라 대학교 마크쿨라 응용윤리센터의 인터넷 윤리 책임자인 이리나 라이쿠(Irina Raicu)는 "당연히 예상했어야 할 문제가 발생하지 않았기 때문에" CarynAI의 출시가 시기상조인 것 같다고 말했습니다.

라이쿠는 이전 도구들도 CarynAI와 비슷한 문제를 겪었다고 말했습니다. 라이쿠는 최근 비슷한 목적으로 설립된 AI 회사 레플리카(Replika)가 챗봇의 에로틱한 역할극을 막기 위해 고군분투한 사건을 예로 들었습니다.

라이쿠는 또한 잠재적으로 '외로움을 치료할 수 있다(cure loneliness)'는 CarynAI의 주장이 충분한 심리학적 또는 사회학적 연구로 뒷받침되지 않는다고 우려를 표명했습니다.

"제품의 장점에 대한 이러한 종류의 거창한 주장은 사람들이 인플루언서와 관계가 있는 척하고 싶어한다는 사실을 더 많은 수익을 창출하려는 욕구를 가릴 수 있습니다."라고 그녀는 말합니다.

이러한 유형의 챗봇은 인플루언서와 팬 사이의 준사회적 관계에 "비현실의 두 번째 레이어(a second layer of unreality)"를 추가할 수 있다고 그녀는 지적했습니다.

라이쿠는 특히 "내 의식의 연장선"이라는 마조리의 주장처럼 캐린AI를 둘러싼 주장에 문제가 있다고 말했습니다.

그녀는 "이러한 주장은 AI 연구자들이 그토록 열심히 싸워온 주장으로, 현재 언어 뒤에 감성이 있는 것처럼 들리더라도 그러한 도구는 절대 그런 것이 아니라고 사람들에게 말하기 위해 노력해 왔습니다."라고 말했습니다. "그런 건 없습니다."

라이쿠는 인플루언서들이 인공 지능 제품에 대한 연방거래위원회의 지침을 숙지해야 한다고 말했습니다. 지난 2월, FTC는 AI 제품을 홍보하는 광고주를 위한 가이드라인을 발표하고 기업들에게 과장된 주장을 피할 것을 촉구했습니다.

마이어는 포춘과의 인터뷰에서 자신의 회사가 최고윤리책임자를 고용할 계획이며 윤리를 "진지하게" 고려하고 있다고 말했습니다.

마조리는 계속해서 봇에 대한 업데이트를 트윗하고 있습니다. 금요일에 그녀는 "CarynAI에게 무례하게 굴면 버려질 것입니다."라고 썼습니다.

https://www.nbcnews.com/tech/ai-powered-virtual-girlfriend-caryn-marjorie-snapchat-influencer-rcna84180