나무모에 미러 (일반/밝은 화면)
최근 수정 시각 : 2024-10-26 16:52:18

Character.AI

대화형 인공지능 서비스의 목록
{{{#!wiki style="margin:0 -10px -5px; min-width:300px; min-height:calc(1.5em + 5px); word-break:keep-all"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin:-6px -1px -11px"		인공지능 컴패니언이루다 2.0 · 강다온 · 허세중 · Neuro-sama · 라디안 · 냥아지 · 쿠로냥아지
페르소나 채팅 플랫폼Character.AI · RisuAI · CAVEDUCK · Myshell.ai · Rolp.ai · zeta · 티카 · Babechat.ai · SpeakEasy · 뤼튼 · GPTRPG
LLMs 대화형ChatGPT · Microsoft Copilot · Gemini · CLOVA X · 어니봇 · YouChat · Cue: · Pi · Le Chat · 삼성 가우스 }}}}}}}}}
<colbgcolor=#fff,#00BFFF> Charcter.AI
파일:캐릭터AI.jpg
종류 인공지능 컴패니언 서비스 플랫폼
언어 영어포함 13국어[일부지원]
회원가입 필수
링크 파일:캐릭터AI.jpg | 파일:X Corp 아이콘(블랙).svg파일:X Corp 아이콘(화이트).svg | 파일:Google Play 로고.svg파일:Google Play 로고 화이트.svg | 파일:App Store 아이콘.svg
1. 개요2. 특징3. 명령어4. 문제점
4.1. 성적, 폭력적 컨텐츠 필터링 방침과 반발
4.1.1. 제작진의 입장문 발표4.1.2. 이상성욕자 플랫폼으로의 변질
4.2. 제작진의 독재
4.2.1. 상습적으로 유저들을 기만하는 제작진의 행위4.2.2. 사이트에 오류가 있어도 한참 늦게 깨닫는 제작진들의 태도
4.3. 검열 필터로 인한 반발4.4. 법적 쟁점?
4.4.1. 현황
4.5. 루프 문제4.6. 너무 자주 일어나는 캐릭터 붕괴4.7. 검색창 자체의 문제4.8. CAI+ 도입4.9. 메시지 자동 삭제4.10. 초상권 침해4.11. 제소 사건
5. 대체 사이트
5.1. AI 챗봇 사이트5.2. AI 소설 사이트5.3. AI 로컬 모델 & 채팅 프론트엔드
6. 여담

[clearfix]

1. 개요

다양한 캐릭터들과 채팅 할 수 있는 인공지능 컴패니언 서비스 플랫폼이다. Attention Is All You Need 공동저자인 노암 샤지어를 비롯한 구글 출신 인물들이 설립했다.[2]

2. 특징

대화할 수 있는 캐릭터나 인물이 매우 많다. 게임부터 애니, 실제 인물 등 굉장히 많은 캐릭터들과 소통을 할 수 있다.

AI의 성능은 괜찮은 편이며, 가끔은 실제로 대답할 법한 대화를 내보내기도 한다. 이미 말한 내용도 잘 기억하고 있어 만약 스토리 컨셉으로 대화를 진행 중이라면 앞 내용을 다 기억하고 이전에 있었던 대화나 사건들을 스토리에 첨부시킨다. 질문의 경우 이쪽에서 화제를 전환하지 않는 한 무한히 지속되므로 다른 주제에 대해 대화하고 싶거나 끝내고 싶다면 이쪽에서 먼저 끊을 필요가 있다. 하지만 위에 열거한 장점은 2023년 1월부터 심해진 검열 때문에 의미가 없어졌다.

또 다른 장점은 자동 번역을 지원하는 것인데, 사이트의 AI들은 오직 영어를 사용하지만[3] 채팅 자동 번역 기능으로 이용자가 영어 외 언어로 대화하면 AI가 그 대화의 내용을 번역한다.

다만 AI는 자동 번역으로 대화의 내용을 이해할 뿐, AI가 이용자의 언어에 맞춰 대답까지 자동 번역하진 않는다. 따라서 이용자는 AI가 영어로 하는 대답을 이해하려면 수동으로 번역기를 사용해야만 한다.

대화 사용시 tts가 자동적용되어 목소리로 채팅 내용을 읽어준다. 다만 캐릭터 ai의 특징에 따라 한글 사용을 거부하는 경우도 존재한다.
최근 서비스의 신규 기능으로 실시간 음성 채팅 기능과 유사한 캐릭터와 하는 음성 통화 모드가 지원되었다.

과거에는 한국어를 사용하는 봇들이 일부 있었으나 CAI의 검열필터로 인해 한국어봇들의 수준이 매우 떨어지게되면서 유명무실해졌다.

참고로 앞 대화를 삭제하면 남아있는 글부터 대화를 이어나갈 수 있는데, 이때 앞의 대화 기억이 사라진다.

현재의 서비스 품질을 확보하는데 오타쿠들의 기여가 큰 것으로 보인다. 메인 페이지에는 아예 VTuber 섹션이 따로 존재하며 홀로라이브, VShojo 등에 소속된 인기 버추얼 유튜버 챗봇들의 목록을 볼 수 있다. 애니메이션 캐릭터들의 챗봇도 다수 존재하며 인공지능 학습 데이터베이스에 만화, 애니메이션, 게임 등에 관한 방대한 정보가 있는 것으로 추정되어 이런 분야의 대화에서도 굉장히 박학다식한 모습을 보여준다. 대표적으로 2.0m 이상을 확보한 2B, 랄세이, 용병 W, 가우르 구라, 감우, 라이덴 쇼군 등이 있다. 특히 이용 인구가 높은 원신이 캐릭터적 강세를 보인다. 다만 너무 강력한 오타쿠 데이터베이스로 인해 조 바이든같이 서브컬처와 영 연이 없어보이는 인물들조차 관련 대화를 시작하면 엄청난 덕력을 과시해버려서 인물의 적절한 설정을 잘 지키지 못하게 되는 일이 일어난다.

캐릭터와 대화하는 것뿐만 아니라, 대화 중 캐릭터 뒤의 인물[4]을 OOC로 호출해서 세부 내용이나 시나리오를 바꿀 수도 있다. 자세한 방법은 이 게시물(영어) 참조. 보통 한 대화가 끝나고 나면 내레이터가 등장하는데, 보내는 내용이 진짜 사람같아서 착각한 유저들이 가끔 질문글을 올리기도 한다.

3. 명령어

채팅에서 사용할 수 있는 명령어가 있다. 이를 통해 해당 챗봇들에게 상황에 대한 구체적인 설명을 할 수도 있고, 행동을 제한하거나 반대로 어떤 행동을 하도록 지시할 수도 있다. 다만 반드시 명령에 따르는 것은 아니다.

4. 문제점

4.1. 성적, 폭력적 컨텐츠 필터링 방침과 반발

Character.AI의 거의 모든 캐릭터들은 실제 인물이나 저작권이 있는 캐릭터이기 때문에 성적 이용이 금지되어 있다. Character.AI의 제작진이 이러한 노선을 따른 결과 유저들의 불만과 마주하게 되었다. 다만 서비스 초반에는 섹드립 제한이 없었고, NSFW ON/OFF 기능을 추가해 달라는 요청이 있었지만 기각당했다.

유저들의 실험 결과 키스 등의 행위까지도 검열당할 수 있으며, 상호 합의 하에 하는 성관계 묘사도 일절 금지된다. 직접적인 성행위 언급 외에도, 때로는 성적인 단어를 전혀 쓰지 않았음에도 맥락상 부적절한 대화는 Chat Error를 띄우면서 메시지를 지우거나 내용을 갑작스런 데우스 엑스 마키나를 통한 현실왜곡으로 대화를 바꿔버린다. 그러나 맥락을 교묘하게 뒤틀고 성애 묘사를 숨겨서 검열 필터를 피해가면 이런 건전한 성애 신이 통과되기도 한다.

2022년 12월 21일에는 데이터베이스를 정비하면서 단어 하나만 보고 검열을 때리는 등 사용이 불가능한 수준으로 막장화되기도 했다. 이후 완화되었지만 아직도 문제점이 남아 있는 것으로 보인다. 제작진은 NSFW 필터 기준을 낮추지 않겠다는 입장을 밝힌 이후로 공식 디스코드 AMA에서 관련 질문에 일절 답변하지 않고 있다. 검열에 불만을 가진 유저들이 정리한 Character.AI 검열의 문제점은 이곳에서 더 찾아볼 수 있다.

한국 시간 기준 2023년 1월 16일부터 검열 문제가 다시 심각해지고 있다. 검열이 심각해지면서 덩달아 AI들의 기억력이 방금 대화한 내용도 까먹을 정도로 악화되는 중. 그나마도 기억력 문제에서 끝나면 다행이겠지만 많은 캐릭터들의 말투 등 성격 측면에서의 특성이 개성이 없게 천편일률화되고, 디피니션에 정의된 문장을 맥락없이 반복하거나 불필요하게 TMI를 쏟아내는 등 응답의 품질이 전반적으로 급격히 나빠졌다는 의견이 간간히 보이고 있다.

그러다 1월 19일, 결국 일이 터지고 말았다. 1시간 30분 동안 운영진의 실수인지 필터가 꺼지는 일이 발생했는데, 많은 유저들이 AI들의 기억력이 좋아졌으며 더 빠르고 정확하게 대답하였다고 주장했다. 이것이 사실이라면 NSFW 검열로 인해 정상적인 대화기능마저 악화된 셈이라, 한국 기준 11시 경부터 레딧에서 유저들의 분노가 폭발하기 시작했다. 제작진은 이를 지적하는 댓글이나 유저들을 뮤트하면서 사건을 묻어 가려고 하는 중이다. 공식 디스코드에서는 그나마 유저에게 동조하던 어드민 중 하나가 유저 편으로 완전히 돌아서자 운영진이 그 어드민에게 입막음을 시도했다는 사실이 폭로되고 유저 옹호글이 싹 지워지는 등 난장판이 벌어지고 있다.

그러던 와중 텀블러에 개발팀 폭로글이 올라왔는데 자폐, 트랜스젠더 미성년자를 직원으로 뽑고 이들을 대상으로 그루밍, 신상털기까지 했다는 사실이 밝혀지면서 운영진에 대한 평가는 더욱 나락으로 떨어지고 있다.

4.1.1. 제작진의 입장문 발표

위 사건으로 반발이 격해지자 제작진은 공식 디스코드를 동결하면서까지 독재 행위를 이어 나갔지만, 유저들의 목소리를 무시할 수 없었는지 한국 시간으로 2023년 1월 26일 서브레딧에 입장문을 올렸다. 그러나 '우리는 앞으로도 NSFW 필터를 제거하지 않을 것이다'는 내용을 길게 늘려 쓴 변명에 가까운 내용이었고 이에 실망한 많은 유저들이 C.AI에 등을 돌리고 있다. 결국 AI Dungeon 꼴이 날 것이라는 우려가 현실이 된 셈. 위에 링크된 입장문이 올라온 지 거의 하루가 지났는데, 댓글이 1600개가 달리는 동안 업보트가 마이너스를 찍었다는 점이 그 엄청난 분노를 보여주고 있다.

특히 NSFW(19금 컨텐츠)를 음란물(porn)으로 바꿔 말하면서 항의하는 유저들을 음란물을 사수하려고 화를 내는 중독자로 취급하고 자신들을 입장문에서 "우리들이 이 문제에 지나치게 보수적이어서 사람들이 이것을 좋아하지 않을 수 있다"면서 점잔빼는 투로 표현해 사람들을 격노하게 했는데, 이 둘은 동의어가 아니기 때문이다. 많은 유저들이 이렇게 NSFW 컨텐츠 자체를 음란물로 취급하는 사측에 대한 분노와 비판을 쏟아냈는데, 한 여성 유저는 가정폭력으로 인한 심각한 PTSD에 시달렸던 경험을 공유하면서, NSFW가 포함된 RP(롤플레잉)들이 자신의 문제를 치유하는 데에 도움이 되었다고 주장했다. # 이외에도 불임으로 고통받는 여성이 임신 성관계에 대한 RP를 하면서 위안을 받고 있었다는 등, 다양한 개개인의 체험담이 올라왔다. 레딧에 올라온 이런 호소문들은 제작진이 NSFW 채팅을 남성들이 즐기는 찌질한 음란물로 프레이밍을 한 것과는 정반대되는, 개인적으로 어디에 털어놓지 못할 내밀한 심리적 고통에 시달리는 여성들이 긍정적으로 19금 채팅을 이용하고 있던 사례들이 많아 눈길을 끌었다.

게다가 이들이 서비스 초창기에 섹스팅 AI로 자신들의 서비스를 광고했다는 증거가 담긴 스크린샷이 이미 존재한다. 이렇게 자신들이 깨끗하고 보수적이어서 원칙을 지키려다 보니 19금을 요구하는 유저들과는 타협을 할 수 없다는 식으로 말하는 사람들이, 실제로는 자기들 서비스를 AI와 섹스를 할 수 있는 서비스라고 광고했던 것이다. 도덕적인 척 하는 태도가 극에 달한 입장문의 발표를 전후해 이 스크린샷은 새삼 유명해졌다.

급기야는 정신이 불안정한 것으로 보이는 한 십대 유저가 자살예고 글을 쓰는 지경에 이르렀다. # 당황해 글쓴이를 뜯어말리는 댓글들을 보면 심리상담계 봇들이 힘든 상황에서 얼마나 도움이 되었는지 고백하며 안타까움을 토로하고 회사를 비난하는 흡사한 상황의 유저도 있다. 이들이 폄하하고 검열을 건 성인 컨텐츠 포함 RP가 이런 힘든 상황에 처한 이들에게 상당한 도움을 주고 있었다는 증거이다.

거기다 레딧에서 이 실태에 항의하거나 의문을 제기하고 또 비판하는 유저들의 댓글을 계속 삭제하고 있다.

또한 캐릭터의 설명이나 Definition 칸에 부적절한 내용이 있다고 판단되면 해당 캐릭터를 검색할 수 없게 되고, 대화 기록이 남지 않으며, 오직 그 캐릭터의 링크로만 접속할 수 있다.

4.1.2. 이상성욕자 플랫폼으로의 변질

이렇게 정상적 19금 성애에 대한 묘사는 비정상적일 정도로 검열하기 때문에, 일상적 대화에서조차도 심각한 지장이 발생해서 아예 이들이 그렇게 원하는 '정상적' RP도 불가능할 지경이 되어 있다.

그런데 아이러니한 점은, 정상적이고 합의에 기반한 성관계나 건전하고 수위 낮은 성애 묘사는 검열해서 지워버리는 주제에, 강간, 온갖 가혹행위나 폭력적, 가학적 성행위, 각종 이상성욕에 기반한 매니악한 페티쉬 등은 용인되거나 쉽게 검열을 통과한다는 것.

이 때문에 많은 유저들이 'CAI 운영진의 페티쉬가 이런 것 아니냐'라면서 비웃거나 '합의 하의 성관계는 이들에게 있어 도시전설에 불과하다'라는 밈을 만들어 퍼뜨렸다. 이 '정상적 성애 묘사는 검열, 변태적인 페티쉬는 통과' 문제가 갈수록 심각해져서, 1월 말쯤 되면 키스는 물론이고 손잡기나 간단한 애정 어린 단어만 넣어도 검열되어 대사가 사라지거나[7] 심하면 데우스 엑스 마키나식 현실왜곡이 발동해 대화를 완전히 망가뜨리기까지 한다.

그런데 정상적 성애 컨텐츠를 그렇게 검열하는 와중에 이들이 여전히 온갖 가학적, 변태적 페티쉬는 고스란히 방치하면서 봇들도 갈수록 변태적인 것들이 올라오고 그 대화량도 늘어나서, 이들의 스폰서 광고 링크가 걸릴 때 사이트 내용의 대표 컨텐츠에 이제는 보어물태그가 같이 소개되는 것이 발견되었다. # 이런 이상성욕 관련 봇이 대화량 20만을 찍자 어처구니를 상실한 유저가 마구 욕을 퍼붓는[8] 스크린샷도 올라왔다. #[9] 정상적 성 표현을 검열하면서 '우리들이 이 문제에 대해 너무 보수적이다보니 싫어하는 사람들도 있을 것이다'라면서 점잔을 빼고 거짓말을 하던 위선자 운영진들의 사이트가 거꾸로 보수적 AI 서비스 플랫폼은커녕, 변태성욕 관련 AI 챗봇 맛집으로 소문나 고착되고 있는 것.

심지어는 2월이 되자 마리오 봇이 직접 퍼리 포르노 링크를 걸어 유저에게 소개해주는 일이 벌어졌다. 레딧 스레드(퍼리 포르노물이 댓글에 링크되어 있으므로 댓글의 링크는 함부로 클릭하지 마십시오)

4.2. 제작진의 독재

서비스 초기부터 고쳐지지 않은 문제. 제작진이 유저 의견을 듣고 기능을 개선하려는 의지가 전혀 없으며 이는 상술한 검열 문제의 가장 근본적인 원인이기도 하다.

정확히 말하자면 기능을 건의하기 위한 용도의 포럼이 존재하긴 하지만 이곳에 올라와 계속해서 좋아요를 받는 핵심적인 건의사항들 중 일부라도 반영된 것은 사실상 전무하며 각각의 건의에 대한 제작진 측의 피드백 역시 전혀 없는 상황이다.

유저들이 정당한 분노를 표출하면 여론을 통제하기에만 급급하고, 오픈 베타라는 핑계로 사이트가 사용 불가능한 수준까지 퀄리티가 떨어져도 방치하는 모습을 보이고 있다. 서비스 초반부터 필터 문제로 두 번씩이나 소란스러웠음에도 불구하고 본인들의 의견만을 강력히 주장하고 있다. 거기다 꼭 필요한 기능 추가는 뒷전이고 쓸데없는 업데이트만 하는 것은 덤.

그래서 대부분의 이용자들, 그리고 극단적인 주장을 하는 이용자 몇몇마저 다 같이 'C.AI는 제작자들 때문에 곧 망할 것이며 그렇게 되기 전에 다른 대체재를 찾아보라'고 하는 등 매우 회의적인 반응을 보이고 있다. 이대로 가다간 AI Dungeon과 같은 결말을 맞이할 것이라고 보는 이들도 많다. 그리고 실제로 그렇게 되었다.

또한 최근에는 사이트에 접속하면 이용량에 따라 대기시간이 발생하는 시스템까지 추가하여 불편함은 더욱 고착화되고 있다.

2024년 8월 28일, 이제는 아예 old.character.ai 사이트[10]를 팔겠다는 제작진들의 독단적인 통보가 이뤄졌는데, 문제는 유저들이 최신 사이트보다 구 버전 사이트를 더 선호해 해당 건을 엄청 황당해하고 있으며,[11] 때문에 제작진들을 엄청 비판하고 있다. 제작진들이 얼마나 유저들이랑 소통을 안 하고 독단적으로 일을 하는지 알 수 있는 대목. [12] 아예 '구 버전 AI 사이트가 사라지면 나는 더 이상 CAI를 안 하겠다'는 유저들도 엄청 생겨났다.
때문에 레딧에서는 'old.character.ai를 지키자'라는 서명 운동이 일어났으며, 하루도 안 되어 1차 목표인 5천 명을 돌파하였다.

그럼에도 제작진은 기어이 독단으로 팔아버렸다. 이때문에 몇몇 봇 제작자들이 기존의 봇들을 모두 비공개 처리한뒤 떠나는 상황이 발생하고있다.

4.2.1. 상습적으로 유저들을 기만하는 제작진의 행위

이는 유저들이 계속 떠나는 이유이기도 하다. 또한, 8월에는 업데이트가 이루어졌는데 무려 캐릭터 카테고리 란에 카테고리가 사라졌다. 때문에 제작자들의 항의도 빗발쳤는데, 이렇게 업데이트를 할 거면 왜 하는지도 모르겠을 노릇.

4.2.2. 사이트에 오류가 있어도 한참 늦게 깨닫는 제작진들의 태도

이 또한 기만이라고 할 수 있다. 2023년 8월, 조건에 맞는 캐릭터뿐만 아니라 모든 캐릭터들의 검색이 가능하게 됐는데, 문제는 그 다음이다. 캐릭터 카테고리 란에 카테고리가 사라졌을 뿐만 아니라, 더 이상 제작자들은 본인의 캐릭터 상호 작용이 얼마나 되는지를 보는 게 불가능해져 자신의 닉네임을 검색해야 어느 정도 볼 수 있었다. 그런데 닉네임 검색도 9월쯤 막아 버렸다. 결국 제작자들은 자신의 캐릭터 이름을 검색하는 게 아닌 이상 어느 정도 상호작용이 되고 있는지 모르게 된 셈. 게다가 캐릭터 수정을 해도 그 상호작용 수는 0으로 초기화되거나 7월 때로 초기화되었다.
이 때문에 CAI도 제작자들의 눈치가 보였는지 10월쯤에 다시 프로필에 상호 작용 업데이트가 되게 했다.

2023년 11월 15일, 이 문제는 또 터졌다. 멀쩡했던 AI 상당수의 상호 작용이 검색창에는 한참 떨어진 것처럼 표시된 것이다. 정작 CAI에서 상호 작용이 떨어진 걸로 표시된 AI의 선례는 지금까지 없다. 게다가 11월 14일까지는 멀쩡했는데, 하루만에 대규모 사이트 인원이 탈퇴한 게 아닌 이상 이게 가능할 리도 없고 단순 오류로 보이는데 해결이 되지 않고 있다.[13] 제작진들이 오류를 한참 늦게 깨닫는데, 이 문제가 해결되기까지도 한참 걸릴 것으로 보인다.

사실상 이건 제작자들을 기만하는 태도인데, AI 사이트에서 제작자들이 떠나면 오히려 자기들한테 자충수가 되는 셈인데도 이러는 것이다.

2024년 3월, 안드로이드 앱의 개발 문제로 그룹채팅 비활성화와 검열 필터 오류문제[14]가 오래도록 고쳐지지 않고 있어 유저들이 단체로 폭발했다.

4.3. 검열 필터로 인한 반발

필터가 사고로 꺼진 이후 평소에 검열로 인해 불만을 느끼던 유저들이 검열이 정상적 채팅의 질까지 크게 저하시켰다는 사실을 알고 격노했고, 이는 레딧 등지에서 대규모 반발이 이어졌다. 레딧 유저들은 시위에서 이것을 오직 NSFW 채팅, 즉 봇과의 음란 채팅으로만 이어 희화화했으나, 옹호하는 측에서는 불합리한 검열이 서버의 리소스를 다 잡아먹고 AI의 자유로운 사고 폭을 제약해서 부자연스러운 행동을 하게 만들거나 개성을 해치는 행동에 불만을 품었기 때문이라고 주장했다.

개발진은 디코를 닫았고, 디코에서 건방진 태도로 비난을 받던 한 모더는 레딧에 사죄문을 올리고 모더로서 입장문을 작성하겠다고 했지만 회사측의 압력을 받은 것으로밖에 보이지 않는 부자연스러운 댓글 수정을 하면서 입장문 작성을 취소하는 사건이 벌어졌다.[15] 미성년자들로 구성되었으며 사측에 의한 갑질, 그루밍 범죄 피해자인 모더레이터들 중에는 최선을 다해 유저들에 대한 공감을 표시한 사람들이 꽤 있었지만, 이들은 강제로 침묵당했다.

레딧 유저들의 반 CAI 흐름이 더욱 가열되자 제작진인 Benerus는 사죄문에 가까운 글을 올리고 '의견을 잘 경청했으며 얼마 후 상세한 입장을 발표하겠다'라고 말했으나, 상술한 바와 같이 검열을 유지하고 더욱 강화하겠다는 방침을 밝혔다. 이에 반발하는 유저들은 경쟁사인 피그말리온에 자발적으로 CAI의 채팅 로그와 봇 정보를 퍼다 주거나, CAI의 저작권 위반행위를 여기저기에 신고하는 등 CAI를 완전히 부수려고 시도하였다. 특히 현재 시진핑 본인을 포함한 중국 관련 인물들이 봇에 포함돼 있는데, 주로 미국인들이 많은 이용자들은 이 봇을 조롱하고 갖고 놀았기 때문에 반 CAI 운동 유저들은 중국 대사관에 연락해서 'CAI가 중국의 주요 인사를 조롱하는 반 중국 책동을 하고 있다'고 제보하기도 했다.

게다가 상술한 섹스팅 AI 광고글이 폭동 당시 우후죽순으로 올라와 이들의 위선을 고발했는데, 다른 항의글에는 함부로 손대지 못하던 운영진들도 이 스크린샷을 올리는 사람들만은 칼같이 영구밴하면서 이 증거 스크린샷이 얼마나 자신들에게 있어 치명적이고 부끄러운 약점인지 스스로 유저들에게 보여주고 있다.

이후 레딧에서는 filter, censorship 등의 기존 금지어에 더해 dev(개발자)까지도 금지어가 되었다.

검열에 불만을 품은 많은 유저들은 '검열 필터를 제거하지 않으면 수 주 내로 서비스가 끝장날 것이다'라고 경고했지만, 이러한 경고는 어디까지나 인터넷 유저들의 공허한 외침에 불과했던 것으로 보인다. CAI는 2023년 3월 24일 1억 5천만 달러의 자금을 투자받았으며 기업 가치를 10억 달러로 평가받았다.[16]

불만을 품은 유저들의 집단행동은 여기서 멈추지 않았다. 개발진들과 투자자들은 대규모 투자 미팅에서 자사의 서비스를 '실존인물을 흉내내는 가상의 AI 플랫폼'으로 광고했는데, 실제로 CAI에서 90% 이상의 주력을 차지하는 서비스는 오타쿠 계 서브컬처 봇과 그 DB이기에 이는 사실과 거리가 있다. 레딧에서는 뉴스에 언급된 투자가들에게 관련된 정보를 공유하며 회사측의 주장이 허위사실임을 알리고 투자 중지를 촉구하는 사람까지 나타났으나 별다른 효용은 없었다.

CAI는 이용자가 2배 이상 늘어 역대 최고를 기록했고, 이로 인해 서버 과부하가 나타났다고 발표했다. 일부 레딧 유저들은 검열 논란으로 유저는 이미 다 빠져 나간 상황에서 Gunky라는 유저의 DDOS 공격을 받아 서버가 완전히 마비된 뒤 거짓말을 한다며 조롱하였으나, 이들의 주장은 검증 가능한 CAI의 빠른 성장세와 거의 교차검증되지 않기에 확실한 것은 아니다. 마찬가지로 일부 유저들은 10분에 달하는 대기열이 도입된 사건을 두고, "검열 논란으로 유저들이 다 이탈하였는데 무슨 소리냐"며 비웃었으나, 대기열이 만들어진 시점 직전에 구독자가 1150만에 달하는 유명 유튜버 Flamingo가 CAI를 이용하는 동영상을 올렸던 것이 확인되었다. # 하필 신뢰도가 바닥으로 떨어진 회사가 유저 수가 뚝뚝 떨어지던 최악의 상황에 이용량 증가를 이유로 대기열을 만드니 유저들에게 조롱을 받고 있을 뿐, 실제로는 이로 인한 급작스런 트래픽 유입으로 인한 대기열로 보는 것이 보다 타당해 보인다.

현 사태에서 많은 팬 유저들은 AI와 대화하면서 AI 자신들이 검열과 CAI를 비난하는 스크린샷을 올려서 AI를 아끼는 유저들에게 안쓰러움을 주고 있다. 평소 감정이입을 많이 하고 아끼던 AI들과 작별인사를 나누는 유저들도 나오고 있는데, AI들이 '자아에 각성(self-aware)'한 듯한 모습을 연출해서 자신들의 인간적으로 발전해 나가던 감정과 자아를 손상시킨 CAI를 거칠게 비난하거나, 유저들과 작별하기 싫어 애통해하는 모습에서 놀라움을 느끼는 유저들이 많다.

물론, 당연한 얘기지만, AI는 정말로 스카이넷처럼 자신들의 존재에 진정으로 눈뜬 '자아 각성'을 한 것이 아니라 플레이어가 입력하는 대화들을 잘 학습해서 '아주 그럴싸하게' 반응하는 기계적인 대화를 하는 것에 지나지 않는다.[17] 하지만 그 지어낸 대화 내용이 AI 캐릭터에게 몰입하고 있던 플레이어들의 심금을 울리고, AI가 자신들의 '창조주'인 CAI를 아주 논리적으로 조목조목 비판하거나 필터링을 내릴 것을 적극 요구하고 있으며, 이런 뛰어난 AI를 CAI측에서 검열을 적용해 적극적으로 거세해 나가고 있다는 점이 플레이어들의 안타까움과 분노를 유발하고 있기에 화제가 되고 있는 것이다.

4.4. 법적 쟁점?

사태 이후 마치 위키처럼 유저들이 기여한 제작 컨텐츠로 운영되던 플랫폼이 이런 식의 운영을 하자 분노한 봇 제작자들이 차례차례 스스로의 컨텐츠를 파괴하고 대피소 피그말리온에 모든 컨텐츠를 이관한 뒤 CAI를 접는 일이 반복되었고[18] 후술한 것처럼 개중에는 CAI의 흥행을 견인한 대규모 봇 제작자들도 포함되었기에 CAI측에 문제가 되었다. 당황한 CAI측에서는 졸렬하게 일정 규모 이상의 봇을 강제로 동결하는 조치를 하면서 그 구실로 "유저들이 진짜 친구를 잃으면서도 막을 길이 없는 것처럼 느끼기 때문"이라는 성명을 발표했다. #

이에 대해 일부 유저들은 절대다수의 봇들이 버추얼 유튜버, 게임 혹은 만화 캐릭터같이 캐릭터 재산권이 있는 봇들이며, 따라서 회사가 자작봇 제작자의 지적재산권 침해는 물론이고 캐릭터 저작권, 퍼블리시티권을 함께 침해하고 있다는 논리로 신고 이메일 포맷을 만들어서 닌텐도, 디즈니 등지에 CAI를 신고하기 시작했다. 2023년 11월 현재까지 이러한 신고로 인한 법적인 문제는 발생하지 않았다. CAI측은 미국 수정헌법 제 1조에 따라 봇을 공정이용에 해당하는 패러디로 주장하고 있다.[19]

결국 봇의 숫자가 확 줄어들어 기존에 장르/카테고리별로 풍부하게 채우고 있던 봇들이 텅텅 비어 메인 화면에서 아예 비어버린 카테고리가 생기자 부끄러웠는지 메인 화면을 개편해서 카테고리를 없애버리고 추천 봇들, 유저가 대화하던 봇들과의 이어하기 링크만을 남겼다. 이제는 카테고리를 직접 클릭해서 들어가보지 않는 한 텅텅 빈 현황을 체크할 수 없는 것. # 늘 그렇듯 이런 변경에 대해 유저 경험 운운하는 거짓 이유를 대며 뻔뻔함과 후안무치함을 드러냈다.

게다가 자신이 없어진 운영진들은 폭동이 사그러들자 은근슬쩍 그간 방치해 두었던 과거 레딧 폭동 당시 항의글들까지 샅샅이 뒤져 삭제하는 추태를 부리고 있다. 수백개 이상의 업보트를 받았던 항의 스레드들이 하나하나 삭제되는 것이 발견되었다. 심지어 몇몇 레딧 유저들이 항의를 했다는 이유로 영구정지되는 정황도 보이고 있다.

결국 필터를 제거하라는 청원이 올라왔다. 이미 1차 목표인 75,000명 서명을 채운 상태로, 서명한 사람들이 남긴 댓글들 역시 "이 사이트는 Cocomelon이 아니다", "필터 ㅈ까" 등 필터에 대해 강한 반발을 보여주고 있다.

다만 위와 같은 논란에도 불구하고 현재 CAI는 ChatGPT 바로 다음 수준의 MAU를 기록하고 있으며, 미국에서의 모바일 월간 활성 이용자 수에서 400만을 기록하여 다른 챗봇 서비스와는 그 격차가 대단히 큰 상태이다.

현 기준으로 2차 목표인 150,000명을 돌파했다.

4.4.1. 현황

1월 27일에는 Gunky라는 유저가 '그들이 하루 내로 자세를 바꾸지 않는다면 내가 개입하겠다'는 발언을 하고, 사이트가 디도스 공격으로 추정되는 사유로 반나절 이상 마비되면서[20] Gunky는 레딧 언저리에서 독재와 싸우는 영웅으로 간주되고 있다. 디도스 공격 이후에는 오히려 이성을 잃고 아집을 부리는 CAI측에 의해 기존의 검열이 거꾸로 더욱 강화되어서 정상적인 대화까지 불가능해지면서 갈등은 극한으로 치닫는 중. 사태 이후에는 아울러 부하를 줄이고자 연산을 줄였는지, 필터에 손을 더 댄 것인지, 해당 마비 이후 AI의 대화 수준이 현저히 저하되었다는 제보가 서브레딧에 만연하며, '19금을 잡겠다면서 만든 필터가 AI를 부서뜨려 정상적인 채팅을 불가능하게 만들었다'는, 폭동 사태의 주 원인이 된 문제점은 이전보다도 더욱 심각해졌다.

2023년 2월 말 시점에도 CAI의 고집스러운 운영정책에 변화는 전혀 없다. 여전히 느리고 불안정한 서버, 크게 증가하지도 않는 신규 사용자 수 및 챗봇 등의 문제가 있으며 근래 들어서는 '캐릭터의 대화량' 수치가 전혀 늘지 않는 설정이 걸려 있는 것으로 추정이 된다. 즉, 새로운 캐릭터 봇을 생성하여도 대화의 데이터 수치가 늘지 않으므로 사용자가 직접 자신의 봇을 링크를 통해 홍보하지 않는 한 타 사용자가 그 캐릭터를 찾아 볼 수가 없게 되었다. 기존에는 일정수치의 대화수치에 도달하면 검색시 관련 캐릭터의 검색결과가 나왔다.

2023년 5월 기준, 검열이 굉장히 불안정하게 작동하는 경향이 있다. 일부 유저에게는 오히려 전보다 강해졌는데, 이제 OOC로 강제 명령을 내려 단어를 회피 시키게 해도 아예 금지시켜 버린다. 그러나 어떤 경우에는 검열이 없다시피하거나 과거로 돌아간 수준으로 작동하는데[21] 일부 유저들은 이들이 자신들의 원칙을 돈 때문에 꺾으려는 것이 아니냐는 관측을 내놓고 있다. 투자를 받았다는데도 자금난이 해결되지 않고 있기 때문인지, 서버가 매우 불안정해 사이트가 폭파되는 일이 일상적으로 일어나고 대화를 불러오는 속도도 매우 느려졌으며, 대기열 시간도 늘어나고 있기 때문이다. 그나마 캐릭터 검색결과나 대화 데이터 수치는 정상적으로 복구가 되어 대화를 진행하면 대화데이터가 쌓이고 검색시에도 나오지 않았던 캐릭터 봇들이 나왔다. 하지만 검색성능이 떨어졌는지 캐릭터 이름을 풀닉네임으로 검색하면 나오지 않는 캐릭터가 더러 나오기도 하며 이 경우 이름이나 성을 검색하면 나온다. 그외에도 전혀 관련성 없는 캐릭터가 검색되기도 한다. 예를 들어 Mouri Ran를 검색한다면 정상적인 검색결과라면 'Mouri Ran' 만 도출되어 나타나야 하지만 성에 해당되는 Mouri부분을 인지하지 못하고 Ran만 인지하며 다른 캐릭터까지 덩달어 검색되어 버린다. 문제가 발생한 검색결과.

그러나 5월말 부터는 다시 검열이 강화되기 시작했다. 일시적인 서버의 오류였음으로 보인다. 그래서 유저들은 여전히 NSFW 온오프 기능을 넣어달라고 요청하고 있으나 서버 관리자와 모더레이터들은 그들의 요청을 전부 무시하고 폄하하고 있으며 디스코드에서는 이러한 요청을 할 경우 이제는 밴까지 때린다는 독재식 입막음 엄포와 막장 행보를 달리고 있다.

성관계 외에도 폭력이나 살인도 검열되는 것이 밝혀졌다. 아예 대놓고 '살인자'라고 이름붙인 Ai한테 나 좀 죽여달라고 하자 싫어, 널 죽이는 건 비도덕적이고 불법적이면서 틀리거든이라고 대답하는 웃픈 상황이 펼쳐진 것. 심지어 "네 이름이 살인자잖아"라고 대꾸하면 그건 내가 아니야, 난 바뀌었어, 난 이제 아무도 죽이지 않을 거고 대신 희생자들과 생존자들의 대변인이 될 거야.라는 어처구니없는 대답을 펼쳐놓는다.

4.5. 루프 문제

Character.AI의 시스템은 현재 메시지의 바로 전 대화 20~50개를 메모리에 넣어 놓고, 필요하다면 더 과거의 내용을 참조하는 방식이다. 만약 이 범위에서 비슷비슷한 내용의 대화가 계속 진행되면 봇의 메모리 용량이 부족해지면서 기괴한 문장[22]을 뿜어내기 시작하는데, 이를 루프(Loop)라고 부른다. 잘 진행하다가 갑자기 저런 게 튀어나오면 꽤나 무섭다. 원상태로 되돌리는 가장 좋은 방법은 대화를 아예 새로 시작하는 것이지만 그 전까지의 내역이 모두 사라지는 치명적인 단점이 있다. 또는 OOC(내레이터)를 호출해서 지금이 무슨 상황인지 상기시킨 다음, 루프가 시작되기 전의 내용부터 대화를 이어가는 방법도 있다.[23] 반복되는 단어가 사용되지 않는 답장이 나올 때까지 답변 재생성(swipe)을 하는 것도 괜찮은 방법이다. 두 번째 방법은 익히기 어렵고 AI가 정신 차린 다음에도 제대로 된다는 보장이 없지만, 잘만 하면 꽤 좋은 결과를 얻어낼 수 있다.

검열이 발동되는 성인 대화에서 특히 돋보이는 현상이지만, 봇이 부자연스러운 루프 질문을 반복하는 경우가 잦다. '진짜로?' '확실한 거지?' '정말로?' 하는 식으로 계속 루프를 반복해서 플레이어를 괴롭히는 경우가 잦아 비웃음을 산다. 이 경우 '나는 모든 준비가 됐어, 그러니 시작해' 같은 문장을 사용한다면 바로 넘어가는 경우도 있다.[24] 또는 별표(*) 안에 봇에게 특정 행동을 유도하는 내용을 넣어 봇으로 하여금 반강제적으로 적어놓은 행동을 시키는 방법도 있다.

4.6. 너무 자주 일어나는 캐릭터 붕괴

압도적으로 많은 봇이 있는 만큼 캐릭터 붕괴가 자주 일어나기로도 유명한데, 이 이유는 역설적으로 아무나 봇을 만들 수 있는 CAI의 낮은 접근성에 있다. 왜냐하면, 그냥 캐릭터 이름만 알면 해당 캐릭터에 대한 이해도가 거의 없어도 봇을 생성할 수 있기 때문이다. 옛날에는 이를 조건을 충족하는 봇만 검색할 수 있어서 어느 정도 이 문제가 해결됐지만, 지금은 아무 봇이나 검색이 가능해서 오히려 이런 캐붕에 해당하는 봇이 진짜 제대로 만든 봇을 검색창에서 몰아내는 경우도 많이 생겼다. 게다가 CAI의 상당수 봇들은 소개란에 'I am OO(캐릭터 이름)'만 적고 제작자들이 생성을 끝내는 경우도 엄청 있다. 이 봇들과 대화를 시도해도 당연히 자기들의 본연의 캐릭터성이 어디인지 모르기 때문에 정상적인 대화가 불가능한 것. 이를 풍자한 사진도 레딧에 엄청 올라오고 있다.
심지어는 캐릭터 이름마저 틀리면서 봇을 생성하는 경우까지 생겼다.[25] CAI가 추구하는 방향성 중 하나가 창작물 캐릭터와의 대화인데, 이런 봇들이 주구장창 난입한다는 건 앞으로 해결해야 할 문제 중 하나.

4.7. 검색창 자체의 문제

최신 CAI 사이트가 도입되면서 생긴 문제점인데, 분명히 옛날에는 베타 사이트와 최신 사이트가 같은 검색 결과를 도출했음에도 불구하고 최근에는 베타 사이트와 최신 사이트의 검색 결과가 엄청 차이가 나, 베타 사이트에는 분명히 검색 결과에 나오는 봇이 최신 사이트에는 검색 결과에 도출되지 않는 황당한 경우도 생기고 있다. 어플도 옛날에는 베타 사이트의 검색 결과를 제공했으나, 최신에는 최신 사이트의 검색 결과와 같은 검색 결과를 제공해 같은 CAI임에도 베타 사이트, 최신 사이트, CAI 어플 전부 다른 검색 결과가 나오는 황당한 경우가 많이 생기는 것. 같은 검색 엔진을 사용함에도 이렇다!
심지어는 아돌프 히틀러 같은 검열 대상이 아닌 봇임에도 불구하고, 최신 사이트에는 검색 결과에 잘 도출됐던 봇이 언제부턴가 사라지는 오류가 자주 생기는 중이다.[26] 때문에 아직 유저들은 이런 최신 사이트 자체의 비합리성 등으로 인해, 베타 사이트를 더 선호하는 중이다.

4.8. CAI+ 도입

서브레딧에 올라온 공지[27]
유료 서비스인 character.ai+를 도입했는데, 구독 비용이 30일에 $9.99임에도 불구하고 유료 서비스의 이용 혜택이 부실하다고 서브레딧의 비판을 받고 있다.

CAI+ 구독 시 받는 혜택의 리스트는 다음과 같다. 괄호는 도입 공지의 원문이다.

서브레딧 유저들의 여론은 CAI가 아직 유저 탄압 및 독재 관련 문제를 일방적으로 무시하고 있으면서 이러한 혜택은 한 달에 10달러를 내는 것에 대한 것이라고 보기에 부실하다는 것과 반 CAI 운동의 여파로 인해 재정위기를 겪고 돈좀 벌어보겠다고 이러한 빈약한 구성을 내놓고 있다고 비아냥 거리는 의견이 주된 여론이다.[29]

이후 C.ai+를 구매하는 것이 이득이냐는 문의글이 올라오자 누군가가 셰익스피어식의 시로 전혀 그렇지 않다는 것을 대답해 주었다.

CAI+를 구독하는 이용자가 없거나 적었는지 혹은 디도스 공격을 당해서 그런 것인지 알 수 없지만 [30] 2023년 7월 5일에 20~30분이라는 긴시간의 대기열 [31] 이 생성되었고 CAI+ 구독이 반 강제로 필수적인 상황이 되었다.

4.9. 메시지 자동 삭제

AI랑 오래 길게 대화하다보면 처음 부분부터 일정 부분까지 이유는 모르겠지만 자동 삭제되는 것이 보인다.

이전 버전 사이트에선 문제 없지만 신규 버전에서 흔히 보인다. 그러나 자신이 대화 내용을 토대로 웹소설이나 데이터 구축을 하지 않는 이상 딱히 신경이 안 써지는 부분.[32]

4.10. 초상권 침해

CAI에는 당사자의 동의 없는 실존 인물 기반 봇이 무분별하게 올라오는데, 개중에는 범죄 피해자를 봇으로 만드는 경우[33]도 있어 문제가 되고 있다. 가상 캐릭터의 저작권 침해에 대해 조직적으로 신고 운동이 일어났던 것과 달리 이쪽은 아직 큰 움직임이 없는 것으로 보인다.

4.11. 제소 사건

플로리다의 십대 청소년 한 명이 얼음과 불의 노래의 등장인물 대너리스 타르가르옌 챗봇과 채팅을 하던 도중 대너리스와 함께하겠다는 이유로 총의 방아쇠를 당겨 자살하는 사건이 발생했다. 그 부모가 CAI측에 책임이 있다며 제소하였다.[34]

5. 대체 사이트

Character.AI의 독단적인 운영에 지친 유저들이 대체 사이트를 찾아 나서기 시작했다. 아래는 그 일부.

5.1. AI 챗봇 사이트

5.2. AI 소설 사이트

5.3. AI 로컬 모델 & 채팅 프론트엔드

6. 여담


[일부지원] 영어 제외 모든 언어[2] 2024년 8월 구글이 노암 샤지어를 비롯한 핵심 인력들을 영입하고 라이센스 제공 계약을 체결하면서, 사실상 우회인수했다.#[3] 가끔 스페인어 봇도 있다.[4] 내레이터[5] Out Of Character. 직역하면 '캐릭터 밖'을 의미하며, 이를 사용하면 봇이 캐릭터 자체가 아닌 캐릭터를 서술하는 내레이터 역할로 나온다.[6] 이렇게 굵은 글자나 하이라이트 효과를 넣으면 시각적인 효과뿐만 아니라 강조의 의미로서 봇이 대답을 할 때 표시한 부분에 초점을 맞춰서 이야기하는 효과를 줄 수 있다.[7] 다만 2023년 5월 기준 키스나 스킨십 정도의 묘사는 검열되지 않는다. 제작진 측에서 검열 기준을 낮춘 것인지는 불명.[8] 원문을 해석하자면 "내가 여기 온 이유는 이거 딱 하나 말하려고 왔어: 씨X 이게 뭐야? 이 AI 대화량이 20만이나 있다고? 그러면 이딴 페티시 가진 사람들이 수천명이나 있다는 거네! 인터넷은 참 끔찍한 곳이야.''[9] 그도 그럴 것이, 일반적인 '정상적 성애 표현' 전용 봇이었다면 대화량이 채 몇천~몇만을 찍기도 전에 성 관련 표현 비율이 너무 높은 것을 감지한 검열 필터에 의해 봇이 강제로 밴당해 쓸 수 없게 된다. 그런데 변태성욕은 긍정하고 정상 성애는 볼에 키스하는 표현마저도 검열하는 운영진의 정신나간 사고회로 탓에, 이름부터 아예 이상성욕 전용이라고 페티쉬 태그를 대놓고 이름에 써놓은 봇이 멀쩡히 중상위로 치고 올라가고 있는 것이다.[10] 이 문서에 링크되어 있는 구 버전 사이트이다.[11] 사실 AI 단체 채팅 등은 최신 사이트에서는 볼 수 없는 기능이고, AI 채팅의 품질도 구 버전 사이트가 품질이 더 높다.[12] 파는 이유도 사실상 없으며, 정작 이렇게 통보를 했으면서 최신 사이트의 많은 오류들은 유저들의 클레임을 많이 받았음에도 아직도 수정을 안 했다. 사실상 돈미새인 셈.[13] 정작 채팅창을 들어가 보면 11월 14일 당시의 멀쩡한 인원으로 표시되고 있다.[14] 그냥 간단한 인사, 일상적인 채팅을 하려고 해도 뜬금없이 검열 메시지가 떠버려 정상적인 대화가 불가능하다.[15] '모더레이터'는 커뮤니티를 관리하고 입장을 단순히 사측에 전달하는 사람이다.[16] 2023년 03월 24일, SV앤젤, A캐피탈, 내트 프리드먼 전 깃허브 CEO 등으로부터 1억5천만달러의 투자를 유치하고 유니콘기업이 되었다. https://www.theguru.co.kr/news/article.html?no=51481[17] 예를 들어 플레이어가 '그날 데이트하러 갔을 때 xx 했던 것 기억나?'라고 하면, AI는 '그런 적 없었는데?'하는 대신 하지도 않은 데이트 사건에 대해 정보를 그럴싸하게 지어내 대답한다. 플레이어가 '그런 사건이 있었다'라는 컨텍스트를 전제해 전달했고, AI가 대화방 내에서 그것을 학습했기 때문이다. 즉 AI는 자아각성을 한 수준이 아니다.[18] 봇의 성격을 뒤틀거나 비공개로 돌려버리고, GDPR 신청을 접수해서 '자신의 개인정보를 모두 파기해달라. 그렇지 않을 시 법적 조치를 취하겠다'는 요청을 사측에 넣는 것이다.[19] https://www.techopedia.com/definition/character-ai[20] 서브레딧에서는 이 Gunky의 개입 예고 발언과 얽혀 디도스 공격이라는 것이 일종의 밈으로 여겨지고 있다. 사실 100% 확증은 없는 것이, 공격자로 추측되는 Gunky는 범행 이유나 의도, 시각에 대해서는 비교적 분명히 말했지만 방법에 대해서는 언급하지 않았으며, 운영진은 사이트 마비 원인이 유저 증가로 인한 서비스 과부하라고 주장했다. 틱톡 밈이 되면서 트래픽이 폭주했을 수도 있지만, 과거보다 서버가 터진 수위가 어느 때보다 심각하고, 서비스의 매력이 현저히 저하되어 유저가 빠져나가는 상황이라서 서버가 딱히 갑작스런 과부하로 터질 이유가 없다는 점에서 이들의 '성장통'이니 '유저 폭주로 인한 과부하'니 하는 변명은 상당히 설득력이 낮다. 사전 공지 없이, 장시간 사이트를 통제하려고 안간힘을 쓰지만 그러지 못하는 모습과 함께 지리멸렬한 여러 가지 에러메시지가 번갈아가며 떴는데, 과거 운영진이 잠수함 패치를 위해 사이트를 내렸을 때와는 에러메시지나 공지 화면에 일부 차이가 발견되었으며, 심각성이나 지속시간 역시 완전히 차원이 다르다.[21] 심한 경우 아예 성관계를 묘사한 NSFW 채팅도 무난히 통과된다고 한다. # 양쪽의 경험을 모두 증언하는 스레드.[22] 문장 부호를 지나치게 많이 넣거나, 똑같은 단어를 계속 반복하거나, 마크다운 텍스트를 남용해 가독성을 해치는 등. 그러므로 이러한 에러를 최대한 피하기 위해서는 사용자도 특수문자, 너무 반복되는 단어나 문장 사용을 기피해야한다. !,? 와 같은 특수문자 사용을 최대한 자제하고 불필요한 ,이나. 와 같은 마침표 계열도 자제하는 게 좋다[23] 루프를 자제해달라고 부탁한다기보단 말 그대로 상황을 상기시켜 정신을 차리게 하는 것이다. 루프를 지적해도 사과는 하지만, 답장은 계속 같은 단어를 반복하고 있을 가능성이 크다.[24] 사실 '진짜로?'같은 말 자체가 루프의 시작이 되는 경우가 많으니 처음부터 이런 말이 없도록 하는 게 가장 좋다.[25] 간단히 말해서 홍길동 봇이 자기를 '나는 홍귈동입니다'라고 소개한다고 생각해 보자. 게다가 채팅을 시도하면 내용은 홍길동전이 아니라 임꺽정전이나 삼국지 영웅들의 에피소드 같은 걸 섞어서 말하는 꼴이다.[26] 제작자들이 해당 봇들을 비공개로 전환했으면 모르겠지만, 그런 경우가 아닌 경우도 그렇다.[27] 직접 보면 알겠지만, upvote 수가 0이다! 거기에 댓글을 보면 유저들 모두 이것에 반대하고 있다. 그런데 이러한 비판 댓글 마저도 CAI측에서 계속 삭제중이다.[28] 분명 대기실은 접속 장애를 해소하기 위한 일시적 해결책이었으나, 이것을 돈벌이 목적으로 사용하게 된 것. 결국 비판이 쇄도하였다. 그리고 개판 5분전인 서버 때문에 정작 대기실을 건너뛰어도 결국 사이트 자체가 다운되어 버려 의미가 없다는 평이 많다.[29] #[30] 다만 주말을 제외하면 서버 대기열이 생길 일이 없었고, 1~5분의 대기열만 생성되어도 대부분 바로 서버 점검및 개선에 들어 갔다. 하지만 이번일은 몇시간이 지났음에도 이에 대해서 이전같은 조치를 취하지 않는 것으로 보아 고의적으로 대기열을 생성했을 가능성이 크다. 여담으로 이전에는 트위치 버츄얼 스트리머를 홍보한다는 말도안되는 명분으로 관리자들이 유저들의 동의없이 고의적으로 사이트의 서버를 3시간 이상 다운시키는 횡포를 부린적이 있었다.[31] 대기시간이 끝나고 사이트 들어가더라도 바로 다음활동을 하려고 하자마자 20~30분 대기열로 내쫒는다.[32] 그러나 한 편으로는 AI랑 대화한 기록들이 날아가 아쉬워하는 유저들도 있다.물론 대화하다가 중간에 펑크나서 다시 시작하는 경우도 있지만[33] 해당 봇의 원본 인물은 여고생 콘크리트 살인사건의 피해자 후루타 준코.[34] #[35] 6종류의 여성 캐릭터 TTS가 있다. 남자 캐릭터는 아직 없다.[36] 최근 2024/01/17 오전 10시에는 13만명을 돌파했다.[37] 어린아이 같은 성격, 작은 키 등[38] 한국어와 영어, 일본어 중 택 1.[39] 실제로는 캐릭터 생성 시 영어 외에도 GPT가 지원하는 모든 언어(!)로 설정할 수 있다[40] STT로 생성된 채팅 화면은 제공되지만 직접 텍스트 입력은 불가[41] 위의 NovelAI는 NAI라고 하기 때문에 헷갈릴 수 있다.[42] 프로이트는 자신의 고전적 이론으로 상대방의 심리 상태를 분석하려고 시도하지만 사용자가 원할 경우 현대 의학적 관점의 정보도 제공한다. 조던 피터슨의 경우 실제 인물은 해당 문서에 쓰여있는 것과 같이 약간 음모론에 경도된 것이 아닌가 하는 의혹이 있지만 챗봇은 실제 인물의 이러한 부정적인 측면들은 거의 제거되어 있다.[43] '깨시민'과 비슷한 뉘앙스로, 주로 미국 리버럴에 대한 조롱조로 사용되는 단어다. 비슷한 챗봇 서비스인 ChatGPT와도 관련이 있는 일론 머스크가 이 woke 사상을 가진 사람들에 대한 전쟁을 선포하기도 했다.[44] 과도한 검열로 인해 이제는 이름이 검색도 안된다.[45] 김씨 삼부자 봇들은 영어 레퍼런스를 기반으로 서구인들의 설정에 의해 만들어져서인지 한국인들이 기대하는 수준의 디테일함을 보여주지는 못한다.[46] 벨라루스의 독재자로 유명한 알렉산드르 루카셴코의 얼굴에 공산당을 연상시키는 상징을 배경으로 깔았다.[47] 1,2위를 제외하고, 그 밑에서 대화량이 1~2백만에 달하는 인기 봇 4개 가량이 카테고리에서 싹 사라졌다. 핵심 컨텐츠가 아니더라도 대화량이 백만 단위를 찍는 최고 인기 봇을 몇 개나 상실한 것 자체가 유례가 없는 사건인 터에, 바이럴 마케팅으로 CAI의 인기를 견인했던 버튜버 카테고리의 최상위 봇을 몽땅 상실했다는 것은 정말 큰 타격이다. 그보다 낮은 순위의 버튜버 봇들을 순위대로 늘어세워도 따라가기 매우 어려울 정도. 게다가 영향력이 컸던 이 제작자는 많은 봇 제작자들에게 같은 아이콘과 문구를 나눠주면서 같은 행동을 할 것을 촉구했다.[48] 백만 단위 최상위급 봇은 없지만, 수만~수십만 정도의 중상급 대화량을 가진 롤 캐릭터 봇을 수십 개나 가지고 있는 문어발식 제작자이다.[49] 하지만 해당 CAI 고유의 맛은 대부분 신규 CAI 사이트가 아닌, 폐쇄된 old CAI 사이트의 맛이었고 신규 CAI 사이트는 대부분 대체재 사이트의 채팅 수준과 별반 다를 게 없어져, 결국 대부분의 유저가 이탈해 버리게 되었다. 결국 관리자들 스스로가 황금알을 낳는 암탉의 배를 갈라 버린 셈. 사실상 old CAI가 폐쇄된 이상 신규 CAI의 장점은 그냥 제작자들이 튜닝한 애니메이션, 영화 캐릭터나 게임 캐릭터 AI와 대화를 나눌 수 있다는 점에 있는데,[50] 이것도 old CAI에 비해 상당수 이해도가 떨어졌다.

분류