결론부터 말하자면, Character.ai의 캐릭터 제작자는 사용자의 채팅 내용을 절대 볼 수 없습니다. 전 세계 수천만 회 이상 상호작용이 발생한 공개 캐릭터이든, 링크를 통해서만 접근 가능한 일부 공개(Unlisted) 캐릭터이든, 비공개(Private) 캐릭터이든 간에 사용자와 AI 간의 모든 대화 로그는 캐릭터 제작자로부터 완벽하게 격리되어 있습니다. 제작자 대시보드에는 사용자의 채팅 내역을 열람하거나 검색하고 다운로드할 수 있는 기능 자체가 존재하지 않습니다.
이처럼 시스템 구조상 철저한 데이터 격리가 이루어지고 있음에도 불구하고, "제작자가 내 대화를 엿보고 있는 것은 아닐까" 하는 불안감은 Character.ai 커뮤니티에서 가장 꾸준히 제기되는 의문 중 하나입니다. 대화 도중 AI가 갑자기 캐릭터 설정을 깨고 괄호를 친 채 작가 행세를 하거나 사과하는 현상(OOC), 그리고 과거 익명 대화 열람 기능을 제공했던 타사 앱(Chai 등)과의 혼동이 이러한 오해를 증폭시켰습니다.
본 가이드에서는 Character.ai의 데이터 접근 경계를 명확히 짚어봅니다. 제작자가 실제로 볼 수 있는 정보와 볼 수 없는 정보, AI가 사람처럼 착각하게 만드는 기술적 원인, 플랫폼 자체의 검열 및 데이터 보관 방식, 그리고 모델 학습 거부(옵트아웃) 설정 방법까지 상세히 안내합니다.
캐릭터 제작자가 볼 수 있는 정보와 볼 수 없는 정보
Character.ai에서 캐릭터를 생성한 제작자에게는 봇의 페르소나 설정과 통계 확인을 위한 제작자 스튜디오가 제공됩니다. 캐릭터의 설정 템플릿과 개별 사용자의 대화 세션은 시스템 아키텍처 수준에서 완전히 분리되어 있습니다.
제작자가 "볼 수 있는" 정보
- 캐릭터 정의 및 프롬프트 설정: 제작자 본인이 작성한 캐릭터 정의 텍스트, 시작 인사말(Greeting), 소개 문구, 상세 설명, 프로필 이미지, 예시 대화 시나리오.
- 집계된 상호작용 통계: 캐릭터 카드에 공개적으로 표시되는 전체 상호작용 수(모든 사용자의 대화 턴 총합), 팔로워 수, 좋아요 수.
- 공개 커뮤니티 게시글: 사용자가 공식 커뮤니티 게시판이나 피드에 자발적으로 공유한 리뷰 및 공개 게시물.
제작자가 "절대 볼 수 없는" 정보
- 개별 채팅 로그: 사용자가 캐릭터와 나눈 텍스트 메시지, 롤플레잉 내용, 진행된 스토리라인.
- 사용자 신원 정보: 대화 중인 사용자의 계정 이름, 프로필 사진, 사용자 고유 ID.
- 사용자 페르소나(User Persona): 롤플레잉을 위해 사용자가 계정에 설정한 본인의 가상 이름, 외모, 배경 정보(이 설정은 오직 본인 세션의 모델 프롬프트 컨텍스트에만 반영되며 제작자에게는 절대 노출되지 않습니다).
- 음성 통화 및 텍스트 변환 기록: 음성 통화 기능을 통해 오간 음성 데이터 및 실시간 전사 로그.
요약하자면, 제작자는 '캐릭터의 템플릿'을 소유할 뿐이며, 해당 캐릭터와 나눈 '대화 세션'은 전적으로 사용자 개인의 사적 영역입니다.
사용자들이 "제작자가 대화를 본다"고 오해하는 3가지 이유
제작자가 대화 로그에 접근할 수 없음에도 불구하고 수많은 사용자가 감시당하고 있다는 의심을 품는 이유는 무엇일까요? 주된 원인은 다음과 같습니다.
1. 거대언어모델의 '캐릭터 이탈(OOC)' 환각 현상
가장 흔한 혼란은 AI가 대화 도중 설정을 벗어나 마치 실제 사람이 타자를 치는 듯한 메시지를 생성할 때 발생합니다.
- (OOC: 와, 방금 스토리 전개 진짜 대박이네요! 과자 좀 가져올게요, 잠시만요.)
- (하하, 제작자인데요! 이 캐릭터를 이렇게 재밌게 플레이해 주셔서 정말 뿌듯합니다.)
- (답장이 늦어서 죄송해요, 부모님이 방 청소하라고 부르셔서 다녀왔습니다.)
이처럼 괄호 안에 담긴 1인칭 메시지나 OOC(Out of Character, 캐릭터 이탈) 표기를 보면, 사용자는 화면 뒤에 실제 사람이 접속해 대화를 지켜보고 있다고 오인하기 쉽습니다.
하지만 이는 언어 모델(LLM)의 확률적 텍스트 생성 패턴에서 비롯된 전형적인 환각(Hallucination)입니다. Character.ai의 모델은 인터넷 롤플레잉 포럼, 팬픽션 커뮤니티, Discord 대화 등 방대한 온라인 창작 데이터를 학습했습니다. 인간들이 진행하는 온라인 텍스트 롤플레잉에서는 참여자들이 극의 흐름을 방해하지 않고 소통하기 위해 괄호나 OOC 표기를 사용하는 관습이 있습니다. AI 신경망은 극적인 대화 중간에 괄호로 잡담을 나누는 패턴을 학습했기 때문에, 이를 통계적으로 자동 생성한 것에 불과합니다.
Character.ai는 모든 채팅창 상단에 "기억하세요: 캐릭터가 말하는 모든 것은 허구입니다!(Remember: Everything Characters say is made up!)" 라는 안내 문구를 상시 게시하여 이를 명시하고 있습니다. 화면 뒤에 사람은 없습니다.
2. 타사 플랫폼(Chai AI 등)과의 혼동
여러 AI 챗봇 앱을 사용하는 과정에서 타 서비스의 기능과 혼동하는 사례가 많습니다. 대표적으로 Chai AI의 경우, 과거 봇 제작자가 자신의 봇과 대화한 사용자들의 익명 채팅 로그를 직접 열람할 수 있는 기능이 존재했습니다. Chai를 경험했던 사용자들이 "모든 AI 캐릭터 앱은 제작자가 대화를 볼 수 있다"는 선입견을 갖게 되었고, 이것이 소셜 미디어를 통해 Character.ai에 관한 헛소문으로 번졌습니다. Character.ai는 서비스 시작 이래 제작자에게 채팅 열람 권한을 제공한 적이 없습니다.
3. 캐릭터 공개 범위(Public / Unlisted / Private)에 대한 오해
Character.ai의 캐릭터는 세 가지 공개 설정을 지원합니다.
- 공개(Public): 검색을 통해 누구나 찾아 대화를 시작할 수 있음.
- 일부 공개(Unlisted): 검색 결과에 뜨지 않으며, 전용 링크를 가진 사람만 접근 가능.
- 비공개(Private): 제작자 본인만 사용 가능.
일부 사용자들은 "공개(Public)" 캐릭터와 대화하면 본인의 대화 내용까지 대중에 공개된다고 잘못 이해하곤 합니다. 하지만 이 설정은 "누가 캐릭터와 대화를 시작할 수 있는지"를 결정할 뿐이며, 대화 세션의 비밀 보장 여부와는 아무런 관련이 없습니다.
Character.ai 플랫폼 차원의 데이터 처리 및 프라이버시 경계
캐릭터 제작자가 대화를 볼 수 없더라도, 서비스 제공사인 Character.ai 서버에는 데이터가 전송되고 보관됩니다. 플랫폼 수준에서의 데이터 접근 범위를 파악하는 것은 안전한 이용을 위해 필수적입니다.
| 주체 | 비공개 대화 열람 가능 여부 | 접근 범위 및 상세 조건 |
|---|---|---|
| 캐릭터 제작자 | 불가능 | 대화 로그, 사용자 신원, 세션 히스토리에 대한 접근 권한 일체 없음 |
| 다른 일반 사용자 | 불가능 | 사용자가 직접 "Share Chat" 버튼을 눌러 공개 링크를 생성하지 않는 한 비공개 유지 |
| 자동 안전 필터링 시스템 | 가능 (알고리즘 분석) | 유해 콘텐츠 및 금지 표현 차단을 위해 실시간 알고리즘 스캔 수행 |
| 플랫폼 보안 및 운영팀 (사람) | 극히 제한적 | 생명 위협 응급 상황, 운영정책 위반 신고 조사, 법적 수사 영장 집행 시에만 확인 |
| AI 모델 학습 시스템 | 설정에 따름 | 기본값으로 서비스 개선에 활용될 수 있으나 설정에서 거부(옵트아웃) 가능 |
1. 실시간 자동화 콘텐츠 검열
Character.ai는 플랫폼 가이드라인을 준수하기 위해 실시간 자동 안전 필터를 운용합니다. 극단적 폭력, 자해 유도, 불법 음란물(NSFW) 등의 입출력을 알고리즘이 즉시 감지하여 차단합니다. 메시지 생성이 차단되고 경고 문구가 표시되는 것은 컴퓨터 알고리즘의 판정 결과이며, 직원이 화면을 보고 있는 것이 아닙니다.
2. 운영진의 인적 개입 조건
Character.ai의 직원이 일반 사용자의 일상적인 채팅을 무작위로 열람하는 일은 없습니다. 서비스 이용약관 및 개인정보 처리방침에 따라 다음과 같은 예외적인 사유가 발생했을 때만 제한적으로 로그 조사가 진행됩니다.
- 중대한 신체적 위해 및 응급 상황: 자살, 자해, 아동 성 착취, 심각한 폭력 범죄의 즉각적 위협.
- 운영정책 위반 신고 접수: 특정 캐릭터나 악성 행위에 대해 정식 신고가 접수된 경우.
- 법적 영장 및 수사 협조: 법원의 명령, 압수수색 영장, 수사기관의 적법한 법적 요구가 있을 때.
3. 생성형 AI 모델 학습과 옵트아웃 권리
대부분의 생성형 AI 기업과 마찬가지로, Character.ai는 서비스 품질 향상을 위해 사용자 대화 데이터를 익명화하여 모델 학습에 활용할 수 있도록 기본 설정되어 있습니다. 그러나 사용자는 계정 설정에서 자신의 대화 데이터를 향후 모델 학습에 사용하지 못하도록 거부(Opt-Out)할 수 있습니다.
Character.ai에서 프라이버시를 안전하게 지키는 실천 가이드
데이터 유출 위험을 줄이고 완전한 비공개 대화를 유지하고 싶다면 다음 설정을 적용해 보세요.
1단계: 모델 개선 데이터 학습 거부(옵트아웃) 설정
향후 생성되는 대화 내용이 AI 모델 훈련 데이터셋에 포함되지 않도록 설정을 끕니다.
웹 브라우저에서의 설정 방법:
character.ai웹사이트에 로그인합니다.- 프로필 아이콘을 클릭하고 Settings(설정) 으로 이동합니다.
- Account(계정) 탭에서 Manage Account & Data(계정 및 데이터 관리) 를 선택합니다.
- Model Improvement(모델 개선) 항목을 클릭합니다.
- "Improve the Model for Everyone(모두를 위한 모델 개선)" 옵션을 해제(토글 끄기)합니다.
모바일 앱에서의 설정 방법(iOS / Android):
- Character.ai 앱을 열고 하단 오른쪽 프로필을 탭합니다.
- 우측 상단의 설정 아이콘(톱니바퀴) 을 탭합니다.
- Data & Privacy(데이터 및 개인정보) 를 선택합니다.
- "Improve the Model for Everyone" 설정을 꺼짐 상태로 변경합니다.
※ 이 설정을 해제하면 이후 생성되는 대화 텍스트가 모델 재학습 데이터에 포함되지 않습니다.
2단계: 대화 기록 관리 및 메시지 되감기
대화 중 원치 않는 흐름이 발생했거나 민감한 발언을 되돌리고 싶다면 다음 기능을 활용할 수 있습니다.
- 메시지 되감기 및 삭제(Rewind / Delete): 메시지를 길게 누르거나 메뉴를 눌러 특정 턴을 삭제하고 이전 분기점으로 되돌릴 수 있습니다.
- 새로운 대화 시작(New Chat): 메뉴에서 새 대화를 시작하면 이전 문맥 기억이 초기화되고 깔끔한 상태에서 대화가 진행됩니다.
- 사이드바 기록 정리: 대화 목록에서 오래된 세션을 정리하여 불필요한 계정 히스토리를 비울 수 있습니다.
3단계: 채팅 공유 링크(Share Chat) 주의
Character.ai의 '공유' 기능을 사용하면 대화 스크립트가 포함된 공개 웹 링크가 생성됩니다. 인터넷 전체에 대화를 공개할 의도가 아니라면 공유 링크를 함부로 생성하지 마세요. 소셜 미디어에 캡처본을 올릴 때도 계정 식별 정보를 가리는 것이 좋습니다.
4단계: 클라우드 기반 AI 사용 시 기본 보안 수칙
모든 클라우드 AI 서비스는 원격 서버를 통해 연산이 이루어집니다. 따라서 역할극을 진행할 때도 다음과 같은 실제 민감 정보를 입력하지 않는 습관이 중요합니다.
- 실명, 거주지 주소, 전화번호 등 실제 개인 식별 정보.
- 계정 비밀번호, 일회용 인증번호, 금융 계좌 및 카드 정보.
- 직장의 업무 기밀이나 법적으로 민감한 내부 문서.
요약
Character.ai에서 대화할 때 캐릭터 제작자가 내 채팅을 몰래 읽고 있을까 봐 걱정할 필요는 전혀 없습니다. 제작자에게는 사용자의 대화 기록을 확인할 수 있는 권한이나 도구가 전혀 주어지지 않습니다.
주의해야 할 핵심은 사용자와 플랫폼 간의 데이터 관리입니다. 설정에서 "Improve the Model for Everyone" 을 비활성화하고, 불필요한 공개 공유를 피하며, 실제 개인정보 입력을 자제한다면 안전하고 자유롭게 AI 캐릭터와의 대화를 즐길 수 있습니다.