유해 주제 질문 차단
모든 AI 모델에서 유해 주제 질문 차단을 켜면, 스페이스 유저가 어떤 AI 모델을 고르든 폭력·혐오·성적 표현·범죄·자해 같은 유해한 주제의 질문을 AI에게 보내기 전에 막아요. 학교·공공기관처럼 이용자 보호 기준이 필요한 스페이스에 맞춘 설정이에요.
- 꺼져 있으면(기본) 지금처럼 일부 모델에서만 유해 주제를 검사해요.
- 켜면 일반 AI 채팅, 챗봇 대화, 챗봇 API 모두 같은 기준으로 검사해요.
어디서
섹션 제목: “어디서”- 어드민 설정 › [스페이스 관리] › [스페이스 설정] › [보안] 탭의 모든 AI 모델에서 유해 주제 질문 차단 카드
- 어드민 설정 들어가기 —
새 메뉴: 왼쪽 아래 프로필(내 계정) 메뉴 › 어드민 설정 (이전 메뉴: 왼쪽 사이드바 하단 › 어드민 설정)
어떻게
섹션 제목: “어떻게”- 보안 탭에서 모든 AI 모델에서 유해 주제 질문 차단 토글을 켜세요. 누르는 즉시 저장돼요(“수정이 완료되었습니다.”).
- 끄려면 같은 토글을 다시 누르세요.
카드 설명 그대로 — “켜면 이 스페이스에서 어떤 AI 모델을 쓰더라도 폭력·혐오·성적 표현·범죄·자해 같은 유해한 주제의 질문을 AI에게 보내기 전에 막아요. 꺼져 있으면 일부 모델에서만 검사해요.”
켜기 전에 알아 둘 것
섹션 제목: “켜기 전에 알아 둘 것”| 항목 | 설명 |
|---|---|
| 검사하는 것 | 유저가 직접 쓴 질문 글 |
| 검사하지 않는 것 | “AI가 만든 답변과 첨부한 문서의 내용은 검사하지 않아요.” |
| 질문 글의 외부 전송 | “질문 글은 안전성 검사를 위해 OpenAI 로 전송돼요.” — 기관의 개인정보·외부 전송 고지 범위를 먼저 확인하세요 |
| 검사 서비스 장애 때 | “검사 서비스에 문제가 생기면 질문을 막지 않고 그대로 보내요.” — 장애로 스페이스 전체 대화가 멈추지 않게 하기 위해서예요 |
| 막힌 질문의 크레딧 | AI를 부르지 않으므로 차감되지 않아요 |
| 응답 속도 | 검사를 거치는 만큼 답이 시작되기까지 조금 늦어질 수 있어요 |
유저에게는 이렇게 보여요
섹션 제목: “유저에게는 이렇게 보여요”유해한 주제로 판정된 질문은 AI에게 전달되지 않고, 답변 자리에 운영 정책 때문에 답할 수 없다는 안내가 보여요. 유저는 질문을 바꿔 다시 물으면 돼요.
자주 묻는 질문
섹션 제목: “자주 묻는 질문”Q. 정상적인 질문도 막힐 수 있나요?
섹션 제목: “Q. 정상적인 질문도 막힐 수 있나요?”드물지만 그럴 수 있어요. 의학·법률·보안 교육처럼 민감한 단어를 다루는 질문이 유해 주제로 판정될 수 있어요. 자주 막힌다는 문의가 오면 질문 예시를 모아 문의하기로 알려 주세요.
Q. 금칙어 설정과는 무엇이 다른가요?
섹션 제목: “Q. 금칙어 설정과는 무엇이 다른가요?”금칙어 설정은 관리자가 등록한 특정 단어를 막고, 이 설정은 AI 안전성 검사로 질문의 주제를 판단해 막아요. 둘을 함께 쓸 수 있어요.
Q. 끄면 바로 원래대로 돌아가나요?
섹션 제목: “Q. 끄면 바로 원래대로 돌아가나요?”네. 끄는 즉시 이 스페이스는 일부 모델에서만 검사하는 기본 동작으로 돌아가요.
관련 문서: 스페이스 설정