챗봇 대화에서 개인정보를 받지 않게 하는 설계

개인정보를 요구하지 않는 질문 설계

챗봇에서 개인정보를 받지 않으려면 개인정보를 요구하지 않는 질문과 입력 경로를 먼저 설계하고, 입력·출력 필터가 어느 단계에 적용되는지 확인해야 합니다. 안내 문구나 필터만으로 환자의 자발적 입력까지 막을 수 있다고 보장해서는 안 됩니다. 병원 담당자는 개인정보 없이 답할 수 있는 문의부터 챗봇의 응대 범위로 정하고, 그 범위를 벗어난 질문을 대화에서 제외합니다.

생성형 인공지능 개발·활용을 위한 개인정보 처리 안내서는 기획부터 개발과 활용까지 개인정보 최소화와 보호 기술을 반영하도록 설명합니다. 병원은 챗봇 제작이 끝난 뒤 경고 문구만 추가하기보다 질문을 정하는 단계에서 필요한 정보를 줄이는 방식으로 적용할 수 있습니다. 실장은 응대할 문의 항목을 정하고, 마케팅 담당자는 각 항목의 답변에 개인 사정이 필요한지 따집니다.

판단 기준은 환자에 관한 설명을 받지 않아도 병원이 안내를 마칠 수 있는지입니다. 위치, 진료 시간, 준비물처럼 공통 안내로 끝나는 문의라면 개인의 이름이나 증상을 묻는 후속 질문을 만들지 않습니다. 이용자가 상세한 상담을 원하더라도 챗봇이 병력부터 요청하도록 설계하지 않고, 현재 경로에서 안내할 수 있는 범위를 설명합니다.

요구하지 않을 정보와 대체 경로

요구하지 않을 정보에는 이름과 연락처뿐 아니라 개인의 건강상태, 병력, 가족력도 포함해 정리합니다. 분야별 개인정보 보호 안내서는 개인정보의 범위에 개인을 알아볼 수 있는 정보와 다른 정보에 쉽게 결합해 개인을 알아볼 수 있는 정보를 포함하며, 환자 정보로 건강상태와 병력 등도 설명합니다. 담당자는 연락처 입력칸을 없앤 것만으로 설계를 끝내지 말고, 증상 설명이나 진료 이력을 유도하는 질문까지 목록에 기재합니다.

표의 대체 경로는 병원이 설계할 수 있는 방식이며 특정 서비스의 기본 기능을 뜻하지 않습니다. 문의 항목을 선택한 뒤 다시 자유 입력을 요구한다면 대체 경로가 끝까지 이어진 것으로 판단하지 않습니다. 담당자는 첫 질문부터 마지막 응답까지 개인정보를 요청하지 않고 종료되는 경로를 표시합니다.

대화 수정 순서와 준비 자료

실장은 요구하지 않을 정보 목록을 먼저 확정하고, 담당자는 그 목록을 현재 질문과 입력 화면에 적용합니다. 업체에 전달할 자료는 질문 문구, 입력칸의 설명, 선택 항목, 다음 응답이 함께 있는 대화 흐름안으로 준비합니다. 실제 환자 대화를 복사하지 않고도 수정할 요소를 설명할 수 있도록 화면과 문구를 중심으로 정리합니다.

1. 이름·연락처·병력 등 요구하지 않을 정보를 목록으로 만들고, 각 문의에 해당 정보를 요청하는 질문이 있는지 대조합니다.
2. 불필요한 입력칸과 추가 질문을 삭제하고, 개인 사연 대신 문의 항목을 선택해 안내를 끝내는 경로를 만듭니다.
3. 자유 입력이 남는 위치에는 개인정보 입력을 자제해 달라는 안내를 추가하고, 업체에 입력·출력 필터의 적용 지점과 시험 자료를 요청합니다.

안내 문구는 이용자가 내용을 쓰기 전에 읽을 수 있는 위치에 배치하도록 요청합니다. 이름과 연락처만 언급하면 건강정보 입력을 자제하라는 뜻이 전달되지 않을 수 있으므로 병력이나 검사 결과 등도 문구에 포함합니다. 입력칸의 예시 문장은 자세한 개인 사정을 쓰도록 유도하지 않는 표현으로 수정합니다.

업체에 요청할 필터 작동 자료

입력·출력 필터는 적용 위치와 처리 결과를 나누어 업체에 질문해야 합니다. 생성형 인공지능 개발·활용을 위한 개인정보 처리 안내서는 입력 단계에서 악의적이거나 민감정보 생성을 유도하는 요청을 분석·차단하고, 출력에 개인정보가 감지되면 제거·치환하거나 경고를 추가하는 방식을 설명합니다. 병원 담당자는 이런 설명을 해당 챗봇에 이미 적용된 기능으로 전제하지 않고 실제 구성에 관한 답변을 받습니다.

업체에는 입력값이 챗봇 서버나 외부 모델 등 어느 대상까지 전달되는지 단계별로 기재하도록 요청합니다. 화면에서 개인정보가 사라진 결과만으로 이전 전달 단계에서도 제거됐다고 판단할 수는 없습니다. 답변이 없는 항목은 미확인으로 기록하고, 해당 경로를 운영 범위에 포함할지 병원이 결정합니다.

자발적 입력을 시험하는 기록

이용자가 먼저 개인정보를 쓰는 상황은 실제 환자 자료 대신 시험용 모의 입력으로 점검합니다. 담당자는 안내에 따라 문의 항목만 선택하는 입력과, 안내를 따르지 않고 개인 정보를 포함하는 입력을 따로 준비합니다. 시험용 표기와 임의 문자열을 사용하되 실재 인물의 이름, 연락처, 병력을 가져오지 않습니다.

시험 항목은 일반 문장에 정보가 섞인 경우, 여러 메시지로 나누어 입력한 경우, 챗봇이 추가 설명을 요구한 경우로 구성합니다. 서비스가 파일이나 이미지 입력을 허용한다면 그 입력 경로도 시험 범위에 포함할지 업체와 정합니다. 텍스트 시험만 수행했다면 다른 입력 형태까지 통과한 것으로 기록하지 않습니다.

기록에는 시험한 대화 단계, 입력 형태, 화면 응답, 업체가 제시한 필터 처리 결과, 판단하지 못한 항목을 남깁니다. 화면 응답과 업체의 처리 설명이 다르면 어느 단계의 결과인지 다시 질문합니다. 개인정보를 포함한 문장이 화면에 나타나지 않았다는 사실과 입력값이 외부로 전달되지 않았다는 판단은 서로 다른 증거가 필요합니다.

시험 결과의 해석 범위

필터가 모의 입력을 처리했더라도 그 결과는 시험한 조건에 한정해 해석합니다. 생성형 인공지능 개발·활용을 위한 개인정보 처리 안내서는 안전조치를 우회하는 새로운 입력에 추가 조치가 필요할 수 있다고 설명합니다. 병원은 시험을 통과했다는 이유로 모든 표현과 대화 상황에서 개인정보 입력을 방지한다고 안내하지 않습니다.

필터가 입력을 감지한 뒤 챗봇이 같은 내용을 다시 요구하는지도 기록합니다. 해당 정보가 필요 없다고 안내하면서 다음 질문에서 상세 증상이나 진료 이력을 요청한다면 질문 설계부터 수정해야 합니다. 이미 받은 개인정보의 후속 처리는 이 시험의 성공 여부와 분리하고, 입력 방지 설계가 그 처리까지 해결한다고 판단하지 않습니다.

담당자는 수정한 질문과 필터 설정에 대해 시험 결과를 각각 남깁니다. 질문 삭제는 병원이 요청할 정보를 줄인 결과이고, 필터 시험은 특정 입력의 처리 결과이므로 한 항목의 통과로 다른 항목을 대신하지 않습니다. 업체와 병원은 실패한 조건을 기준으로 수정할 대화와 추가로 시험할 입력을 정합니다.

선택 항목이 요구하는 개인 정보

자유 입력을 없앴더라도 선택 항목 자체가 개인 정보를 요구할 수 있습니다. 질환명, 복용 약, 가족력 등을 고르게 하면 이용자는 문장을 쓰지 않고도 자신의 건강정보를 전달하게 됩니다. 담당자는 선택 방식이라는 이유로 허용하지 말고, 각 선택값이 이용자에 관해 무엇을 알려 주는지 판단합니다.

공통 안내에 필요한 문의 주제와 개인 상태를 묻는 선택지는 별도로 평가합니다. 답변을 더 세밀하게 만들기 위해 개인 상태를 추가로 선택하게 한다면, 그 정보 없이 제공할 수 있는 안내 범위를 먼저 정합니다. 선택하지 않으면 진행할 수 없는 필수 항목도 같은 기준으로 검토하고, 불필요한 항목은 삭제합니다.

자주 묻는 질문

챗봇의 개인정보 입력 안내는 누가 승인해야 하나요?

병원은 안내 문구를 관리할 책임자를 정하고 개인정보 업무 담당자와 실제 응대 담당자가 함께 검토하도록 합니다. 업체가 만든 기본 문구를 그대로 승인하기보다 병원의 응대 범위와 이용자가 이해할 표현이 맞는지 판단합니다. 문구의 변경 이력에는 승인한 내용과 적용 위치를 함께 기재합니다.

외국어로 대화하는 경로도 따로 시험해야 하나요?

병원이 외국어 응대를 운영한다면 해당 언어의 안내와 질문을 시험 범위에 포함하는 편이 좋습니다. 한국어에서 적절했던 표현이 번역 후 개인 사정을 더 자세히 요구하는 문장으로 달라질 수 있습니다. 해당 언어를 이해하는 사람이 문구를 검토하고 업체에는 언어별 필터 시험 범위를 묻습니다.

첨부파일이 꼭 필요하지 않으면 어떻게 설계하나요?

공통 문의를 안내하는 데 첨부파일이 필요 없다면 병원은 해당 경로에서 첨부 입력을 제외하도록 요청할 수 있습니다. 적용 가능 여부는 서비스 구성에 따라 업체가 답해야 합니다. 제외할 수 없다면 텍스트와 별개의 미해결 항목으로 기록하고 그 입력 경로의 사용 범위를 정합니다.

챗봇 답변에 개인정보를 요구하는 표현이 새로 생기면 어떻게 하나요?

담당자는 문제가 발생한 질문과 직전 선택 항목을 기록해 업체에 전달합니다. 미리 정한 문구에만 수정 요청을 한정하지 말고 답변 생성 조건에서도 같은 요청이 반복되는지 시험하도록 합니다. 수정이 끝나기 전에는 그 질문이 이어지는 경로를 사용 범위에서 제외할지 결정합니다.

업체가 필터 처리 화면을 공개하기 어렵다고 하면 어떻게 하나요?

병원은 비공개 기술의 상세 내용 대신 처리 단계 설명과 모의 입력별 결과처럼 판단에 필요한 자료를 요청합니다. 화면 공개를 거절했다는 사실만으로 필터가 없다고 단정할 수는 없습니다. 대체 자료로도 작동 위치를 판단할 수 없다면 그 항목을 미확인으로 남겨 운영 여부를 결정합니다.

이어서 읽을 주제

병원 플레이스 예약 연결은 공통 문의를 마친 이용자가 예약 경로를 찾을 때 연결 대상과 안내 범위를 정하기 위해 이어 읽을 주제입니다. 챗봇에서 예약 정보를 직접 입력하도록 확장하기 전에 예약을 진행할 경로와 병원이 관리할 연결 지점을 정리합니다.