AI가 환자 속성을 추정할 때 생기는 문제

환자가 말한 정보와 추정값의 차이

AI가 추정한 환자 속성을 확인된 사실처럼 사용하는 문제를 막으려면 추정값과 확인된 정보를 구분해야 합니다. 민감정보 생성 가능성과 환자에 관한 결정에 쓰이는 과정의 설명 가능성은 따로 점검해야 합니다. 병원 담당자는 결과의 표현이 자연스럽다는 이유로 환자에게 확인하지 않은 속성을 상담 자료나 환자별 판단 근거에 옮기지 않도록 관리해야 합니다.

환자가 직접 제공한 정보와 AI가 그 정보에서 도출한 결론은 근거가 다릅니다. 환자가 특정 시간에 연락을 요청했다는 기록만으로 직업이나 생활 형편까지 확정할 수는 없습니다. 원래 발언이 남아 있어도 AI가 추가한 속성에는 별도의 근거가 필요합니다.

마케팅 담당자는 정보 항목마다 출처와 상태를 함께 기재하는 방식을 사용할 수 있습니다. 환자가 직접 말한 내용에도 확인 시점과 적용 범위를 기록하고, AI의 해석에는 추정 표시를 유지합니다. 병원이 직접 받은 답변이라는 사실과 다른 용도로 사용할 수 있다는 판단은 별개입니다.

새로 생성되는 민감한 속성의 판단

추정 요청은 입력에 없던 민감한 내용을 출력에 추가할 수 있습니다. 담당자는 입력 자료에 건강정보가 있는지만 조사하지 말고, 요청 문장이 환자의 건강 상태 등을 추론하도록 요구하는지도 판단해야 합니다. 명칭이 단순한 관심도나 성향이어도 실제 설명에 어떤 내용이 담기는지 읽어야 합니다.

「생성형 인공지능 개발·활용을 위한 개인정보 처리 안내서」는 민감정보 생성을 유도하는 입력을 탐지·차단하는 필터와 출력의 개인정보를 제거하거나 치환하는 등의 제어 방식을 설명합니다. 병원은 이 설명을 참고해 요청 단계와 결과 단계에 각각 중단 조건을 정할 수 있습니다. 필터를 사용하는 경우에도 담당자는 실제 출력에서 불필요한 민감한 속성이 생성됐는지 점검합니다.

추정 요청부터 결정까지의 확인 순서

실장은 추정 결과를 사용할 업무부터 정하고, 마케팅 담당자는 입력 항목과 요청 문장을 준비합니다. 개인정보 담당자는 민감정보 생성 가능성과 결정 과정을 검토할 자료를 받습니다. 환자 원문 전체를 여러 부서에 복제하기보다 필요한 항목과 처리 흐름을 설명하는 자료로 준비합니다.

1. 마케팅 담당자는 환자 발언에서 가져온 항목과 AI가 추가한 속성을 따로 표시하고, 각 항목의 출처를 기재합니다.
2. 개인정보 담당자는 요청 문장과 출력 항목을 대조해 민감한 속성을 새로 만드는 요구가 있는지 판단합니다.
3. 실장은 결과를 읽는 업무와 결과 때문에 환자 대응이 달라지는 업무를 나누고, 실제로 달라지는 처리 내용을 기록합니다.
4. 업무 책임자는 사용 정보, 처리 순서, 사람의 개입 시점과 수정 권한을 정리하고 설명할 수 없는 부분의 사용을 보류합니다.

준비 자료에는 속성 목록만 포함하지 말고 결과를 전달받는 부서와 후속 처리도 기재합니다. 환자 화면에 표시하지 않는 값이라도 직원의 판단에 사용되면 그 경로를 기록해야 합니다. 담당자는 결과 파일의 이름보다 실제 업무에서 값이 어떻게 사용되는지를 기준으로 조사합니다.

결정 과정과 설명 자료의 연결

개인정보보호위원회 「개인정보 처리방침 작성지침」은 자동화된 결정에 해당하는 경우 목적과 대상, 사용 정보와 결정의 관계, 처리 절차 등을 안내하도록 설명합니다. 거부나 설명 등의 요구 방법과 절차도 안내 항목에 포함합니다. 병원 개인정보 담당자는 추정값의 생성만으로 해당 여부를 단정하지 않고, 완전히 자동화된 시스템으로 개인정보를 처리해 결정하는 구조인지 검토해야 합니다.

실무자가 화면에서 결과를 읽는다는 사실만으로 사람의 검토가 충분하다고 판단해서는 안 됩니다. 실장은 담당자가 근거를 판단할 자료와 결과를 수정할 권한을 갖추었는지 조사합니다. 병원은 이 기록으로 실제 처리 구조를 설명하고, 적용되는 안내 사항은 개인정보 담당자가 판단하도록 합니다.

사실 확인 전 사용 보류 기준

병원은 사실 확인이 안 된 추정값을 환자별 판단에 사용하지 않는 내부 기준을 정할 수 있습니다. 이는 모든 추정의 법적 지위를 일괄 판정하는 기준이 아니라, 불확실한 정보가 환자 대응에 영향을 주지 않도록 하는 업무 기준입니다. 출처를 찾을 수 없거나 필요한 근거를 확보하지 못한 항목은 사용 보류 상태로 기록합니다.

업무 책임자는 전체 결과의 승인 여부만 결정하지 말고 속성 항목별로 사용 가능 범위를 정해야 합니다. 직접 확인한 항목과 미확인 추정값이 함께 있으면 앞에서 정한 기준에 따라 필요한 항목만 후속 업무에 전달합니다. 원래 요청이 불필요한 속성을 생성하도록 설계됐다면 요청 문장부터 수정합니다.

환자에게 추가 질문을 한다고 해서 모든 추정값을 확인 대상으로 삼을 필요는 없습니다. 업무에 필요하지 않은 속성은 사실 여부를 묻기보다 사용 대상에서 제외합니다. 필요한 정보를 다시 받을 때도 AI가 만든 결론에 동의하도록 유도하지 않고, 환자가 자신의 상황을 직접 설명할 수 있는 질문을 사용합니다.

형식적인 사람 검토의 오류

직원이 승인 표시만 남기는 절차는 추정 근거를 판단하는 절차와 다릅니다. 검토 담당자가 입력의 의미를 알 수 없거나 추정값 때문에 달라지는 처리를 알지 못하면, 결과의 문장만 읽고 통과시킬 수 있습니다. 실장은 승인 화면에 필요한 근거와 후속 처리를 함께 제시하도록 업무를 설계합니다.

설명 자료도 AI가 생성한 이유 문장을 그대로 사용해서는 충분하지 않습니다. 담당자는 그 문장이 실제 사용 정보와 처리 절차에 부합하는지 대조하고, 알 수 없는 과정은 미확인 항목으로 기록합니다. 그럴듯한 이유가 있다는 것과 병원이 실제 처리 과정을 설명할 수 있다는 것은 별개의 판단입니다.

문구 수정과 추정 철회의 차이

속성 이름을 완곡하게 고쳐도 그 값이 업무에 미치는 영향은 남을 수 있습니다. 담당자는 민감한 표현을 삭제한 뒤에도 같은 값이 응대 조건이나 직원 참고 자료로 전달되는지 조사해야 합니다. 표시 문구만 수정하고 사용 조건을 유지하면 추정 자체를 철회한 것으로 처리하지 않습니다.

속성의 사용을 철회할 때는 결과 화면뿐 아니라 그 값을 참조하는 업무 자료도 수정 대상으로 지정합니다. 실장은 이전 값으로 이미 진행한 처리가 있는지 조사하고, 필요한 재검토를 해당 부서에 요청합니다. 수정 기록에는 문구 변경인지, 판단 근거에서 제외한 것인지, 후속 처리를 다시 결정한 것인지 기재해 조치의 범위를 명확히 합니다.

자주 묻는 질문

환자 속성의 추정값이 비어 있으면 직원이 채워도 됩니까?

빈 항목을 완성하기 위해 직원이 속성을 추측해 입력하지 않도록 합니다. 해당 값이 필수라면 시스템 담당자에게 미확인 상태를 처리할 수 있는지 요청하고, 실제 업무에 꼭 필요한 항목인지도 판단합니다. 빈 값 때문에 다음 처리가 진행되지 않는 구조라면 임의 입력보다 업무 절차를 먼저 수정합니다.

여러 AI가 같은 환자 속성을 제시하면 사실로 인정해도 됩니까?

결과가 일치한다는 이유만으로 환자가 직접 제공한 정보가 되지는 않습니다. 병원은 여러 결과의 일치를 별도의 확인 근거로 취급하지 않는 편이 적절합니다. 같은 입력과 유사한 해석에서 나온 결론일 수 있으므로, 필요한 사실의 출처는 따로 확보해야 합니다.

환자 속성의 추정 결과를 번역하면 의미가 달라질 수 있습니까?

번역 과정에서 가능성을 나타내는 표현이 단정적인 속성 이름으로 바뀔 수 있습니다. 담당자는 원래 표현과 번역문을 대조하고, 용어 목록에 뜻과 불확실성 표시 방법을 함께 기재합니다. 부서마다 다른 번역을 사용하지 않도록 환자 대응에 사용하는 명칭도 정리합니다.

계산식으로 만든 환자 속성도 같은 관리 대상에 포함합니까?

병원의 내부 관리 기준은 AI라는 명칭보다 값이 만들어지는 방식에 적용할 수 있습니다. 직원이 정한 계산식으로 생성한 값도 환자가 말한 사실과 다르면 파생된 평가값으로 표시합니다. 계산식이 단순하다는 이유로 그 결과를 환자의 실제 속성과 동일하게 취급하지 않습니다.

환자 속성을 분석하는 목적이 변경되면 어떤 자료를 남겨야 합니까?

담당자는 기존 목적과 변경 목적, 새 업무에서 필요한 항목, 전달받는 부서를 기록합니다. 업무 책임자는 이전에 허용한 사용 범위가 변경 목적까지 포함하는지 판단하고 그 결정을 남깁니다. 이전 작업에서 사용했다는 사실만으로 새 목적에 대한 판단을 생략하지 않습니다.

이어서 읽을 주제

기존 콘텐츠 AI 활용을 이어 읽으면 환자 속성을 새로 만들지 않고 병원이 보유한 설명 자료를 활용할 업무를 정리할 수 있습니다. 환자 질문 수집을 이어 읽으면 관심이나 성향을 추측하는 대신 환자가 직접 표현한 질문을 어떤 방식으로 모을지 준비할 수 있습니다.