AI가 의료정보를 잘못 안내하면 책임은 누가 지나요?

의료 서비스 특성상 잘못된 정보(할루시네이션)로 인한 오안내는 가장 큰 우려입니다.
는 진단·치료 의견이 아닌, 병원 승인 정보(FAQ·공식 안내문) 만을 기반으로 답변합니다.
병원 검수 단계를 거친 콘텐츠만 학습·응답하도록 구성하면 신뢰성 확보가 가능합니다.

AI의 ‘할루시네이션’은 무엇인가요?

할루시네이션은 AI가 실제 근거가 없는 내용을 사실처럼 생성하는 현상입니다. 이를 방지하기 위해  는
★ 병원 내부의 공식 문서·FAQ 데이터 또는 홈페이지만 참조
★“AI가 답하지 않아야 할 단어” 정책어(예: 진단, 처방 등) 자동 차단 필터 적용
- 예: “해당 내용은 의료진 상담이 필요한 항목입니다. 진료과로 연결해드리겠습니다.” , “약 복용 관련 내용은 의료진 상담이 필요합니다. 진료를 권장 드립니다.”
★ RAG(검색 기반 생성) 방식으로 최신 데이터만 불러오도록 설계. 즉, AI가 “모르는 것은 모른다고 답하도록 설계”되어 있습니다.

AI 챗봇이 환자 개인정보를 저장하나요?

개인정보를 직접 수집하지 않고, 문의 유형·언어 통계만 저장 가능. 모든 로그는 비식별화 처리됩니다.

의료법이나 개인정보보호법 위반 소지는 없나요?

상담 범위를 비진료·비처방 영역(일정·안내)으로 제한해 의료행위에 해당하지 않습니다.

우리 병원 정보나 환자 대화 내용이 ChatGPT나 다른 AI 모델에 학습되어 외부로 유출되지 않나요?

는 의료기관 전용으로 운영되는 폐쇄형(Private) AI 환경이며, 병원이 사용하는 데이터가 ChatGPT나 외부 공용모델의 학습 데이터로 활용되지 않습니다. 즉, 병원 FAQ, 의료안내문, 환자 문의 내용은 모두 병원 내부 전용 시스템에서만 사용됩니다.

자동응답의 비율과 정확도는 어느 정도인가요?

병원 맞춤 시나리오를 세팅하면, 약 70~80%의 반복 문의를 자동으로 처리할 수 있습니다. 나머지 문의는 카카오채널·전화 등 실시간 상담으로 자동 전환됩니다.

직원이 직접 내용을 수정하거나 업데이트할 수 있나요?

병원 담당자는 관리자 페이지에서 FAQ나 안내문을 직접 수정할 수 있으며, 수정 내용은 즉시 반영됩니다.

외국인 고객도 쉽게 사용할 수 있나요?

는 대화형 버튼, 음성 인식, 다국어 자동 번역 기능을 지원합니다.

유지보수나 학습 데이터 업데이트는 누가 담당하나요?

운영팀이 월 단위 모니터링 및 리포트 제공을 수행합니다. 병원 내부 담당자가 FAQ만 수정해도 자동으로 업데이트되는 구조라 운영이 간편합니다.

도입 효과를 객관적으로 확인할 수 있나요?

는 상담 응답률, 예약 전환율, 언어별 사용 통계 등 주요 데이터를 리포트 형태로 제공합니다. 이를 통해 병원은 서비스 효과를 수치로 확인하고, 개선 방향을 도출할 수 있습니다.