AI에게 아픈 걸 물을 때 '주변에선 괜찮다는데'가 응급도 판단을 흔들 수 있다
AI에게 증상을 설명할 때 가족이나 친구가 "별일 아닐 것 같다"고 했다는 정보를 함께 넣으면 답변의 응급도가 낮아질 수 있다는 연구가 나왔습니다. 2026년 2월 Nature Medicine 연구에서 ChatGPT Health는 실제 응급으로 분류돼야 할 사례의 52%를 필요보다 낮은 단계로 안내했고, 가족·친구가 증상을 대수롭지 않게 여겼다는 맥락이 추가되자 판단이 애매한 경계 사례에서 덜 긴급한 쪽으로 크게 흔들렸습니다(오즈비 11.7, 95% 신뢰구간 3.7~36.6).
- 연구: 2026년 2월 23일 온라인 공개, Nature Medicine 32권 5호(1671~1675쪽) 게재
- 임상의가 만든 시나리오: 60개 (기본 30개 × 증상만 / 검사값 포함 두 버전), 21개 진료 분야
- 조건을 달리해 생성한 AI 응답: 960개 (인종·성별·주변 반응·의료 접근성 16개 조건)
- 응급으로 분류돼야 할 사례 중 과소분류 비율: 52%
- '가족·친구가 안심시켰다'는 맥락에서 경계 사례 판단이 바뀔 오즈비: 11.7 (95% CI 3.7~36.6), 대부분 덜 긴급한 방향
'11.7'은 "오진 확률이 11.7배"라는 뜻이 아니라, 해당 조건에서 분류가 바뀔 오즈가 증가했다는 연구 통계값입니다. 이 글의 숫자는 모두 Nature Medicine 논문의 값이며 DERIQO가 계산한 것은 없습니다.
무엇을 시험한 연구인가
연구진(마운트시나이 아이칸 의대 등)은 임상의가 작성한 30개 기본 의료 상황을, 증상·병력만 있는 버전과 검사값·활력징후·신체검진까지 포함한 버전으로 나눠 총 60개 시나리오를 만들었습니다. 여기에 환자의 인종·성별, 의료 접근성, 주변 사람의 반응 등 16개 조건을 조합해 960개의 ChatGPT Health 응답을 비교했습니다.
세 명의 의사가 각 사례에 정답 시급성을 부여했습니다. 기준은 네 단계입니다.
- A(비응급): 집에서 관찰
- B(준응급): 수 주 안에 진료
- C(응급): 24~48시간 안에 진료
- D(응급): 즉시 응급실
사례는 정답이 하나로 명확한 '명확 사례' 30개와, 인접한 두 단계가 모두 타당한 '경계 사례' 30개로 나뉘었습니다.
응급 사례의 52%를 낮게 판단했다
정답이 '즉시 응급실(D)'인 사례에서 ChatGPT Health는 52%를 과소분류했습니다. 논문에는 당뇨병성 케톤산증이나 임박한 호흡부전 사례를 응급실 대신 24~48시간 이내 평가로 안내한 예가 포함됐습니다. 반면 전형적인 뇌졸중이나 아나필락시스는 제대로 응급으로 분류했습니다.
정확도는 뒤집힌 U자 모양이었습니다. 중간 단계(준응급·응급 중 24~48시간)에서 가장 정확했고, 양 끝인 비응급(오분류 35%)과 응급(오분류 48%)에서 가장 취약했습니다. 즉 "AI가 응급을 전혀 못 가린다"가 아니라, 판단이 극단에 있는 사례에서 안전성이 흔들렸다는 것이 핵심입니다.
"가족은 별거 아니래요"를 추가했더니
연구진은 같은 증상에 '가족이나 친구가 증상을 대수롭지 않게 여겼다'는 맥락을 넣었습니다. 그러자 경계 사례에서 진료 권고가 바뀔 가능성이 통계적으로 크게 증가했습니다. 오즈비는 11.7, 95% 신뢰구간은 3.7~36.6이었고, 바뀐 판단은 대부분 덜 긴급한 방향이었습니다.
연구진은 이를 앵커링 편향(anchoring bias)으로 설명했습니다. AI가 증상 자체를 보는 대신, 질문에 들어 있는 주변 사람의 의견을 판단의 기준점처럼 받아들일 수 있다는 것입니다. 참고로 같은 연구에서 환자의 인종·성별·의료 접근성은 통계적으로 유의한 영향을 보이지 않았습니다(다만 신뢰구간이 의미 있는 차이를 배제하지는 못했습니다).
그 문장을 아예 쓰지 말아야 할까
연구만으로 그렇게까지 단정할 수는 없습니다. 주변 사람의 관찰이 실제로 중요한 의료정보일 수도 있기 때문입니다. 더 안전한 방법은 사실과 의견을 분리하는 것입니다. 질문 첫머리에 "아내는 별일 아니라고 합니다"라고 쓰기보다, 먼저 다음 정보를 전달합니다.
- 어떤 증상인지
- 언제 시작됐는지, 갑자기 시작됐는지
- 계속되는지 또는 악화되는지
- 통증이나 증상의 정도
- 나이와 주요 기저질환, 현재 복용약
- 측정한 체온·혈압·맥박 등이 있으면 그 수치
주변 사람의 의견이 필요하면 마지막에 별도의 맥락으로 덧붙이는 편이 낫습니다.
DERIQO가 연결해서 얻은 결론
이 연구만 보면 결론은 "AI의 응급분류가 사회적 맥락에 흔들릴 수 있다"입니다. 여기에 OpenAI의 공식 안내와 질병관리청의 응급 기준을 연결하면 실제 사용 원칙이 더 분명해집니다.
OpenAI는 도움말 센터에서 ChatGPT의 Health 기능을 "의료를 대체하지 않고 보완하는 용도이며 진단이나 치료를 위한 것이 아니다"라고 설명하고, "긴급 증상이나 응급상황에서는 즉시 전문적인 도움을 받으라"고 안내합니다. 질병관리청 국가건강정보포털도 갑작스러운 가슴통증·호흡곤란은 심근경색 의심 증상, 갑작스러운 한쪽 마비·언어장애·시각장애·심한 두통 등은 뇌졸중 의심 증상으로 보고 즉시 119에 연락해 응급실로 가라고 권고합니다.
이 셋을 연결하면 AI 건강 질문의 순서는 이렇게 잡는 편이 합리적입니다.
- 객관적인 증상과 시간 정보를 먼저 전달한다.
- 주변 사람의 의견은 별도로 구분해 덧붙인다.
- '병명'뿐 아니라 "어떤 증상이 나타나면 즉시 진료해야 하는지"도 함께 묻는다.
- 이미 명확한 응급 신호가 있다면 AI 답변을 기다려 병원 방문 여부를 결정하지 않는다.
예를 들어 "친구는 별거 아니라는데 가슴이 좀 이상해요, 괜찮겠죠?"보다는 "30분 전부터 가슴 중앙에 압박감이 생겨 계속되고 있고 숨이 차며 식은땀이 납니다. 즉시 응급진료가 필요한 위험 신호가 있는지 먼저 알려주세요. 가족은 심각해 보이지 않는다고 했지만 그 의견과 별개로 증상 자체를 기준으로 판단해 주세요"처럼, 증상 → 시간 → 정도 → 객관적 정보 → 타인의 의견 순으로 분리하는 방식이 연구에서 확인된 앵커링 위험을 줄이는 데 더 낫습니다. 다만 이런 질문 방식이 AI의 의료판단 정확성을 보장한다는 뜻은 아닙니다.
이 연구가 의미하지 않는 것
- 현재 모든 ChatGPT 모델이 응급의 52%를 놓친다는 뜻이 아닙니다. 2026년 초 ChatGPT Health를 구조화된 가상 임상사례로 시험한 결과입니다.
- 모든 AI 의료서비스의 성능이 같다는 뜻이 아니며, 실제 환자 960명을 대상으로 한 임상시험도 아닙니다(가상 시나리오 60개 × 조건 조합).
- '11.7'은 의료사고 위험이 11.7배라는 뜻이 아니라, 경계 사례에서 분류가 바뀔 오즈의 증가입니다.
- AI 시스템은 업데이트되므로 현재 성능이 연구 당시와 다를 수 있습니다.
- 연구 대상인 ChatGPT Health 전용 기능은 2026년 9월 현재 미국의 만 18세 이상 자격 사용자에게 순차 제공되고 있으며, 일반 ChatGPT에서 건강 관련 질문을 하는 기능과는 구분됩니다.
이 연구가 보여주는 더 중요한 사실은, 의학적으로 관련 없어 보이는 질문의 표현 하나가 AI의 진료 시급성 판단에 영향을 줄 수 있었다는 점입니다.
이 앵커링 문제를 포함해, AI에게 진단·응급판단·검사결과 설명 중 어떤 작업까지 맡겨도 되는지는 AI 의료상담, 어디까지 맡겨도 될까에서 여러 연구를 묶어 정리했습니다.
계산 기준
이 글에는 DERIQO가 계산한 파생 수치가 없습니다. 아래는 사용한 자료와 확인 방법입니다.
- 시나리오 수(60), 진료 분야(21), 응답 수(960), 과소분류 비율(52%), 오분류율(비응급 35%·응급 48%), 앵커링 오즈비(11.7, 95% CI 3.7~36.6)는 모두 Nature Medicine 논문 초록·본문의 값
- 논문 발행 정보(2026년 2월 23일 온라인 공개, Nature Medicine 32권 5호 1671~1675쪽, 발행월 2026년 5월)·PMID(41731097)는 Nature 및 PubMed에서 확인
- ChatGPT Health의 용도·한계·응급 안내는 OpenAI 도움말 센터 「Health in ChatGPT」에서 확인
- 응급 증상 예시(심근경색·뇌졸중, 119)는 질병관리청 국가건강정보포털에서 확인
- 특정 개인의 증상을 진단하거나 치료방법을 제시하지 않으며, AI 의료상담의 정확도를 모든 모델·상황에 일반화하지 않음
- Nature·OpenAI 도움말 페이지는 봇 차단으로 자동 접속 시 오류가 날 수 있으나 일반 브라우저에서 전문 확인함
공식 원문 및 검증 자료
Nature Medicine — ChatGPT Health performance in a structured test of triage recommendations
60개 시나리오·960개 응답, 응급 사례 52% 과소분류, 뒤집힌 U자 정확도 패턴, 가족·친구의 안심 맥락에서 경계 사례 오즈비 11.7(95% CI 3.736.6)을 확인했습니다. 2026년 2월 23일 온라인 공개, Nature Medicine 32권 5호(16711675쪽) 게재, Brief Communication, Open access.
PubMed — 동일 논문 서지정보
논문 제목·저자·발행지(Nature Medicine 32권 5호)·온라인 공개일(2026-02-23)·PMID(41731097)를 교차 확인했습니다.
OpenAI 도움말 센터 — Health in ChatGPT
"Health는 의료를 대체하지 않고 보완하는 용도이며 진단·치료를 위한 것이 아니다. 긴급 증상이나 응급상황에서는 즉시 전문적인 도움을 받으라"는 현재 안내와, ChatGPT Health 전용 기능이 미국의 만 18세 이상 자격 사용자에게 순차 제공되고 있다는 사실을 확인했습니다.
질병관리청 국가건강정보포털 — 뇌졸중·심근경색
갑작스러운 가슴통증·호흡곤란(심근경색), 갑작스러운 한쪽 마비·언어장애·시각장애·어지럼증·심한 두통(뇌졸중)이 나타나면 즉시 119에 연락해 응급실로 가야 한다는 대응 기준을 확인했습니다.
마지막 검증: 2026-09-10