[김태열의 생생건강S펜] “AI챗봇 의료상담, 악의적 명령어 공격에 대부분 취약...환자에 잘못된 약물권고 등 치명적 위험 주의”

[헤럴드경제] 2026-01-05

최근 생성형 인공지능(AI) 챗봇에게 질환 상담을 하는 사례가 늘고 있는데, 상용 중인 AI 모델 대부분이 악의적 공격에 무방비로 당해 잘못된 치료를 권할 위험이 매우 높은 것으로 나타났다.<사진출처:게티이미지뱅크>


[헤럴드경제=김태열 건강의학 선임기자] 최근 생성형 인공지능(AI) 챗봇에게 질환 상담을 하는 사례가 늘고 있는데, 상용 중인 AI 모델