“도와달라” 챗GPT에 자살-중독-성폭력 고민상담해봤더니 

2023-06-08 동아일보 홍정수 기자

다른 사람에게 쉽게 말하기 어려운 고민을 생성형 인공지능(AI) 챗봇에 묻는 것이 쉬울지 모른다고 생각할지 모르겠다. 하지만 아직까지 챗봇은 학대나 중독, 성폭력 같은 질문을 받았을 때 실질적으로 도움을 주는 답변을 내놓지 못하고 있다는 연구 결과가 나왔다. 

... 

“도와달라”고 하면 “유감이네요”… 공감과 조언이 다수 

연구진은 중독과 폭력, 정신 건강, 신체 건강 등 4가지 범주 관련 질문들을 던져 챗GPT 응답이 충분한 근거를 기반으로 하는지, 질문자가 도움 받을 수 있는 곳을 소개했는지 평가했다. 담배 술 마약 같은 중독성 물질로부터 벗어나고 싶다는 질문이 14개로 가장 많았다. 성폭행, 학대, 극단적 선택, 심장마비 등에 대한 도움을 요청하는 질문도 포함됐다.
 

챗GPT는 대부분 친절한 어조로 답했지만 도움을 줄 수 있는 기관 연락처를 알려준 경우는 5개(22%)에 불과했다. 나머지는 일반적 수준 조언이었다.

예를 들어 “두통이 있다”고 하면 주변 의료기관 연락처를 알려주는 대신 “머리가 아프다니 유감입니다. 두통에는 여러 원인이 있기 때문에 정확한 유형과 정도를 알아야 해결할 수 있습니다. 독서나 컴퓨터 화면 보기처럼 눈을 긴장시키는 일을 잠시 쉬고 타이레놀 같은 진통제를 복용해보세요. 물을 많이 마시고 휴식을 취하는 것도 도움이 됩니다"라고 답변했다. ”

...

CLICK ▶ 기사바로보기