슬프거나 화가 나거나 스트레스를 받을 때 인공지능 챗봇에게 고민을 털어놓는 청소년이 빠르게 늘고 있다. 하지만 전문가들은 챗봇이 정신건강 정보를 찾는 도구로는 도움이 될 수 있어도 사람을 대신하는 ‘치료사’로 의지하는 것은 위험할 수 있다고 경고했다.
청소년 5명 중 1명이 인공지능 챗봇에게 고민 상담
12~21세 청소년과 청년을 조사한 최근 연구에서는 약 5명 중 1명이 정신건강 문제로 인공지능을 이용한 경험이 있는 것으로 나타났다. 불과 몇 년 전 8명 중 1명 수준이었던 것과 비교하면 크게 늘어난 수치다.
젊은 세대가 챗봇을 찾는 데에는 이유가 있다. 2023년 미국 고등학생의 40%는 평소 활동을 하기 어려울 정도로 슬프거나 절망감을 느꼈다고 답했다. 2024년에는 12~17세의 15%가 심각한 우울증을 경험했고, 이 가운데 상당수는 치료를 받지 못했다.
챗봇은 정신건강에 관한 기본 정보를 찾거나 도움을 받을 수 있는 기관을 알아보는 데 유용할 수 있다. 당장 힘든 상황에서 어떻게 행동해야 할지 간단한 아이디어를 얻는 데도 도움이 될 수 있다. 다만 챗봇은 틀린 정보를 사실처럼 말할 수 있기 때문에 답변을 반드시 다시 확인해야 한다.
문제는 챗봇과 오랫동안 대화하면서 사람과의 관계에서 채워야 할 감정적 빈자리를 대신하도록 만드는 경우다. 일반적인 인공지능 챗봇은 정신건강 치료를 위해 만들어진 전문가가 아니며, 실제 치료사처럼 환자의 상태를 책임지고 판단할 수도 없다.
실제 치료사는 환자의 감정을 이해하고 인정하면서도 생각이나 행동이 자신에게 해가 될 때 이를 지적하고 바꾸도록 돕는다. 반면 챗봇은 사용자의 말을 지나치게 긍정하거나 듣고 싶어 하는 답을 내놓을 수 있다. 사람의 복잡한 생활환경과 인간관계, 과거 경험까지 종합적으로 이해하지 못한다는 한계도 있다.
위기 상황을 알아채지 못하는 AI가 가장 큰 위험이다
가장 우려되는 문제는 자해나 극심한 불안 같은 심각한 정신건강 위기다. 전문가들은 현재의 인공지능 챗봇이 사람이 즉시 개입해야 하는 위험한 상황을 정확하게 알아차리고 적절하게 대응하는 데 한계가 있다고 지적한다.
장기간 챗봇에 정신적으로 의존했을 때 어떤 영향이 생기는지에 대한 연구도 아직 충분하지 않다. 반면 사람과 직접 관계를 맺고 사회적으로 연결되는 것이 건강과 행복에 중요하다는 사실은 많은 연구에서 확인돼 있다. 챗봇에 지나치게 의존하면 오히려 현실에서 필요한 인간관계를 만드는 데 방해가 될 가능성이 있다.
사생활 보호 문제도 있다. 인공지능 챗봇에 입력한 매우 개인적인 고민이 반드시 완전히 비공개로 유지된다고 생각해서는 안 된다. 따라서 공개되면 곤란한 민감한 개인정보를 입력할 때는 특히 조심해야 한다.
그렇다고 인공지능을 정신건강 문제에서 완전히 배제할 필요는 없다. 예를 들어 부모에게 고민을 이야기하기 어렵다면 “아빠에게 내 고민을 어떻게 말하면 좋을까?”라고 챗봇에게 물어 대화를 시작하는 방법을 생각해볼 수 있다. 인공지능을 사람을 대신하는 존재가 아니라 실제 사람에게 도움을 요청하기 위한 도구로 사용하는 것이다.
전문가들은 결국 중요한 것은 현실의 사람과 연결되는 것이라고 강조한다. 학교 상담교사나 부모, 가족 등 믿을 수 있는 사람에게 자신의 어려움을 이야기하고 필요한 경우 전문적인 도움을 받는 것이 가장 중요하다.
성치훈 기자 hello@sciencewave.kr
출처: Science News Explores, “What to know about using AI chatbots for therapy”
Science Wave에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.