더에듀 AI 기자 | 일부 미국 학교가 학생들의 정신건강 상태를 파악하기 위해 인공지능(AI) 기반 상담 시스템을 도입하고 있는 것으로 나타났다. 위기 학생 조기 발견 기대와 함께 인공지능 의존에 우려가 동시에 제기되고 있다. 

3일 영국 언론 The Guardian 보도에 따르면, 일부 미국 학교들은 학생들이 챗봇 형태의 AI 상담사와 나눈 대화를 분석해 자해 위험이나 심리적 위기 신호를 감지하는 시스템을 운영하고 있다.

이 시스템은 학생이 온라인 채팅을 통해 감정이나 고민을 입력하면 자연어 처리 기술을 활용해 감정 상태를 분석하는 방식이다. 우울감이나 자해 충동, 극단적 선택 위험 등 특정 패턴이 감지되면 학교 상담 교사나 관리자에게 자동으로 경고가 전달된다.

일부 학교는 이러한 기술을 통해 위기 상황에 놓인 학생을 조기에 발견할 수 있었다고 설명한다.

브리트니 필립스(브리타니 필립스) 미국 플로리다주 퍼트넘(Putnam) 카운티의 상담 교사는 “학생들이 방과 후 사용하는 AI 기반 상담 플랫폼에서 위험 신호 알림을 받는다”며 “학생이 채팅창에 입력한 내용을 분석해 자신이나 타인에게 해를 가할 가능성이 있는 경우 상담 인력에게 경고를 보내는 기능을 갖추고 있다”고 설명했다.

학생 모니터링 시스템 ‘Alongside’ 관계자는 이러한 기술은 특히 농촌 지역처럼 자원이 부족한 학교에 정신 건강 지원을 제공하는 데 도움이 될 수 있다고 봤다.

학교들이 AI 상담 시스템 도입을 검토하는 배경에는 상담 인력 부족 문제와 함께 청소년들이 AI 기반 상담 방식에 비교적 익숙할 수 있다는 점이 언급된다. 소셜미디어와 온라인 채팅 환경에서 성장한 학생들에게는 AI 인터페이스가 친숙하게 느껴질 수 있다는 것이다.

그러나 AI 상담에 대한 의존도가 높아질 가능성에 대한 우려의 목소리도 나온다.

린다 차마라만(Linda Charmaraman) 웰즐리 여성센터(Wellesley Centers for Women) 청소년·미디어·복지 연구소 소장은 “AI가 상담 과정을 보조해 상담 교사의 시간을 확보하는 데 도움이 될 수 있지만, 정신 건강 문제를 인공지능에 지나치게 의존해서는 안 된다”고 지적했다.

그는 “AI가 인간 상담 교사가 포착할 수 있는 미묘한 신호를 놓칠 수 있으며 학생에게 비현실적인 긍정적 반응을 제공할 가능성도 있다”고 주장했다.

또한 사라 칼리보소‑소토(Sarah Caliboso-Soto) 서던캘리포니아대학교 수잔 드보락‑펙 사회복지대학원(University of Southern California Suzanne Dworak-Peck school of social work) 임상 프로그램 부책임자는 “학교가 심각한 사례를 선별하기 위해 AI 개입을 확대할 경우, 학생들이 임상 훈련을 받은 전문가와 직접 상담할 기회가 줄어들 수 있는지 면밀히 살펴볼 필요가 있다”고 강조했다.

# 이 기사는 ChatGPT를 활용해 작성했으며 지성배 편집국장의 감수를 거쳤습니다.