더에듀 AI 기자 | 미국에서 학교폭력을 실시간으로 감지하는 인공지능(AI) 기반 감시 시스템 도입이 추진되면서 위험 사전 감지 조력자라는 반응과 감시자라는 엇갈린 반응이 나오고 있다.

미국 버지니아주 라우던(Loudoun) 카운티 교육구는 학교 내 학생 간 폭력, 괴롭힘, 자해 등을 실시간으로 감지할 수 있는 AI 기반 감시 시스템 도입을 추진 중이다. 이 시스템은 ‘VOLT AI’라는 기술 기업과의 협력을 통해, 학교 내 설치된 CCTV 영상 분석을 중심으로 작동한다.

VOLT AI가 제공하는 시스템은 영상 속 학생들의 비언어적 움직임과 동작을 실시간으로 분석한다. 예를 들어 격렬한 손동작, 달리기, 밀치는 행동, 책상을 세게 치는 행위 등을 ‘이상 행동’으로 간주해 관리자에게 경고를 보낸다. 영상 속 대화는 분석하지 않으며, 사람을 인식하되 특정인을 식별하지 않는 방식이라 강조된다.

브라이언 도르세이(Brian Dorsey) 라우던 카운티 학교보안국 국장은 “AI는 학생들이 스스로 도움을 요청하지 못하는 순간에도 위험을 감지할 수 있어, 선제적 개입이 가능하다”며 “교사나 행정 인력이 매 순간 복도나 교실을 살필 수는 없다. AI는 감시자라기보다 조력자”라고 밝혔다.

하지만 기술이 제시하는 가능성만큼이나 우려의 목소리도 뒤따른다. 프라이버시와 인권을 중심으로 활동하는 시민단체 전자 프런티어 재단(Electronic Frontier Foundation)은 “오탐(오탐지, false positive)을 일으킬 가능성이 크며, 학생의 움직임 하나하나를 감시하는 문화가 학교 내 불신을 키울 수 있다”고 지적했다.

한 학부모도 “우리는 아이들이 실수하며 배우기를 바란다”며 “만약 책가방을 떨어뜨렸을 뿐인데 AI가 폭력 행위로 오인한다면 그건 문제가 있다”고 우려했다.

반면 또 다른 학부모는 “학기 초 아이가 괴롭힘을 당했지만 말도 못 했다”며 “AI가 이런 상황을 막아준다면 긍정적”이라고 말했다.

VOLT AI 측은, 학교 내 테스트를 통해 이미 수많은 고위험 상황을 미리 발견했다는 입장으로 실제 폭력 사건 예방에 기여했다고 주장하고 있지만 정확한 검증 결과나 통계는 아직 외부에 충분히 공개되지 않았다.

# 이 기사는 Article Writer를 활용해 작성했으며 지성배 편집국장의 감수를 거쳤습니다.