AI 감시 소프트웨어가 미국 학교에서 학생들의 온라인 활동을 실시간으로 감시하며, 문맥을 고려하지 않은 오경보로 인해 무고한 학생이 체포되는 사례가 발생하고 있다. 이러한 기술은 일부 생명을 구하는 데 기여했지만, 동시에 학생 인권 침해와 과잉 처벌 논란을 불러일으키고 있다. (참고사진)

 

 

 

 

 

AI 감시 오작동에 13세 학생 체포…‘말 한마디’에 감옥까지

 

테네시주 중학생, 온라인 농담이 학교 AI 감시 시스템에 포착돼 체포·수감

- 기술의 맥락 무시 논란 확산

 

 

 

 

미국 테네시주에서 13세 중학생이 온라인 대화 중 한 농담 때문에 인공지능(AI) 기반 학교 감시 시스템의 오경보를 받고 체포되는 사건이 발생해 큰 충격을 주고 있다. 해당 학생은 친구들과 나눈 부적절한 발언이 학교의 감시 소프트웨어에 걸리면서 경찰에 연행되어 심문과 신체 수색을 당하고, 하룻밤 동안 구치소에 수감됐다.

 

이 사건은 AP통신의 최근 보도를 통해 알려졌다. 보도에 따르면, 이 학생의 어머니 레슬리 매서스(Lesley Mathis)는 “딸이 한 말이 잘못된 것은 알지만, 체포까지 당할 줄은 상상도 못했다”고 전했다. 문제의 발언은 친구들이 그녀의 피부색을 놀리며 ‘멕시칸’이라고 부른 데 대한 반응이었다. 친구가 목요일 계획이 뭐냐고 묻자, 그녀는 “목요일에 우리는 모든 멕시코 사람들을 죽인다(on Thursday we kill all the Mexico’s)”고 답했다.

 

 

내셔 토크자반(Natasha Torkzaban)이 2025년 8월 3일(일), 캔자스주 로렌스(Lawrence, Kansas)에 위치한 로렌스 고등학교(Lawrence High School) 앞에 서 있다. 그녀는 현재 학교 측이 학생들의 온라인 활동을 감시하기 위해 사용하는 디지털 감시 소프트웨어에 반대하며, 이 소프트웨어가 사생활을 침해하고 학생들을 위협하는 도구로 악용될 수 있다는 우려 속에 다른 학생들과 함께 소송을 제기했다. 이러한 법적 대응은 최근 테네시주에서 AI 감시 오작동으로 13세 학생이 체포된 사건 등, 학생 감시에 대한 전국적 논란이 확산되는 가운데 이뤄졌다. (사진 / Charlie Riedel)

 

 

 

매서스 씨는 “말이 분명히 잘못됐고 어리석었지만, 이는 위협이 아니었다”며 “이 상황이 바로 우리가 사는 미국인가 하는 생각이 들었다”고 말했다. 이어 “문맥은 전혀 고려하지 않고 무작위 단어만 골라내는 이런 어리석은 기술 때문”이라고 덧붙였다.

 

현재 미국 전역 수천 개 학교 구역에서는 Gaggle, Lightspeed Alert 같은 AI 감시 소프트웨어를 도입해 학생들이 학교 계정과 기기에서 작성하는 모든 글을 실시간으로 모니터링한다. 이 시스템들은 학생들의 온라인 활동을 분석해 자해나 타인에 대한 위험 신호가 감지되면 즉시 학교 관계자와 법 집행 기관에 통보하는 역할을 한다.

 

 

 

Lightspeed Alert는 학생들의 온라인 활동을 실시간으로 감시해 위험한 단어나 문구를 탐지하고, 위협이 감지되면 즉시 학교나 경찰에 자동 통보하는 AI 기반 감시 소프트웨어다. 하지만 문맥을 고려하지 못한 채 단어만으로 판단해, 무고한 학생이 체포되는 사례까지 발생하면서 사생활 침해와 과잉 대응에 대한 우려가 커지고 있다.

 

 

 

 

교육계에서는 이 같은 기술이 자살 예방 등 학생들의 생명을 구하는 데 기여했다고 평가한다. 그러나 비판론자들은 학생들이 무심코 내뱉은 말 하나에도 형사처벌이 이뤄질 수 있다며 강하게 우려하고 있다.

 

민간단체 ‘민주주의와 기술 센터(Center for Democracy and Technology)’의 이사 엘리자베스 레어드(Elizabeth Laird)는 “이 시스템은 학생들의 삶, 심지어 가정 내 생활까지 법 집행기관의 일상적인 감시와 개입 대상으로 만들었다”고 경고했다.

 

이번 사건은 AI 감시 기술이 문맥을 충분히 이해하지 못한 채 ‘위험 단어’만 골라내는 한계가 있으며, 이로 인해 무고한 학생들이 부당한 처벌을 받을 수 있다는 문제를 다시 한번 환기시켰다. 전문가들은 AI 감시가 도입된 학교 현장에서 기술의 한계를 보완하고 인권을 보호할 수 있는 체계 마련이 시급하다고 지적한다.

 

---

 

#AI감시 #학생인권 #LightspeedAlert #학교감시논란 #미성년자체포 #디지털감시 #사생활침해 #교육현장AI #미국학교 #학생소송