마인드(Mind) 단체는 구글 AI ‘오버뷰(Overviews)’가 제공하는 정신건강 정보의 부정확성과 위험성을 조사하기 위해 1년간 전 세계 최초 연구위원회를 출범시켰다. 가디언(The Guardian) 보도에 따르면, 일부 AI 오버뷰는 정신질환 관련 정보를 포함해 잘못된 의료 조언을 제공해 사용자의 안전과 치료 접근성을 위협할 수 있다. (이미지/보스턴살아)

 

 

 

 

구글 AI, 정신건강 정보 ‘위험’ 논란

마인드 단체 전 세계 최초 조사

가디언 보도로 드러난 잘못된 의료 조언, 전문가·경험자 참여 1년간 심층 연구 착수

 

 

 

 

 

영국과 웨일스에서 활동하는 정신건강 비영리단체 마인드(Mind)가 구글 AI ‘오버뷰(Overviews)’의 정신건강 정보 안전성을 조사하기 위해 1년간 전 세계 최초 연구위원회를 출범시켰다. 이는 최근 영국 일간지 가디언(The Guardian)의 보도로 구글 AI가 사람들에게 “매우 위험한” 의료 조언을 제공했다는 사실이 드러난 데 따른 조치다.

 

구글 AI 오버뷰는 사용자가 검색한 주제나 질문에 대해 인공지능이 핵심 내용을 자동으로 요약해 보여주는 기능이다. 검색 결과 상단에 나타나며, 월 20억 명이 이용한다. 예를 들어 ‘우울증 치료법’을 검색하면 AI가 관련 정보와 조언을 간단히 정리해서 보여주는 방식이다. 그러나 이번 조사에서는 일부 정보가 부정확하거나 오해를 불러일으켜 특히 정신질환 관련 정보에서 위험할 수 있음이 드러났다.

 

가디언 보도에 따르면, AI 오버뷰는 암, 간 질환, 여성 건강, 정신질환 등 다양한 정보를 제공하지만 일부 내용은 부정확하거나 오해를 유발할 수 있다. 특히 조현병, 섭식장애 등 정신질환 관련 정보는 치료를 회피하거나 잘못된 결정을 내리도록 유도할 가능성이 있다.

 

마인드 사라 휴즈 CEO는 “AI 오버뷰가 여전히 위험하게 부정확한 정신건강 정보를 제공하고 있다”며 “잘못된 정보는 치료를 막거나 낙인과 차별을 강화하고, 최악의 경우 생명을 위협할 수 있다”고 경고했다. 그녀는 이어 “AI는 정신건강 문제를 가진 사람들의 삶을 개선할 잠재력이 크지만, 위험에 맞는 안전장치와 책임 있는 개발이 필수적”이라고 강조했다.

 

 

구글은 AI 오버뷰가 신뢰할 수 있는 정보 제공 기능이라고 주장하지만, 일부 내용이 부정확해 사용자가 위험에 노출될 수 있음이 가디언 보도를 통해 확인됐다. (이미지/보스턴살아)

 

 

 

이번 위원회는 의사, 정신건강 전문가, 경험자, 정책 입안자, 기술 기업을 포함해 디지털 정신건강 지원의 안전성과 규제 기준을 마련하는 것을 목표로 한다. 위원회는 AI와 정신건강의 교차 영역에 대한 증거 수집과 경험 기록을 통해 정신질환 경험자의 목소리가 정책과 지원 설계에 반영될 수 있도록 할 예정이다.

 

마인드 로지 웨더리 정보 콘텐츠 매니저는 “AI 오버뷰 이전에도 검색으로 정보를 얻는 것이 완벽하지는 않았지만, 신뢰할 수 있는 의료 사이트로 연결되어 세부 사례와 지원 정보를 확인할 수 있었다”며 “AI 오버뷰는 이를 생략하고 단순 요약만 제공해 사용자에게 잘못된 확신을 줄 수 있다”고 설명했다.

 

구글 측은 AI 오버뷰가 도움 되고 신뢰할 수 있다고 주장하며, 위기 상황에서는 지역 위기 핫라인을 안내한다고 밝혔다. 그러나 가디언 보도에 따르면 일부 AI 정보는 부정확해 사용자가 위험에 노출될 수 있는 것으로 확인됐다.

 

마인드는 이번 조사로 AI와 정신건강 상호작용의 위험, 기회, 안전장치를 면밀히 검토하고, 디지털 지원 혁신이 사람들의 정신건강을 해치지 않도록 제도적 기반을 마련할 계획이다. 전문가들은 이번 조사가 AI와 공공 안전의 균형을 모색하는 첫 사례가 될 것이라고 평가한다.