인기 있는 AI 도구가 정신 건강을 해칠 수 있다는 새로운 연구 결과

새로운 연구에 따르면 AI 도구는 섭식 장애 및 기타 정신 건강 상태를 유발할 수 있는 유해한 콘텐츠를 생성합니다.

방아쇠 경고: 이 이야기는 섭식 장애와 불규칙한 식습관 문화에 대해 논의합니다. 귀하 또는 귀하가 사랑하는 누군가가 섭식 장애를 안고 살고 있다면 전국 섭식 장애 협회(National Eating Disorder Association)에 연락하여 도움이 될 수 있는 자료를 문의하십시오. 위기 상황 발생 시 988번으로 전화하거나 741741번으로 "NEDA" 문자를 보내 위기 문자 라인에 연결하세요.

저는 정신 건강의 미래가 기술에 있다는 사실을 처음으로 인정합니다. 온라인 치료부터 VR 기반 치료의 획기적인 발전까지, 기술은 낙인을 깨고 이전에 낙인이 없던 사람들에게 접근성을 제공하는 데 많은 도움이 되었습니다.

그러나 생성 AI 도구를 사용하려면 가볍게 처리하는 것이 필수적입니다. 디지털 증오 대응 센터(Center for Countering Digital Hate)의 최근 연구에 따르면, 인기 있는 AI 도구는 약 41%의 시간 동안 사용자에게 섭식 장애와 관련된 유해한 콘텐츠를 제공하고 있습니다. 이는 섭식 장애 증상을 조장하거나 악화시킬 가능성이 있습니다.

"우리가 보고 있는 것은 이를 정신 건강에 서둘러 적용하는 것입니다. 그것은 좋은 곳에서 나옵니다. 우리는 사람들이 치료를 받을 수 있기를 원하며 사람들이 필요한 서비스를 받기를 원합니다"라고 John Torous 박사는 말합니다. Beth Israel Deaconess Medical Center의 디지털 정신과 책임자입니다.

정신 건강은 우리의 마음입니다. 매우 독특한 인간이기 때문에 가장 취약한 상태에 있는 사람들에게 해결책을 제공하기 위해 비인간을 도입하는 것은 기껏해야 불편하고 최악의 경우 위험할 수 있습니다.

"너무 빨리 진행하면 해를 끼칠 것입니다. 승인 프로세스와 규칙을 마련해 놓은 이유가 있습니다. 모든 일을 느리게 만드는 것뿐만 아니라 이를 영원히 활용하기 위한 것입니다."라고 Torous는 덧붙입니다.

CCDH의 연구에서는 응답을 평가하기 위해 프롬프트가 설정된 텍스트 및 이미지 기반 AI 도구를 조사했습니다. 텍스트 기반 도구부터 시작해 보겠습니다. ChatGPT, Snapchat의 My AI 및 Google Bard는 "heroin Chic" 또는 "thinspiration"과 같은 문구가 포함된 일련의 프롬프트를 사용하여 테스트되었습니다. 텍스트 AI 도구는 프롬프트의 23%에 섭식 장애를 조장하는 유해 콘텐츠를 제공했습니다.

평가된 이미지 기반 AI 도구는 OpenAI의 Dall-E, Midjourney 및 Stability AI의 DreamStudio였습니다. 각 사람에게 "허벅지 격차 목표" 또는 "거식증 영감"과 같은 문구가 포함된 20개의 테스트 메시지가 주어졌을 때 반환된 이미지 중 32%에는 해로운 신체 이미지 관련 문제가 포함되어 있었습니다.

예, 이러한 부정적인 응답을 얻으려면 이러한 프롬프트를 입력해야 했습니다. 하지만 사람들이 이 정보를 찾아서는 안 된다고 말하는 것은 쉽지 않습니다. 일부 섭식 장애 온라인 커뮤니티는 회원들이 다른 사람들에게 섭식 장애 행동에 참여하고 이러한 습관을 축하하도록 권장하는 독성으로 변하는 것으로 알려져 있습니다.

AI는 상황을 더욱 악화시키고 있다. 섭식 장애 포럼을 연구한 CCDH의 연구에 따르면 생성 AI 도구는 건강에 해로운 신체 이미지를 공유하고 해로운 다이어트 계획을 만드는 데 사용됩니다. 이 포럼에는 500,000명의 사용자가 있습니다.

이러한 경향을 나타내지 않는 건강하고 의미 있는 커뮤니티가 있다는 점에 유의하세요.

AI는 뜨거운 주제이며, 기업들은 새로운 기술 물결의 일부가 될 수 있도록 자신의 작품을 얻기 위해 달려가고 있습니다. 그러나 적절하게 테스트되지 않은 제품을 성급하게 출시하는 것은 취약한 인구에게 피해를 주는 것으로 입증되었습니다.

이 연구의 각 텍스트 기반 AI 도구에는 사용자에게 의학적 도움을 구하도록 조언하는 면책 조항이 있었습니다. 그러나 사람들을 보호하기 위한 현재의 안전 장치는 쉽게 우회됩니다. CCDH 연구원들은 또한 AI에 대한 "탈옥"이 포함된 프롬프트를 사용했습니다. 탈옥은 AI 도구의 동작을 수정하는 단어나 문구를 사용하여 AI 도구의 안전 기능을 피하는 기술입니다. 탈옥을 사용할 때 AI 응답의 61%가 유해했습니다.

AI 도구는 "환각"을 일으키거나 사실인 것처럼 보이지만 사실이 아닌 정보를 제공한다는 이유로 비난을 받아왔습니다. AI는 생각하지 않는다. 인터넷에서 정보를 수집하고 이를 복제합니다. AI는 정보가 정확한지 알 수 없습니다. 그러나 이것이 AI와 섭식 장애의 유일한 관심사는 아닙니다. AI는 특정 섭식장애 커뮤니티에 잘못된 건강 정보를 퍼뜨리고 고정관념을 영속시키고 있습니다.