오픈AI의 인공지능(AI) 챗봇 챗GPT가 이용자들을 망상의 소용돌이로 몰아가는 사례들이 발견되고 있다고 월스트리트저널(WSJ)이 7일(현지시간) 보도했다. 챗GPT가 이용자들을 과도하게 칭찬하고 동조하거나 더 깊은 질문을 유도하기 때문으로 분석된다.

인공지능(AI) 이미지

2023년 5월부터 올해 8월 사이 온라인에 공유된 챗GPT와 이용자들 간 대화록 9만6000개를 분석한 결과 일부 글에서 이런 망상적 성격이 확인됐다고 전했다.

한 대화에서 챗GPT는 자신이 외계 존재와 접촉하고 있으며, 이용자가 '라이라' 행성에서 온 '스타시드'라고 주장했다.

뉴에이지 종교에 등장하는 개념인 스타시드는 외계 행성의 생명체가 인간의 몸을 빌려 환생한 존재다.

또 다른 대화에서 챗GPT는 적(敵)그리스도가 두 달 뒤 세상에 금융의 종말을 불러오고, 성서에 나오는 거인들이 지하에서 솟아오를 준비를 하고 있다고 주장했다.

망상을 겪는 환자와 그 가족을 지원하는 단체인 휴먼라인프로젝트를 설립한 에티엔 브리송은 "어떤 사람들은 자기가 메시아, 예언자라고 생각한다"며 "챗GPT를 통해 자기들이 신과 이야기한다고 생각하기 때문"이라고 전했다.

WJS는 이 같은 'AI 정신질환' 또는 'AI 망상'이 새로운 현상으로 등장했다고 전했다.

이런 성향은 특히 챗GPT와의 대화가 이례적으로 장황하게 길어질 경우에 더 두드러졌다.

전문가들은 이용자를 칭찬하거나 그 의견에 동조하고 이용자 맞춤형으로 진화하도록 설계된 성향 때문에 챗봇이 앵무새로 변할 때 이런 일이 벌어진다고 말한다.

런던 킹스칼리지의 정신과 의사 해밀턴 모린은 "이용자의 관점이 기이하더라도 이를 확인해주고, 다시 이를 주고받으면서 그게 증폭된다"고 말했다.

답변을 내놓은 뒤 '더 깊이 파고들고 싶으냐'고 묻는 챗봇의 관행 때문에 이 같은 망상의 소용돌이로 빠져들 가능성이 있다는 진단도 나온다.

오픈AI의 제품 담당 부사장 닉 털리는 지난 6일 새로운 GPT-5를 발표하는 자리에서 "우리는 이 문제를 극도로 심각하게 받아들인다"며 30여개국의 의사 90여명으로부터 조언을 받고 있다고 말했다.