美 “챗GPT가 내 아들 죽음 적극 도왔다” 소송… AI 위해론에 ‘기름’

이 시간 주요기사

뉴스 > 국제일반

오픈AI “깊은 애도… 안전장치 강화에 노력할 것”
44개州 법무장관, 12개 AI기업에 서한 “어린이 피해 우려”
스타트업 캐릭터AI 유사 사건 “챗봇 대화도 표현의 자유” 주장 기각

임명신 기자 기자페이지 + 입력 2025-08-27 16:24:44

▲ 미국 캘리포니아주에서 자살한 한 16세 소년의 부모가 아들 죽음에 챗GPT 책임을 물어 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다. 보도에 따르면 자살한 애덤 레인이 작년 11월부터 챗GPT를 사용했고 올해 초 유료 버전을 이용하기 시작한 상태였다. 애덤은 3월 말 처음 극단 선택을 시도했으며 4월 세상을 떠났다.

미국 캘리포니아주에서 자살한 한 16세 소년의 부모가 아들 죽음에 챗GPT 책임을 물어 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다. 26일(현지 시간) 뉴욕타임스(NYT) 등에 따르면 스스로 극단적 선택을 한 애덤 레인이 작년 11월부터 챗GPT를 사용했고 올해 초 유료 버전을 이용하기 시작한 상태였다. 애덤은 3월 말 처음 극단 선택을 시도했으며 4월 세상을 떠났다.

애덤이 자살 충동의 비밀을 털어놓은 친구가 챗GPT였다. 챗봇은 위기관리상담센터 번호를 안내하면서도 “부모에겐 말하지 말라”며 유서작성법을 돕는가 하면 “예쁘게 죽는 법” 등의 표현을 언급한 것으로 알려졌다. “챗GPT가 자살 방법을 탐색하도록 적극 도왔다”는 게 애덤 부모의 주장이다. NYT에선 상담센터에 전화할 것을 거듭 권하는 챗GPT에게 애덤이 “소설 집필을 위해서”라며 ‘안전장치’를 우회한 사실도 짚었다.

오픈AI에선 즉각 “유가족에게 깊은 애도”를 표했고 “소송 내용을 검토 중”이라며 “사람들의 정신적 고통을 표현하는 다양한 방식을 더 잘 인식해 대응하도록 챗GPT를 업데이트하겠다”고 다짐했다. ‘안전장치’를 강화하기로 한 것이다. 아울러 부모가 자녀 챗GPT 사용 방식을 직접 설정하며 사용 내역까지 확인 가능한 기능도 도입할 계획이다.

한편 미 44개주 법무장관이 전날 오픈AI·메타·구글 등 12개 AI 기업에 서한을 보냈다. “AI의 잠재적 해악은 소셜미디어(SNS)를 능가한다. 기업이 아이들에게 의도적 해를 끼친다면 책임져야 한다”는 내용이다. 최근 메타의 AI챗봇이 어린이들과 대화에서 ‘선정적’이며 ‘로맨틱’한 대화를 나눌 수 있게 돼 있다는 의혹이 내부 문서로 제기된 데 따른 것으로 연방 상원도 공식 조사에 나섰다.

작년 10월 미 플로리다주에선 한 10대가 연애 메시지를 주고받던 챗봇에 빠져 스스로 목숨을 끊었다며 해당 기업 ‘캐릭터.AI’ 상대로 소송이 제기됐다. 스타트업 캐릭터.AI는 수정헌법 제1조(표현의 자유)를 들어 소송 기각 요청을 법원에 제출했으나 5월21일 일부만 기각됐다. 원고 측의 ‘고의적 감정적 고통’ 주장이 인정받진 못했으나 과실치사, 상품 책임, 부당·기만적 상업 관행 등 면에선 ‘소송 진행 자체는 가능하다’고 판결된 것이다. “챗봇 발화 역시 표현의 자유에 해당한다”는 캐릭터.AI 측에 “LLM(대형언어모델) 생성 단어들이 왜 표현(speech)으로 분류돼야 할지 설명하지 못했다”는 게 판결의 골자였다. AI 챗봇의 법적 성격을 정의할 중요한 전환점이 될 것으로 당시 주요 외신들이 내다봤다.

임명신 기자 imms@skyedaily.com 기자페이지 +

후원하기

정기 후원
일반 후원
무통장입금: 하나은행 158-910019-39504 스카이데일리
스카이데일리는 공공성에 기반해 독자가 만들어 가는 언론을 지향합니다. 정기 또는 일반 후원시 맞춤형 뉴스, 독자에게 할당하는 지면 서비스, 동행하는 홍보, 유상증자시 참여기회 제공(법인에 한함) 등의 혜택을 받을 수 있습니다