[아이뉴스24 정종오 기자] 2025년 6월, 오픈AI(OpenAI)는 한 챗GPT(ChatGPT) 계정에서 총기 폭력과 관련된 활동을 탐지하고 이용을 정지했다. 경찰에는 알리지 않았다. 8개월 뒤인 2026년 2월 10일, 그 계정의 이용자는 캐나다 브리티시컬럼비아주(B.C.) 텀블러리지의 자택에서 어머니와 이복남동생을 살해한 뒤 인근 중등학교로 이동해 학생 5명과 교육보조인력 1명을 살해하고 스스로 목숨을 끊었다.
피해자 8명이 숨지고 27명이 다쳤다. 4월 샘 올트먼은 지역사회에 보낸 서한에서 경찰에 알리지 않은 점을 사과했다. 다만 사과가 곧 법적 책임의 인정은 아니다. 책임의 문제는 이제 법정으로 넘어갔다.
4월 피해자와 유가족 측이 샌프란시스코 연방법원에 7건의 소송을 냈다. 9월에는 학생·교장·교직원 등이 총격을 직접 겪으며 입은 심리적 피해까지 주장하는 30건의 소송을 추가로 제기했다. 9월 21일에는 B.C.주정부가 OpenAI와 샘 올트먼을 상대로 별도의 소송을 제기했다.
주정부는 참사 복구에 들어간 공적 비용의 배상과 함께 폭력 위험이 있는 대화를 처리하는 방식 자체를 개선하라는 법원의 명령을 구하고 있다. 개인의 손해 회복을 넘어 AI 사업자의 안전 운영 방식을 사법적으로 교정하려는 시도라는 점에서 눈여겨볼 대목이다.
원고들이 문제 삼는 것은 두 갈래다. 하나는 위험 신호를 탐지하고도 경찰에 신고하지 않아 피해를 예방할 기회를 잃게 했다는 부작위의 과실이다. 다른 하나는 ChatGPT, 특히 GPT-4o가 사용자의 폭력적 사고를 제지하기보다 이를 수용하고 강화하도록 설계된 결함 있는 제품이라는 주장이다.
“왜 신고하지 않았는가”와 함께 “애초에 어떻게 응답하도록 만들었는가”를 묻는 셈이다. 원고 측은 당시 안전팀이 경찰 통보를 권고했는데 경영진이 계정 정지만 결정했다고 주장한다. OpenAI는 해당 대화가 계정 정지 사유에는 해당한다고 판단했다. 경찰 통보에 필요한 더 높은 내부 기준에는 미치지 않았다는 입장이며 특정 임원이 결정에 관여했다는 주장은 부인했다.
여기서 구분해야 할 것이 있다. 계정 정지와 미통보는 OpenAI도 인정한 사실인데 그 때문에 배상책임이 성립한다는 것은 원고의 주장일 뿐이다. 대화가 얼마나 구체적이었는지, 누가 미통보를 결정했는지, 신고했다면 범행을 막을 수 있었는지는 아직 입증되지 않았다.
마찬가지로 OpenAI가 말한 ‘통보 기준’은 회사의 내부 기준이다. 그 기준에 미달했다는 사실이 곧 법률상 신고 의무가 없었다는 의미는 아니다. 법원이 판단할 것은 바로 그 간극, 즉 회사가 스스로 정한 문턱이 법이 요구하는 주의의무의 수준에 부합했는가다.
같은 사안을 한국법으로 옮겨 보자. 부작위에 의한 불법행위가 성립하려면 작위의무가 법령·법률행위·조리상 인정돼야 하는데(대법원 2018. 10. 25. 선고 2015다207436 판결 등), 일반 강력범죄 모의에 관한 민간 플랫폼의 신고 의무는 법정화돼 있지 않다.
제조물 책임법은 제조물을 “제조되거나 가공된 동산”으로 한정하므로 클라우드 기반 대규모언어모델(LLM) 서비스가 포섭되기도 어렵다. 반대 방향의 위험도 있다. 이용자의 대화를 수사기관에 임의로 제공하면 개인정보 보호법 제18조가 정한 ‘급박한 생명·신체의 이익’이라는 예외 요건을 두고 다툼이 생긴다. 신고하지 않으면 과실을, 신고하면 침해를 의심받는 구조다.
이 사건이 던지는 진짜 질문은 다른 데 있다. 자동화 도구와 인간 검토 인력을 투입해 위험 대화를 능동적으로 선별하는 순간, 사업자는 위험을 관리·지배하는 주체로 평가될 수 있다. 아무것도 보지 않은 사업자보다 들여다본 사업자의 책임이 무거워지는 역설이다.
그렇다고 탐지를 포기할 수도 없다면 남는 것은 탐지한 다음의 판단 구조다. 생명·신체에 대한 구체적 위협이 포착됐을 때 어떤 요건에서 외부로 에스컬레이션하고 그 결정을 누가 내리는지, 위협의 구체성과 표적의 특정성, 시간적 임박성을 어떤 기준으로 평가하는지가 사전에 정해져 있어야 한다.
그리고 그 판단의 근거와 결재라인은 사후에 변경할 수 없는 형태로 남아 있어야 한다. 이번 소송에서 원고들이 대화기록과 내부 의사결정 자료의 공개를 요구하고 있다는 사실이 그 이유를 보여준다.
법정에서 다투어지는 것은 “위험을 보았는가”가 아니라 “보고 나서 무엇을 어떻게 판단했는가”다.
“우리 회사는 위험 신호를 발견한 다음, 누가 무엇을 근거로 결정하는가?”
정호선 변호사(법무법인 화우) junghs@yoonyang.com
/정종오 기자(ikokid@inews24.com)