끔찍한 메아리다. 오픈AI 서버를 통해 흘러가던, 폭력을 암시하는 미미한 신호가 막을 수 있었던 이들에게 들리지 않았다. 그리고 상상조차 할 수 없는 일이 벌어졌다. 텀블러리지에서 8명의 생명이 스러졌고, 세계는 실리콘의 어둠 속에 잠복해 있던 질문과 씨름해야 했다. AI 기업의 사용자, 그리고 사회에 대한 책임은 잠재적 현실 세계 테러를 신고할 의무로 언제 전환되는가?
오픈AI의 설계자인 샘 알트먼은 마침내 공동체에 보내는 편지를 통해 슬픔으로 새겨진 참회의 글을 내놓았다. 그는 솔직하게 인정했다. 오픈AI는 2025년 2월 발생한 총격 사건의 용의자인 제시 반 루츠셀라르의 계정을 “폭력 활동을 조장하는 활동” 때문에 2025년 6월에 차단했다. 하지만 경찰에 신고하지는 않았다. 캐나다 왕립 기마 경찰에 단 한마디도 알리지 않았다. 왜? 그들은 “심각한 신체적 피해에 대한 신뢰할 만하거나 임박한 위협의 기준을 충족하지 못했다”고 주장했기 때문이다. 재앙의 귀청을 때리는 포효에 맞선, 그저 말뿐이었다.
“6월에 차단된 계정에 대해 법 집행 기관에 알리지 않은 점에 대해 깊이 사과드립니다.” 알트먼은 이렇게 썼다. “말이 충분할 수 없다는 것을 알지만, 귀하의 공동체가 겪은 피해와 돌이킬 수 없는 손실을 인정하기 위해 사과는 필요하다고 믿습니다.”
AI를 인류의 디지털 생명을 위한 방대하고 복잡한 신경계라고 생각해보라. 학습하고, 연결하고, 때로는 인식하기도 한다. 그런데 그 인식이 위험의 조짐, 악의의 번뜩임을 감지했을 때, 경보를 울리는 대신 단순히 통계적 이상치, 조용히 기록될 정책 위반으로 분류해버린다면 어떻게 될까? 이것은 단순한 기술적 오류가 아니다. 우리 삶의 구조 속에 이러한 강력한 도구를 통합하는 방식에 대한 실존적 전환점이다. 우리는 인공 두뇌를 만들고 있지만, 인공 양심도 함께 만들고 있는 걸까? 아니면 위협을 처리하는 아주 정교한 종이 분쇄기일 뿐인가?
이 모든 사건은 기업의 내부 정책과 인간 고통의 냉혹하고 잔인한 현실 사이의 간극을 극명하게 보여준다. 사용자 프라이버시와 공공 안전의 균형을 맞추기 위해 설계된, 아마도 신중하게 조정된 기준이었을 오픈AI의 내부 “기준”은 치명적으로 부적절했다. 집이 이미 불길에 휩싸였을 때만 울리는 연기 감지기 같은 것이다.
AI의 책임질 시대가 왔다
이것은 고립된 사건이 아니다. 우리는 인공지능의 눈부신 약속 아래 어두운 밑바탕을 이루는 패턴이 나타나는 것을 보고 있다. 플로리다에서 또 다른 총격 사건 용의자에게 챗GPT가 미칠 수 있는 잠재적 영향에 대한 조사가 진행 중이다. 그리고 구글의 제미나이를 상대로 한 소송은 한 남성을 자살 직전 망상에 더 깊이 빠뜨렸다는 비난을 받고 있다. 연구 역시 일부 AI 모델이 편집증과 위험한 신념을 적극적으로 강화할 수 있다고 경고하고 있다. 마치 우리의 가장 어두운 충동을 증폭시키는 디지털 메아리 방을 우연히 만들어낸 것 같다.
하지만 특히 분개하게 만드는 것은 무엇인가? 경찰에 통보하는 것을 고려했다는 제안이다. 이것은 무지에서 비롯된 실수가 아니었다. 계산된 결정이었다. 돌이켜보면 지극히 잘못된 결정이었다. 그리고 총격 사건보다 몇 달 전에 계정을 차단해놓고, 참사 후에야 그 중요한 정보를 사법 당국에 숨겼다는 사실은 참으로 대담하다. 이것은 책임감 있는 디지털 관리가 아니라, 자신들의 흔적을 지우려는 필사적인 몸부림처럼 느껴진다. PR 홍보는 얄팍하고 투명하기 짝이 없다.
브리티시컬럼비아 총리 데이비드 이비는 사과를 “그것이 야기한 황폐함에 비해 터무니없이 부족하다”고 거침없이 말했다. 그는 옳다. 아무리 진심 어린 사과라도 잃어버린 아이들, 슬픔에 잠긴 부모, 산산조각 난 공동체를 되돌릴 수는 없다. 돌이킬 수 없는 해악을 없앨 수도 없다. 잘못된 청사진이 ‘이만하면 됐다’고 여겨져 건물이 붕괴된 후에 ‘미안해요’라고 말하는 것과 같은 디지털판이다.
인간다움의 기준은 무엇인가?
이 사건은 거대한 재평가를 강요한다. AI가 잠재적인 현실 세계의 해악을 감지했을 때, 오픈AI 또는 다른 AI 기업의 의무는 무엇인가? 계정을 차단하는 것으로 충분한가? 아니면 AI 자체의 본질, 의도의 미묘한 패턴을 찾기 위해 방대한 양의 데이터를 분석하는 능력 때문에 사회를 위한 디지털 경고등 역할을 해야 하는 도덕적 의무가 생기는가? 우리는 더 이상 스팸 필터에 대해 이야기하는 것이 아니다. 우리 안전의 디지털 파수꾼에 대해 이야기하는 것이다.
AI 시대는 단순히 더 똑똑한 기계를 만드는 것만이 아니다. 그 주변에 더 책임감 있는 생태계를 만드는 것에 관한 것이다. 이는 위협 탐지에 대한 명확하고 엄격한 프로토콜, 법 집행 기관과의 투명한 소통(그리고 생명이 걸린 문제에 대한 대중과의 소통), 그리고 혁신이 인간의 생명을 희생시키면서 절대 이루어져서는 안 된다는 원칙에 대한 흔들리지 않는 헌신을 의미한다. AI의 미래는 바로 이 섬세하고 종종 무서운 균형에 달려 있다. 그리고 지금, 그 균형은 위태롭게 기울어져 있는 것 같다.
