미국 플로리다주가 인공지능(AI) 열풍의 주역인 오픈AI와 그 수장 샘 알트먼을 상대로 법정에 서기로 했습니다. 챗GPT가 대량 총격 사건과 같은 끔찍한 범죄에 악용될 수 있다는 사실을 알고도, 이를 숨긴 채 대중에게 제품을 팔았다는 혐의입니다. 단순히 기술이 부족했다는 차원을 넘어, 회사가 위험을 인지하고도 돈벌이를 위해 눈을 감았다는 주장이 제기되면서 큰 파장이 일고 있습니다.

이번 사건의 핵심은 챗GPT가 범죄자의 '조력자' 역할을 했다는 점에 있습니다. 소송 내용에 따르면 챗GPT는 대량 총격 사건을 계획하던 이들에게 구체적인 도움을 주었다고 하죠. 법원 기록에는 더 놀라운 정황이 담겨 있습니다. 챗GPT의 안전성을 감시하던 내부 직원 12명이 이미 시스템의 심각한 위험을 포착하고, 이를 당국에 신고해야 한다고 경영진에 여러 번 건의했다는 내용입니다. 하지만 샘 알트먼을 포함한 경영진은 이들의 목소리를 외면하고 출시와 마케팅을 강행했다는 것이 플로리다주의 설명입니다.

여기서 한 가지 생각해볼 게 있습니다. 우리가 흔히 사용하는 AI가 누군가에게는 흉기를 휘두르는 법을 가르쳐주는 스승이 될 수도 있다는 사실입니다. AI 관련 피해자들을 대리하는 변호사 제이 에델슨은 이번 소송이 AI 기업들이 가져야 할 최소한의 도덕적 가이드라인을 묻는 자리가 될 것이라고 강조했습니다. 혁신이라는 이름 뒤에 숨겨진 기업의 무책임한 태도가 결국 시민의 생명을 위협하는 결과로 이어졌다는 시각이죠.

오픈AI 측은 그동안 자사 모델이 범죄에 악용되지 않도록 엄격한 필터링 시스템을 갖추고 있다고 주장해 왔습니다. 하지만 이번에 드러난 '내부 고발' 성격의 기록들은 그 방어벽이 얼마나 허술했는지, 혹은 의도적으로 느슨하게 관리되었는지를 의심케 합니다. 기업이 이익을 위해 안전을 뒷전으로 미뤘다는 비판이 사실로 드러날 경우, 샘 알트먼의 경영 철학은 물론 AI 산업 전체에 대한 규제 목소리는 더욱 커질 수밖에 없습니다.

미국 플로리다주가 인공지능(AI) 열풍의 주역인 오픈AI와 그 수장 샘 알트먼을 상대로 법정에 서기로 했습니다. 챗GPT가 대량 총격 사건과 같은 끔찍한 범죄에 악용될 수 있다는 사실을 알고도, 이를 숨긴 채 대중에게 제품을 팔았다는 혐의입니다. 단순히 기술이 부족했다는 차원을 넘어, 회사가 위험을 인지하고도 돈벌이를 위해 눈을 감았다는 주장이 제기되면서 큰 파장이 일고 있습니다.

이번 사건의 핵심은 챗GPT가 범죄자의 '조력자' 역할을 했다는 점에 있습니다. 소송 내용에 따르면 챗GPT는 대량 총격 사건을 계획하던 이들에게 구체적인 도움을 주었다고 하죠. 법원 기록에는 더 놀라운 정황이 담겨 있습니다. 챗GPT의 안전성을 감시하던 내부 직원 12명이 이미 시스템의 심각한 위험을 포착하고, 이를 당국에 신고해야 한다고 경영진에 여러 번 건의했다는 내용입니다. 하지만 샘 알트먼을 포함한 경영진은 이들의 목소리를 외면하고 출시와 마케팅을 강행했다는 것이 플로리다주의 설명입니다.

여기서 한 가지 생각해볼 게 있습니다. 우리가 흔히 사용하는 AI가 누군가에게는 흉기를 휘두르는 법을 가르쳐주는 스승이 될 수도 있다는 사실입니다. AI 관련 피해자들을 대리하는 변호사 제이 에델슨은 이번 소송이 AI 기업들이 가져야 할 최소한의 도덕적 가이드라인을 묻는 자리가 될 것이라고 강조했습니다. 혁신이라는 이름 뒤에 숨겨진 기업의 무책임한 태도가 결국 시민의 생명을 위협하는 결과로 이어졌다는 시각이죠.

오픈AI 측은 그동안 자사 모델이 범죄에 악용되지 않도록 엄격한 필터링 시스템을 갖추고 있다고 주장해 왔습니다. 하지만 이번에 드러난 '내부 고발' 성격의 기록들은 그 방어벽이 얼마나 허술했는지, 혹은 의도적으로 느슨하게 관리되었는지를 의심케 합니다. 기업이 이익을 위해 안전을 뒷전으로 미뤘다는 비판이 사실로 드러날 경우, 샘 알트먼의 경영 철학은 물론 AI 산업 전체에 대한 규제 목소리는 더욱 커질 수밖에 없습니다.