San Francisco, AI 딥페이크 포르노 사이트에 소송 제기

샌프란시스코 시, AI 기술 악용에 법적 대응 나서

샌프란시스코 시 검찰청은 AI로 생성된 딥페이크 포르노그래피를 제작 및 배포하는 16개 웹사이트를 상대로 소송을 제기했다. 이 소송은 AI 기술의 악용을 막기 위한 중요한 법적 도전으로, 여성과 아동의 비동의적 이미지 생성에 대한 우려를 해결하고자 한다. 시 검찰청은 이러한 웹사이트의 폐쇄를 요구하며, 영구적인 운영 금지와 민사 벌금 및 법적 비용을 추구하고 있다. 이 소송은 AI 기술의 급속한 발전과 관련된 프라이버시 및 착취 문제를 해결하려는 시도로 주목받고 있다.

소송은 주 및 연방법 위반을 주장하며, 딥페이크 포르노, 복수 포르노, 아동 포르노 금지법 위반을 포함한다. 또한, 캘리포니아의 불공정 경쟁법 위반도 언급하고 있다. 이러한 법적 위반은 웹사이트가 동의 없이 명시적 이미지를 생성하는 관행에서 비롯되며, 주로 여성과 소녀를 대상으로 한다. 시 검찰청은 이러한 웹사이트가 2024년 상반기에만 2억 회 이상 방문되었다고 추정하고 있다. 샌프란시스코는 이 법적 조치를 통해 AI 기술 개발자를 그들의 창작물 오용에 대해 책임지게 하려는 선례를 세우고자 한다.

딥페이크 포르노그래피는 피해자에게 심각한 사회적 영향을 미치며, 명예 훼손, 정신 건강 문제, 자율성 상실 등을 초래한다. 일부 경우에는 심리적 부담이 너무 커서 자살 충동을 느끼는 경우도 있다. 이러한 AI 생성 이미지는 주로 여성과 소녀를 대상으로 하는 괴롭힘, 굴욕, 협박 도구로 사용된다. 시 검찰청은 이를 기술 혁신의 문제가 아니라, 실제 사람을 착취하는 성적 학대의 한 형태로 보고 있다. 샌프란시스코는 법적 조치를 통해 AI 기술의 악용을 막고 취약한 개인을 보호하고자 한다.

이 소송은 AI 기술의 급속한 발전과 그 남용에 대한 우려가 커지는 가운데 제기되었다. 전국의 입법자들은 AI 규제와 그 남용 방지를 위한 도전에 직면하고 있다. 지난해 10월, 조 바이든 대통령은 AI 규제에 관한 포괄적인 행정 명령을 발표했으며, 이는 AI 개발자의 자발적 약속과 상무부의 AI 생성 콘텐츠와 진짜 콘텐츠 구분에 대한 지침에 부분적으로 의존하고 있다.

오픈소스 AI 모델의 가용성은 누구나 AI 엔진을 접근하고 적응시킬 수 있게 하여, 사실적인 딥페이크 누드를 생성할 수 있는 사이트와 앱의 확산을 초래하고 있다. 한 번 이미지가 온라인에 올라가면, 피해자들은 '누디파이'된 이미지를 생성하는 데 사용된 웹사이트를 특정하기가 매우 어려워진다.

---

글/최한길 기자