디스코드, 문제의 콘텐츠 선제적으로 방지한다

디스코드(Discord)가 인터넷 감시 재단(Internet Watch Foundation, IWF) 및 크라이스트처치 콜(Christchurch Call)과 파트너십을 체결하고 온라인 아동 성 착취물과 폭력적인 극단주의 콘텐츠 감지 및 예방에 나선다고 23일 밝혔다.

디스코드는 아동 성 착취물 확산 방지 노력을 강화해 디스코드를 학대자 및 가해자에게 비우호적인 플랫폼으로 만들고자 IWF에 합류했다. IWF는 온라인 아동 성 착취물의 확산을 방지하는 영국의 비영리재단이다. 디스코드는 IWF의 URL 및 키워드 목록, 비사진(non-photographic) URL 목록, 해시 목록 등 IWF의 선도적인 서비스를 구축해 자사 플랫폼을 안전하게 보호할 계획이다.

디스코드는 IWF의 ‘신뢰할 수 있는 신고자(trusted flagger)’ 그룹도 동참하고, 아동 성 착취물로 의심되는 이미지를 발견할 경우, IWF에 즉각 신고해 신속하게 심사할 수 있도록 지원한다는 방침이다. 이를 통해 디스코드 상에서 범죄물 공유 방지를 강화할 수 있을 것으로 기대된다.

디스코드가 발간한 2023년 2분기 투명성 보고서에 따르면, 디스코드는 아동 안전 관련 문제가 발견된 서버의 95%를, 아동 성 착취물 공유가 의심되는 서버의 99%를 선제적으로 제거했다.

존 레드그레이브(John Redgrave) 디스코드 신뢰 및 안전 부문 부사장은 “아동 학대 콘텐츠는 끔찍하고 용인될 수 없으며, 디스코드는 물론 사회 어디에서도 허용될 수 없다. 디스코드는 사용자에게 안전한 플랫폼을 제공하고, 피해를 예방하기 위해 지속적으로 노력하고 있다”며 “IWF와 같은 전문가 및 파트너와 긴밀하게 협력하고, 플랫폼에서 사용자를 보호하기 위해 새로운 안전장치와 개선 방안을 지속적으로 모색하고 있다. 안전은 디스코드의 최우선 순위 중 하나로, IWF와 협력해 온라인 아동 성 착취물을 근절하고 모두에게 더 안전한 인터넷을 만드는 데 기여할 수 있어 기쁘다”고 말했다.

한편, 디스코드는 올해 11월 초 오픈AI(OpenAI), 앤스로픽(Anthropic), 비메오(Vimeo) 등 기술 기업과 함께 크라이스트처치 콜 커뮤니티에 합류했다. 이러한 디스코드의 행보는 새로운 도구, 교육 및 파트너십에 지속적으로 투자해 플랫폼 내 혐오를 근절하기 위한 노력의 연장선상에 있다.

크라이스트처치 콜은 온라인 테러 및 폭력적인 극단주의 콘텐츠 제거를 목적으로 하는 커뮤니티로, 130여 정부, 온라인 서비스 제공업체 및 시민사회단체로 구성되어 있다.

해당 파트너십과 관련해 존 레드그레이브 디스코드 부사장은 “디스코드에서 혐오와 폭력이 설 자리는 없다”며 “파트너십과 투명성 향상은 극단주의에 대응하기 위한 디스코드의 노력의 근간이다. 크라이스트처치 콜에 합류하게 된 것을 영광으로 생각하며, 인터넷과 세상을 더 안전한 곳으로 만들기 위해 함께 노력할 수 있기를 기대한다”고 말했다.