한 소년이 성폭행당하는 모습을 담은 동영상 조회수가 120,000회를 넘었습니다. 사용자가 착취당하는 아동과 관련된 콘텐츠를 팔로우하도록 제안하는 추천 엔진입니다. 사용자는 지속적으로 악의적인 자료를 게시하고, 발견 시 삭제를 지연하고, 이를 단속하는 조직과 마찰을 일으킵니다.
Elon Musk가 “아동 착취 근절이 최우선”이라고 선언한 이후로 트위터 11월 말.
머스크의 소유권 하에서 트위터의 안전 책임자인 엘라 어윈은 사이트에 널리 퍼진 아동 성적 학대 자료와 싸우기 위해 신속하게 움직이고 있다고 말했습니다. 대부분의 기술 플랫폼에서와 같이 — 이전 소유자 아래. “Twitter 2.0″은 다를 것이라고 회사는 약속했습니다.
그러나 The New York Times의 검토에 따르면 일반적으로 아동 음란물로 알려진 이미지가 플랫폼에 지속되었으며 당국이 가장 쉽게 감지하고 제거할 수 있는 것으로 간주하는 널리 유포된 자료가 포함되어 있었습니다.
머스크가 10월 말에 고삐를 잡은 후 트위터는 문제를 경험한 직원을 대부분 제거하거나 해고했으며 이전에 당국이 확인한 욕설 이미지의 확산을 막지 못했다고 리뷰는 보여줍니다. Twitter는 또한 노력의 핵심으로 간주되는 일부 탐지 소프트웨어에 대한 지불을 중단했습니다.
그 동안 다크 웹 포럼의 사람들은 Twitter를 모니터링하는 남용 방지 그룹의 포럼 녹취록에 따르면 탐지를 피하면서 자료를 쉽게 찾을 수 있는 플랫폼으로 Twitter를 유지하는 방법에 대해 논의합니다.
줄리 인만 그랜트(Julie Inman Grant) 호주 온라인 안전 위원은 “하수구 쥐를 들여보내면 역병이 닥칠 것이라는 것을 알 수 있다”고 말했다.
트위터는 1월에 404,000개의 계정을 정지하면서 이러한 노력이 가속화되었다고 말했습니다. “우리의 최근 접근 방식은 더욱 공격적입니다.” 일련의 트윗 수요일에는 착취적인 자료를 검색하는 사람들도 단속했으며 12월 이후 성공적인 검색을 99% 줄였다고 말했습니다.
인터뷰에서 Irwin은 대부분의 계정 정지가 해당 자료를 게시한 계정이 아니라 해당 자료와 관련이 있거나 판매 또는 배포했다고 주장하는 계정과 관련이 있다고 말했습니다. 그녀는 아동 성적 학대 콘텐츠가 플랫폼에서 공개적으로 사용 가능하다는 점에 대해 이의를 제기하지 않았으며 “우리는 더 잘 감지할 수 있어야 하는 몇 가지 사항을 여전히 놓치고 있다는 것을 절대적으로 알고 있습니다.”라고 말했습니다.
Elon Musk의 트위터 내부
그녀는 트위터가 문제를 해결하기 위해 직원을 고용하고 “새로운 메커니즘”을 배포하고 있다고 덧붙였습니다. “우리는 이 논스톱 작업을 해왔습니다.”라고 그녀는 말했습니다.
열광한, NBC 그리고 다른 사람 머스크의 아동 학대 이미지에 대한 트위터의 지속적인 투쟁을 자세히 설명했습니다. 화요일, 일리노이주 민주당의 Richard J. Durbin 상원의원은 법무부에 물었다 문제를 해결한 Twitter의 기록을 검토합니다.
회사의 진행 상황을 평가하기 위해 The Times는 개별 Twitter 계정을 만들고 볼 수 있는 불법인 실제 이미지를 표시하지 않고 콘텐츠에 대한 플랫폼을 샅샅이 조사할 수 있는 자동화된 컴퓨터 프로그램을 작성했습니다. 자료를 찾는 것은 어렵지 않았습니다. 실제로 Twitter는 사용자 활동을 기반으로 팔로우할 계정을 추천하는 기능인 추천 알고리즘을 통해 이를 홍보하는 데 도움을 주었습니다.
추천 중에는 셔츠를 입지 않은 소년의 프로필 사진이 있는 계정이 있었습니다. 캐나다 아동 보호 센터(Canadian Center for Child Protection)에 따르면 사진 속 아동은 알려진 성적 학대 피해자로, 이전에 식별된 이미지 데이터베이스와 비교하여 The Times의 플랫폼에서 착취적인 자료를 식별하는 데 도움을 주었습니다.
같은 사용자는 다른 소년을 성폭행하는 소년의 비디오를 “좋아요”한 계정을 포함하여 다른 의심스러운 계정을 팔로우했습니다. 1월 19일까지 한 달 이상 트위터에 올라온 이 동영상은 조회수 122,000회 이상, 300회에 가까운 리트윗, 2,600회 이상의 좋아요를 받았습니다. Twitter는 나중에 캐나다 센터에서 회사에 신고한 후 동영상을 삭제했습니다.
처음 몇 시간 동안 컴퓨터 프로그램은 이전에 악의적인 것으로 확인된 많은 이미지와 더 많이 판매하겠다고 제안하는 계정을 발견했습니다. The Times는 이미지를 보지 않고 게시물에 플래그를 지정하여 Microsoft 및 캐나다 센터에서 운영하는 서비스에 웹 주소를 보냈습니다.
12월 말 한 계정에서는 사진과 비디오의 “크리스마스 팩”을 할인된 가격으로 제공했습니다. 해당 사용자는 약 8세부터 청소년기까지 학대를 당한 아동의 부분적으로 가려진 이미지를 트윗했습니다. 트위터는 5일 후 해당 게시물을 삭제했지만, 캐나다 센터가 회사에 반복적인 통지를 보낸 후에야 가능했습니다.
전체적으로 이 컴퓨터 프로그램은 여러 계정에서 150회 이상 나타나는 10명의 피해자 이미지를 발견했으며, 가장 최근에는 목요일이었습니다. 수반되는 트윗은 종종 아동 강간 동영상을 광고하고 암호화된 플랫폼에 대한 링크를 포함했습니다.
Stanford Internet Observatory의 이사이자 Facebook의 전 최고 보안 책임자인 Alex Stamos는 결과가 놀라웠다고 말했습니다. 그는 “머스크가 어린이 안전에 초점을 맞춘 것을 고려할 때 그들이 기본을 지키지 않는 것은 놀라운 일”이라고 말했다.
이와는 별도로 The Times의 조사 결과를 확인하기 위해 캐나다 센터는 알려진 피해자와 관련된 비디오 시리즈 하나가 Twitter에 얼마나 자주 나타나는지 확인하는 테스트를 실행했습니다. 분석가들은 40개 이상의 계정에서 공유된 31개의 서로 다른 동영상을 발견했으며, 그 중 일부는 수천 번 리트윗되고 좋아요를 받았습니다. 이 동영상에는 몇 달 동안 사춘기 전 아동과 성행위를 하도록 온라인에서 갈취당한 어린 십대가 묘사되어 있습니다.
센터는 또한 데이터베이스에서 가장 노골적인 비디오에 대해 더 광범위한 스캔을 수행했습니다. 260건이 넘는 조회수와 174,000건 이상의 좋아요와 63,000건의 리트윗이 있었습니다.
캐나다 센터의 기술 책임자인 Lloyd Richardson은 “최소한의 노력으로 찾을 수 있는 양은 상당히 많습니다.”라고 말했습니다. “시스템에 있는 이런 종류의 콘텐츠를 찾는 것이 외부 사람들의 일이 되어서는 안 됩니다.”
2019년, 타임즈 보도 많은 기술 회사가 플랫폼에서 아동 착취를 단속하는 데 심각한 격차가 있었습니다. 지난 12월 호주 온라인 안전 관리인 Ms. Inman Grant는 감사를 실시했다 많은 동일한 문제가 기술 회사의 샘플링에 남아 있음을 발견했습니다.
호주 리뷰에는 트위터가 포함되지 않았지만 여러 현직 및 전직 직원에 따르면 플랫폼의 일부 어려움은 다른 기술 회사의 어려움과 유사하며 머스크가 도착하기 전인 것으로 나타났습니다.
2006년에 설립된 트위터는 지난 가을 아동 성적 학대 동영상을 스캔하기 위해 보다 포괄적인 도구를 사용하기 시작했으며 불법 사진과 동영상을 찾는 전담 엔지니어링 팀은 불과 10개월 전에 구성되었다고 말했습니다. 또한 회사의 신뢰 및 안전 팀은 지난 4월 시작된 광범위한 고용 동결 속에서도 회사가 직원을 계속 확장했음에도 불구하고 지속적으로 인력이 부족했다고 전직 직원 4명이 말했습니다.
수년에 걸쳐 회사는 일부 이미지를 찾아 제거하는 내부 도구를 구축했으며 국가 센터는 보고서의 철저함에 대해 회사를 칭찬했습니다.
최근 몇 달 동안 이 플랫폼은 사용자가 아동 학대 자료를 발견했을 때 회사에 알릴 수 있는 학대 보고 시스템에 문제가 있었습니다. (트위터는 가이드 플랫폼에서 악의적인 콘텐츠를 신고할 수 있습니다.)
The Times는 자체 연구 계정을 사용하여 12월과 1월에 콘텐츠를 판매 또는 거래했다고 주장하는 여러 프로필을 보고했습니다. 많은 계정이 활성 상태로 유지되었으며 The Times 자체 계정에서 팔로우하라는 권장 사항으로 표시되기까지 했습니다. 회사는 왜 그런 추천이 나오는지 해명하려면 시간이 더 필요할 것이라고 말했다.
자료를 찾기 위해 Twitter는 Thorn이라는 인신매매 방지 조직에서 만든 소프트웨어에 의존합니다. 관계에 정통한 소식통에 따르면 트위터는 머스크가 인수한 이후 조직에 비용을 지불하지 않았습니다. 비용을 절감하다. Twitter는 또한 기술을 개선하기 위해 Thorn과의 협력을 중단했습니다. 다른 회사에서 소프트웨어를 사용하기 때문에 협업은 업계 전반에 이점이 있었습니다.
Irwin 씨는 특정 공급업체와의 Twitter 비즈니스에 대해 언급을 거부했습니다.
그곳에서 일하는 사람들에 따르면 트위터와 국립실종학대아동센터(National Center for Missing and Exploited Children)의 관계도 어려움을 겪고 있습니다.
이 센터의 임원인 John Shehan은 트위터의 “높은 수준의 이직률”과 회사가 “신뢰와 안전, 플랫폼에서 아동 성적 학대 자료를 식별하고 제거하겠다는 약속”에 대해 걱정한다고 말했습니다.
머스크 씨의 소유로 전환된 후 트위터는 처음에 센터의 성적 학대 콘텐츠에 대한 알림에 더 느리게 반응했으며, 센터의 데이터에 따르면 모든 새로운 게시물로 재피해를 받는 학대 생존자들에게 지연이 매우 중요합니다. Twitter는 다른 소셜 미디어 사이트와 마찬가지로 센터와 쌍방향 관계를 맺고 있습니다. 사이트는 불법 콘텐츠를 알게 된 경우 센터(법 집행 기관에 알릴 수 있음)에 알립니다. 그리고 센터는 트위터에서 불법 콘텐츠를 알게 되면 이미지와 계정을 삭제할 수 있도록 사이트에 경고합니다.
작년 말, 회사의 응답 시간은 이전 소유권 하에서 1년 전 같은 기간보다 센터가 더 적은 경고를 보냈음에도 불구하고 두 배 이상 증가했습니다. 2021년 12월 트위터는 98건의 알림에 응답하는 데 평균 1.6일이 걸렸습니다. 지난해 12월 머스크가 회사를 인수한 뒤 55개에 3.5일이 걸렸다. 1월에는 82개에 1.3일이 걸리며 크게 개선됐다.
해당 국가에서 동일한 기능을 수행하는 캐나다 센터는 최대 1주일 지연되었다고 말했습니다. 일례로 캐나다 센터는 1월 6일 8세에서 10세 사이의 벌거벗은 소녀에 대한 학대를 묘사한 동영상을 감지했습니다. 이 단체는 트위터가 동영상을 삭제하기 전 약 일주일 동안 매일 알림을 보냈다고 말했습니다.
또한 불법 자료를 직접 게시하지 않고 판매한다고 주장하는 계정을 신고해야 하는 트위터의 의무에 대해서도 트위터와 미국 국립중앙의료원은 의견이 분분한 것으로 보인다.
이 회사는 규칙에 따라 “사람이 고의로 불법 이미지를 전송하고 있다는 높은 확신을 가져야 한다”고 요구하고 해당 계정이 해당 기준을 충족하지 않기 때문에 정지된 수십만 개의 계정을 국가 센터에 보고하지 않았습니다. 말했다.
국립 센터의 Mr. Shehan은 기술 회사가 자료를 판매하거나 권유한다고 주장하는 경우에도 사용자를 보고해야 하는 법적 의무가 있다는 점을 지적하면서 규칙 해석에 대해 이의를 제기했습니다. 지금까지 국가 센터의 데이터에 따르면 트위터는 매달 약 8,000건의 보고서를 작성했으며 이는 정지된 계정의 극히 일부입니다.
호주 규제 기관인 인만 그랜트(Inman Grant)는 머스크가 인수한 이후 소속 기관의 호주 담당자가 그만두거나 해고되었기 때문에 회사의 현지 대표들과 소통할 수 없었다고 말했습니다. 그녀는 직원 감축이 착취적 이미지의 더 많은 인신매매로 이어질 수 있다고 우려했습니다.
이전에 Twitter와 Microsoft의 안전 책임자였던 Inman Grant는 “이러한 현지 연락처는 시간에 민감한 문제를 해결하는 데 중요한 역할을 합니다.”라고 말했습니다.
Ms. Irwin은 회사가 호주 에이전시와 계속 연락하고 있으며 더 일반적으로 트위터가 “훨씬 나아지고 있다”는 자신감을 표명하면서 앞으로의 과제를 인정했습니다.
“어윈은 “우리는 결코 ‘이봐, 우리가 이걸 못 박았어’라고 스스로를 토닥거리지 않습니다.”라고 말했습니다.
캐나다 센터에서 발견한 게시물에 따르면 범죄자들은 트위터에서 해당 자료를 찾는 방법에 대한 정보를 다크웹 포럼에서 계속 교환하고 있습니다.
1월 12일, 한 사용자는 속아서 자신의 노골적인 녹음을 보내도록 속인 어린 소년의 비디오를 판매하는 수백 개의 “합법적인” 트위터 계정을 팔로우했다고 설명했습니다. 또 다른 사용자는 트위터를 모든 유형의 성적 학대 동영상을 쉽게 볼 수 있는 장소로 묘사했습니다. 사용자는 “사람들이 너무 많이 공유합니다.”라고 썼습니다.
라이언 맥 그리고 장체 기여보고.
