최근 블루스카이(BlueSky)라는 탈중앙화 소셜 미디어 플랫폼이 사용자 수의 폭발적인 증가와 함께 유해 콘텐츠의 급증을 겪고 있다. 블루스카이는 새로운 사용자 influx에 따라 네트워크에 해로운 콘텐츠가 증가하여 이를 제거하기 위한 대규모 중재 캠페인을 시작했다고 밝혔다. 이번 조치는 특히 아동 안전과 관련된 고위험 정책 영역에서 회수율을 우선하는 단기 중재 선택을 반영한 것이다.
블루스카이의 이러한 문제는 새롭게 당선된 도널드 트럼프 대통령에 대한 반발로 수많은 사용자가 기존의 트위터를 떠나 대안을 모색하던 중에 발생한 것으로 보인다. 이 과정에서, 메타의 스레즈(Threads)는 3천5백만 명의 새로운 사용자로, 블루스카이는 2천만 명의 가입자로 사용자 수가 크게 증가했다. 또한, 브라질에서는 한 판사가 트위터 사용을 금지하면서 백만 명 이상의 브라질 사용자들이 블루스카이로 이동했다.
이러한 사용자 급증과 함께 블루스카이는 스팸, 사기, 트롤링과 같은 문제가 증가했으며, 특히 아동 성적 학대 자료의 우려스러운 증가 사례도 보고되었다. 2023년에 두 건의 아동 성적 콘텐츠 사례가 있었던 것에 비해 최근 보고된 사례는 여덟 건으로 늘어났다. 지난 24시간 동안 4만2천 건 이상의 신고가 접수됐으며, 평균 시간당 약 3천 건을 기록했다. 이는 2023년 한 해 동안 접수된 총 36만 건에 달하는 신고와 비교되는 상황이다.
블루스카이는 이러한 문제에 대한 대처로 중재팀의 확장을 계획하고 있으며, 중재 행동의 적시성과 정확성을 개선하기 위해 노력을 기울이고 있다. 아울러 인공지능(AI)이 생성한 딥페이크를 억제하기 위해 로스앤젤레스에 본부를 둔 비영리 단체 톤(Thorn)과 협력해, AI 기반의 Safer 중재 기술을 도입했다. 이 기술은 아동 성적 콘텐츠를 감지하도록 설계되었으며, 텍스트를 포함한 다양한 형태의 성적 학대 위험을 조기에 식별하는 것을 목표로 하고 있다.
이는 트위터 역시 지난 5월 아동 성적 학대 자료 대응을 위해 같은 기술을 도입한 사례와 유사점을 보인다. 톤의 데이터 과학 부사장인 레베카 포트노프는 이 기술의 베타 테스트를 통해 텍스트를 포함한 다양한 콘텐츠에서 아동 성적 학대가 현실적으로 어떻게 나타나는지 배웠다고 설명한다.
블루스카이는 증가하는 사용자의 요구와 중재 요구를 충족시키기 위해 지속적으로 플랫폼을 개선하고 있으며, 이를 통해 보다 안전하고 신뢰할 수 있는 소셜 미디어 경험을 제공하는 것을 목표로 하고 있다.
