SNS 알고리즘은 극우를 좋아하나 - 독일 AfD 지지 콘텐츠를 쏟아낸 소셜미디어 실험 (니먼랩)

니먼랩 기사

한국 시간으로 24일 나온 독일 총선 결과, 극우 정당이 히틀러 이후 최대의 의석을 얻으면서 제2당으로 떠올랐습니다. 하버드대 저널리즘스쿨에서 운영하는 니먼랩에서는 독일 총선 전 소셜미디어 알고리즘과 극우 지지의 관계를 고찰한 글을 실었습니다. 전문을  구글제미나이로 번역하고 조금 수정을 했습니다.

독일에서 소셜 미디어 알고리즘이 막대한 양의 극우 성향 AfD(독일 대안당) 지지 콘텐츠를 쏟아내고 있습니다.

 

In Germany, social media algorithms are pumping out huge amounts of far-right, pro-AfD content

By Joshua Benton @jbenton Feb. 20, 2025, 12:47 p.m. 

독일은 이번 주 일요일(23일)에 변혁적인 결과를 가져올 수 있는 선거를 치릅니다.
핵심은 지난 연방 선거에서 10.4%의 득표율을 얻었던 극우 정당 독일을 위한 대안당(AfD)입니다.
현재 여론 조사로는 AfD가 거의 두 배 수준의 지지율을 얻고 있습니다.
중도 우파인 CDU/CSU에 이어 2위를 차지할 가능성이 높습니다.
AfD가 연방 수준에서 지금까지 경험했던 것보다 훨씬 더 실질적인 권력에 가까워지는 결과입니다.

왜 이게 중요할까요?
아시다시피, 독일은 급증하는 극우 정당들과 관련된 과거가 있습니다.
AfD 지도자들과 구성원들은 꽤 심각한 나치 관련 행위를 계속해서 저지르고 있습니다.
홀로코스트 부정, 국가 전복 음모, 나치 슬로건 재활용, 잘못된 민족성을 가진 독일 시민 대량 추방 계획, 개인 페이스북 그룹에서 "갓 구운" 안네 프랑크 밈 공유, 그리고 일반적으로 폴키쉬(Völkisch) 민족주의로의 복귀 요구 등등.
프랑스의 마린 르펜의 극우 국민연합당조차 AfD와는 아무런 관계도 맺고 싶지 않다고 발표할 정도입니다.

독일의 주요 정당들은 역사적으로 극우 세력과는 어떤 교류도 하지 않았습니다.
AfD와의 협력도 거부해 왔습니다.
이 방화벽은 제2차 세계 대전이 끝난 후부터 지금까지 유지되었습니다.
지난 달 보수 정당인 CDU가 AfD와 협력하여 이민을 줄이려고 시도하면서 대규모 시위가 발생했습니다.
워싱턴에서 벌어지고 있는 혼란과 일론 머스크와 J.D. 밴스의 충격적인 AfD 지지가 변화를 예고하고 있습니다.
전 세계가 일요일(23일 투표일)의 결과에 주목하는 이유입니다.

이런 이유로 오늘(20일) 발표된 국제적인 기후 및 인권 NGO 글로벌 위트니스(Global Witness)의 새로운 연구는 주목할 가치가 있습니다.
이 연구는 트위터, 틱톡, 인스타그램의 추천 알고리즘이 선거를 앞두고 독일 사용자들에게 보여지는 정치 콘텐츠에 어떤 영향을 미치는지 살폈습니다.
결과는 충격적이었습니다.

글로벌 위트니스의 새로운 조사에 따르면 독일의 비당파적인 소셜 미디어 사용자들이 연방 선거를 앞두고 좌파 성향 콘텐츠보다 우파 성향 콘텐츠를 두 배 이상 더 많이 보고 있는 것으로 드러났습니다. 빅테크 기업들이 주요 선거에 미치는 영향에 대한 감시가 점점 더 강화되는 시점에서, 조사관들은 틱톡, X(트위터), 인스타그램의 알고리즘이 선거 준비 기간 동안 정치에 관심이 있지만 비당파적인 사용자들에게 어떤 콘텐츠를 추천하는지 조사했습니다.

연구는 이렇게 진행됐습니다.

일반인이 자신의 소셜 피드를 볼 때, 플랫폼은 사용자에 대해 알고 있는 것 - 팔로우한 사람, 좋아요를 누른 게시물, 스크롤하면서 보낸 시간 등 -에 따라 게시물을 보여줍니다.
어떤 사람이 밀워키 브루어스 선수만 팔로우하고 밀워키 브루어스 게시물만 좋아한다면, 소셜 알고리즘이 밀워키 브루어스 콘텐츠를 제공하기 시작하는 것은 놀라운 일이 아닙니다.
당신이 보고 있는 것의 얼마가 과거 행동의 결과인지, 아니면 알고리즘 자체에 내재된 것인지 판단하기가 어렵습니다.

글로벌 위트니스는 이를 피하기 위해  세 플랫폼(틱톡, X, 인스타그램) 모두에서 공장 초기화된 장치에 완전히 새로운 계정을 만들었습니다.
알고리즘이 결론을 도출할 수 있는 과거 행동이 없는 계정입니다.
각 플랫폼에서 그들은 독일의 4대 정당의 공식 계정과 각 정당 지도자의 계정 등 단 8명의 사용자만 팔로우했습니다.
이러한 각 계정에 대해 가장 최근 게시물 5개를 읽거나 시청했습니다.
이를 통해 플랫폼은 해당 계정이 정치 콘텐츠에 관심이 있지만 특정 당파적 입장을 표명하지 않았다는 것을 알 수 있었습니다.

그런 다음 각 플랫폼의 "For You" 피드로 이동하여 그들에게 표시되는 내용을 기록하기 시작했습니다.
각 게시물을 우파 성향인지 좌파 성향인지, 특정 정당을 지지하는지, 그리고 그들이 팔로우한 8개의 계정 중 하나가 게시했는지 여부로 분류했습니다.

틱톡(74%)과 트위터(72%)에서 그들에게 표시된 정치 콘텐츠의 거의 4분의 3이 우파 성향이었으며, 그 콘텐츠의 가장 큰 비중은 AfD 지지 콘텐츠였습니다.
인스타그램의 콘텐츠도 오른쪽으로 기울었지만 그 정도는 덜했습니다(59%).

놀랍게도, 그 오른쪽으로의 기울기는 대부분 연구자들이 팔로우하지 않은 계정, 즉 8개의 정당 및 지도자 계정이 아닌 계정의 콘텐츠에 의해 주도되었습니다.
해당 콘텐츠의 규모는 플랫폼에 따라 크게 달랐습니다.
예를 들어, 인스타그램에서는 제공된 콘텐츠의 96%가 해당 8개 계정 중 하나에서 제공되었습니다.
틱톡에서는 그 수가 8%에 불과했습니다.
알고리즘이 선택한 팔로우하지 않은 계정은 강력한 정치 편향을 보였습니다.

당신은 자신이 팔로우할 계정을 선택할 수 있습니다. 플랫폼에 무엇을 더 보고 싶은지 나타내는 방법이 있지만 궁극적으로 플랫폼이 당신에게 제공하는 게시물은 대부분 당신의 통제 범위를 벗어납니다. 그리고 우리의 테스트에서 틱톡과 X의 추천 시스템이 선택한 정당 정치 콘텐츠는 정치적으로 편향되어 있었습니다.

틱톡에서는 표시된 당파적 콘텐츠의 78%가 AfD 지지 콘텐츠였습니다. (다른 세 정당: 8%, 8%, 6%.)
트위터에서는 64%가 AfD 지지 콘텐츠였습니다. (다른 세 정당: 18%, 14%, 6%.)

일론 머스크의 트위터에서 시간을 보낸 사람이라면 저울에 이렇게 큰 손이 있다는 사실에 놀라지 않을 것입니다.
소셜 미디어 플랫폼은 오랫동안 사람들이 동의하기 쉬운 콘텐츠를 제공하여 필터 버블에 가두는 것으로 비판받아 왔습니다.
그러나 적어도 그것은 그들의 필터 버블입니다.
이번 실험에서 보여준 강력한 필터는 플랫폼 자체가 만든 필터였습니다.

이것은 이론적으로 수정 가능한 문제입니다.
몇 년 전에 이와 유사한 연구를 본 기억이 있을 것입니다.
유튜브에 관한 것이었습니다.
유튜브의 추천 시스템이 사람들을 점점 더 급진적인 콘텐츠로 몰아넣고 있다는 내용이었습니다.
2019년, 유튜브는 "유해한 방식으로 사용자에게 잘못된 정보를 제공할 수 있는 경계선 콘텐츠와 콘텐츠 추천을 줄임"으로써 극단적으로 편향된 영상을 덜 추천하는 방향으로 알고리즘을 변경한다고 발표했습니다.
몇 달 안에 그들은 "미국에서 구독하지 않은 추천으로 제공되는 콘텐츠의 시청 시간이 평균 70% 감소"했다고 보고했습니다.
물론 편향된 정치 영상을 여전히 원하는 사람이 찾을 수 있었지만, 유튜브는 사용자에게 적극적으로 푸시하는 빈도를 크게 줄였습니다.
후속 연구에서는 유튜브 토끼굴의 급진화 효과가 이제 크게 감소하거나 완전히 사라졌다는 것을 일반적으로 (보편적이지는 않지만) 발견했습니다.

유튜브는 그러한 변화가 필요했습니다.
(또는 좀 더 냉소적으로 말하자면, "유튜브 동영상이 내 아이를 ISIS에 가입하게 만들었다"는 이야기가 매우 나쁜 홍보라고 느껴야 했습니다.)

일론 머스크에게는 어떨까요. 극우 콘텐츠에 크게 치우친 알고리즘은 대부분 사용자에게 문제점이겠지만, 그에게는 기능이 잘 작동하는 것으로 보일 수 있습니다.
도널드 트럼프의 호감을 얻으려고 노력하는 틱톡은 이러한 종류의 편향을 문제로 볼까요, 아니면 판매 포인트로 볼까요?

프랑스어로 코르동 사니테르(cordon sanitaire)는 문자 그대로 검역 장벽을 의미합니다.
질병의 확산을 막기 위해 세워진 구조물입니다.
코로나19 팬데믹 기간 동안 전 세계는 얼마나 엄격하게 검역 장벽을 세워야 하는지 또는 그렇지 않아야 하는지 끊임없이 논쟁했습니다.
합리적인 사람들 사이에서도 AfD와 같이 극단적인 정당을 주류 정치에서 얼마나 적극적으로 배제해야 하는지 의견이 다를 수 있습니다.
소셜 미디어 플랫폼이 보여준 편향은 그런 논쟁의 차원이 아닙니다.
적극적으로 바이러스를 옹호하는 수준의 극단적인 편향입니다.
극우의 주장을 피해야 할 대상이 아니라 축하하고 장려해야 할 콘텐츠로 판단하고 있습니다.
이런 인식이 얼마나 확산됐는지, 우리는 일요일(독일 투표일)에 알게 될 것입니다.

독일 총선 결과. AfD는 의석이 2배 늘었다.