[NYT]On TikTok, Election Misinformation Thrives Ahead of Midterms
이제, 비슷한 문제들이 미국에 도착했습니다.
올 가을 중간선거를 앞두고 틱톡은 근거 없고 오해의 소지가 없는 정보의 주요 인큐베이터가 되고 있다고 온라인 허위사실을 추적하는 연구자들이 말합니다. TikTok이 바이럴 댄스 패드를 부추길 수 있는 동일한 특성 – 플랫폼의 거대한 도달 범위, 짧은 비디오 길이, 강력하지만 제대로 이해되지 않는 추천 알고리즘 – 또한 부정확한 주장을 억제하기 어렵게 만들 수 있습니다.
11월 특정 유권자 사기에 대한 근거 없는 음모론은 전 세계적으로 매달 10억 명 이상의 활성 사용자가 있는 TikTok에서 널리 관찰됩니다. 사용자는 #Stop을 검색할 수 없습니다.Steal 해시태그는 #Stop입니다.The Stelll은 뉴욕 타임즈의 연락을 받은 후 틱톡이 해시태그를 비활성화할 때까지 거의 백만 번의 조회수를 축적했습니다. 일부 동영상은 의회 청문회 과정에서 제기된 풀리지 않은 루머를 2021년 1월 6일 국회의사당 습격사건으로 인용하면서 시청자들에게 11월 투표를 촉구했습니다. 틱톡 게시물들은 증거 없이 올 가을 코로나19 감염이 급증할 것이라는 예측이 직접 투표하는 것을 막기 위한 시도라고 주장하여 수천 건의 조회수를 기록했습니다.
잘못된 정보의 확산으로 인해 틱톡은 페이스북과 트위터가 몇 년 동안 직면해왔고, 엇갈린 결과로 해결된 많은 난해한 언론과 절제 문제들로 인해 어려움을 겪고 있습니다.
그러나 그 도전은 틱톡이 해결하기에 훨씬 더 어려울 수 있습니다. 앱에서 공유되는 대부분의 내용인 비디오와 오디오는 텍스트보다 조정하기가 훨씬 어려울 수 있으며, 특히 볼에 혀를 내두르는 톤으로 게시된 경우 더욱 그렇습니다. 중국의 거대 기술 기업인 바이트댄스가 소유하고 있는 TikTok은 데이터 및 중도에 대한 비즈니스 결정이 베이징에 뿌리를 둔 것에 의해 영향을 받는지에 대해서도 워싱턴에서 많은 의구심에 직면하고 있습니다.
“당신이 극도로 제한된 텍스트 내용을 가진 극도로 짧은 비디오를 가지고 있을 때, 당신은 정치에 대한 미묘한 토론을 위한 공간과 시간을 가질 수 없습니다,”라고 하버드 케네디 학교 쇼렌스타인 센터의 기술과 사회 변화 프로젝트의 연구원인 Kaylee Fagan은 말했습니다.
틱톡은 2018년 중간선거 당시 미국에서 거의 소개되지 않았고 2020년 대선 당시에도 여전히 젊은층을 위한 엔터테인먼트 앱으로 크게 여겨졌습니다. 앱 분석 회사인 Sensor Tower의 최근 보고서에 따르면, 현재 미국 사용자 기반은 플랫폼에서 하루 평균 82분을 소비하고 있으며, 이는 Snapchat 또는 Twitter보다 3배, Instagram 또는 Facebook보다 2배 더 긴 시간이라고 합니다. 틱톡은 인플루언서들에 의해 종종 생산되는 정치적 콘텐츠의 목적지로서 점점 더 중요해지고 있습니다.
그 회사는 허위 정보에 맞서 싸우는 데 전념하고 있다고 주장합니다. 지난해 발표한 보고서에 따르면 2020년 하반기에는 선거 오보, 허위 정보, 언론 조작 등이 포함된 거의 35만 개의 동영상을 삭제했습니다. 플랫폼의 필터는 근거 없는 주장이 있는 다른 441,000개의 비디오가 사용자에게 추천되는 것을 막았다고 보고서는 말했습니다.
이 서비스는 2020년 선거를 앞두고 이른바 딥페이크 콘텐츠를 차단하고 잘못된 정보 캠페인을 조율해 사용자가 선거 허위 신고를 쉽게 할 수 있도록 했으며 폴리티팩트 등 13개 팩트체크 기관과 제휴했습니다. 페이건 씨와 같은 연구원들은 틱톡이 창의적인 철자로 쉽게 빠져나갈 수 있지만 문제가 있는 검색어들을 차단하기 위해 노력했다고 말했습니다.
“우리는 우리의 강령과 선거의 온전함을 최대한 진지하게 보호할 책임을 집니다,”라고 틱톡은 성명에서 말했습니다. “우리는 선거의 잘못된 정보에 대응하기 위해 정책, 안전 및 보안 팀에 계속 투자하고 있습니다.”
그러나 올해 프랑스와 호주를 포함한 해외 선거 기간 동안 이 서비스의 우려스러운 행적은 미국에게 좋은 징조가 아니라고 전문가들은 말했습니다.
틱톡은 최근 몇 주 동안 아프리카에서 “첫 번째 실제 테스트에서 실패하고 있다”고 비영리 단체인 모질라 재단의 연구원 오단가 마둥은 보고서에서 썼습니다. 이 앱은 지난 주 케냐의 대통령 선거를 앞두고 잘못된 정보를 차단하기 위해 고군분투했습니다. 마둥씨는 틱톡에 올린 글을 인용했는데, 한 후보가 목에 칼을 대고 피 묻은 셔츠를 입고 있는 모습이 변형된 모습, 그리고 자신을 살인자로 묘사한 자막과 함께 보도됐습니다. 이 게시물은 삭제되기 전에 50만 명 이상의 조회수를 기록했습니다.
“페이스북과 트위터와 같은 좀 더 확립된 플랫폼의 실수로부터 배우기 보다는, Madun은 “틱톡은 그들의 전철을 밟고 있습니다.”라고 썼습니다.
틱톡은 또한 미국에서 비정치적인 오보를 막기 위해 고군분투했습니다. 코로나19 백신과 마스크에 대한 건강 관련 속설이 난무하고 있으며, 식이요법, 소아과 질환, 트랜스젠더에 대한 성별 확인 치료에 대한 루머와 거짓도 난무하고 있습니다. 지난 5월 미국 텍사스주 우발데에 있는 롭 초등학교에서 발생한 총기 난사 사건이 무대에 올랐다고 거짓 주장을 하는 동영상은 틱톡이 이를 제거하기 전까지 7만4000여건의 조회수를 기록했습니다.
러시아의 우크라이나 전쟁에 대한 틱톡 게시물도 문제가 되고 있습니다. 쇼렌슈타인 센터에 의해 3월에 출판된 보고서에 따르면, 심지어 서비스에 대한 게시물을 분석하는 경험 많은 언론인들과 연구원들이 루머나 조작으로부터 진실을 분리하기 위해 고군분투하고 있다고 합니다.
틱톡의 디자인은 틱톡을 잘못된 정보의 번식지로 만든다고 연구원들은 발견했습니다. 그들은 비디오가 플랫폼에서 쉽게 조작되고 다시 게시될 수 있으며 도난당한 콘텐츠 또는 원본 콘텐츠와 함께 전시될 수 있다고 썼습니다. 가명이 일반적이며, 패러디 및 코미디 동영상은 사실로 오인되기 쉬우며, 인기는 댓글의 가시성에 영향을 미치며, 게시 시간 및 기타 세부 정보에 대한 데이터가 모바일 앱에 명확하게 표시되지 않습니다.
(하지만 Shorenstein Center 연구원들은 TikTok이 트위터나 페이스북과 같은 플랫폼보다 널리 게시물을 퍼뜨리기 위해 그룹들이 협력하는 소위 “rigading”에 덜 취약하다고 지적했습니다.)
2022년 1분기 동안 유해한 잘못된 정보가 담긴 동영상의 60% 이상이 제거되기 전에 사용자에 의해 시청되었다고 틱톡은 말했습니다. 작년에 틱톡과 함께 일했던 행동과학자들은 근거가 없는 내용이 있는 게시물에 경고를 붙이려는 노력이 공유는 24% 줄었지만 견해는 5%에 불과했다고 말했습니다.
연구원들은 플랫폼이 비디오의 기원에 대한 데이터를 공개하거나 알고리즘에 대한 통찰력을 공유하는 것을 거부하는 한, TikTok에서 잘못된 정보가 계속해서 번성할 것이라고 말했습니다. 지난 달, 틱톡은 올해 애플리케이션 프로그래밍 인터페이스, 즉 API에 대한 접근을 제공할 것이라고 말했지만, 중간고사 이전에 그렇게 할 것인지에 대해서는 언급하지 않았습니다.
정보학 및 컴퓨터 과학 교수이자 인디애나 대학의 소셜 미디어 천문대 책임자인 필리포 멘처는 틱톡에 연구 협력을 제안했고 “절대 그렇지 않다”는 말을 들었다고 말했습니다.
그는 “적어도 페이스북과 트위터로 어느 정도 투명성은 있지만 틱톡의 경우 단서가 없다”고 말했습니다. “리소스가 없거나 데이터에 액세스할 수 없으면 누가 일시 중단되고, 어떤 컨텐츠가 중단되고, 보고서에 따라 작업하는지 또는 기준이 무엇인지 알 수 없습니다. 완전히 불투명하기 때문에 독립적으로 평가할 수 없습니다.”
미국 의원들도 틱에 대한 더 많은 정보를 요구하고 있습니다.중국과의 관계가 국가 안보 위협으로 작용할 수 있다는 우려가 다시 제기되는 가운데, 톡의 작전이 재개되었습니다. 이 회사는 미국 사용자들에 대한 데이터를 중국 부모로부터 분리하여 보관할 계획이라고 말했습니다. 또한 중국 정부의 정책 목표와 상반되는 것으로 보이는 직위들을 검열했다는 비난을 받은 이후 규칙이 바뀌었다고 말했습니다.
이 회사는 자동화된 필터와 함께 작업하는 인간 진행자가 몇 명인지 밝히기를 거부했습니다. (TikTok 임원은 2020년 영국 정치인들에게 이 회사가 전 세계에 10,000명의 진행자를 보유하고 있다고 말했습니다.) 그러나 전직 사회자들은 어려운 근무 조건에 대해 불평하면서, 그들이 엷게 퍼져 있고 때로는 익숙하지 않은 언어와 레퍼런스를 사용하는 비디오를 검토해야 한다고 말했는데, 이것은 페이스북과 같은 플랫폼에서 사회자들이 제기한 비난의 메아리입니다.
현재 진행자를 위한 일자리 목록에서 틱톡은 “많은 짧은 비디오를 검토”하고 “각 교대 시간 동안 연속적으로”할 의향을 요청하고 있습니다.
3월에 제기된 소송에서, 내슈빌의 리스 영과 라스베가스의 애슐리 벨레즈는 그들이 작년에 틱톡에서 일하는 동안 “엄청난 스트레스와 심리적 해를 입었다”고 말했습니다. 전직 중재자들은 음모론, 주변 신념, 정치적 허위 정보, 선출된 공직자들의 조작된 이미지 등 수천 개의 비디오를 평가하는 12시간의 교대 근무를 설명했습니다. 보통 게시물마다 평가하는 시간이 25초도 안 되고 틱을 만나기 위해 여러 개의 동영상을 동시에 시청해야 하는 경우가 많다고 합니다.Tok의 할당량입니다.
이 회사는 서류에서 원고들이 틱톡이 직접 고용한 것이 아니라 직원 서비스에 의해 고용된 계약자였기 때문에 이 사건을 일부 기각할 것을 촉구했습니다. 또한 이 회사는 검토 알고리즘과 함께 “콘텐츠 절제에 대한 중요한 사회적 효용성은 조정자에게 미치는 위험보다 훨씬 더 큽니다.”라고 말하며 인간 감시의 이점에 주목했습니다.
선거철은 정치 틱톡 게시물이 특정 정치인이나 단체가 아닌 광범위한 이슈를 다루는 광범위한 사용자 모임에서 나오는 경향이 있기 때문에 중재자들에게 특히 어려울 수 있습니다, 라고 애틀랜틱 카운슬의 디지털 포렌식 연구소의 수석 소장인 그레이엄 브루키는 말했습니다.
“결론은 모든 플랫폼이 더 많은 일을 할 수 있고 사회민주주의가 의존하는 일련의 사실들을 위해 더 많은 일을 할 필요가 있다는 것입니다.”라고 브루키 씨는 말했습니다. “특히 TikTok은 그 규모, 정말 정말 빠른 성장, 그리고 결정을 내리는 방법에 대한 많은 미해결 문제들 때문에 두드러집니다.”
In Germany, TikTok accounts impersonated prominent political figures during the country’s last national election. In Colombia, misleading TikTok posts falsely attributed a quotation from one candidate to a cartoon villain and allowed a woman to masquerade as another candidate’s daughter. In the Philippines, TikTok videos amplified sugarcoated myths about the country’s former dictator and helped his son prevail in the country’s presidential race.
Now, similar problems have arrived in the United States.
Ahead of the midterm elections this fall, TikTok is shaping up to be a primary incubator of baseless and misleading information, in many ways as problematic as Facebook and Twitter, say researchers who track online falsehoods. The same qualities that allow TikTok to fuel viral dance fads — the platform’s enormous reach, the short length of its videos, its powerful but poorly understood recommendation algorithm — can also make inaccurate claims difficult to contain.
Baseless conspiracy theories about certain voter fraud in November are widely viewed on TikTok, which globally has more than a billion active users each month. Users cannot search the #StopTheSteal hashtag, but #StopTheSteallll had accumulated nearly a million views until TikTok disabled the hashtag after being contacted by The New York Times. Some videos urged viewers to vote in November while citing debunked rumors raised during the congressional hearings into the Jan. 6, 2021, attack on the Capitol. TikTok posts have garnered thousands of views by claiming, without evidence, that predictions of a surge in Covid-19 infections this fall are an attempt to discourage in-person voting.
The spread of misinformation has left TikTok struggling with many of the same knotty free speech and moderation issues that Facebook and Twitter have faced, and have addressed with mixed results, for several years.
But the challenge may be even more difficult for TikTok to address. Video and audio — the bulk of what is shared on the app — can be far more difficult to moderate than text, especially when they are posted with a tongue-in-cheek tone. TikTok, which is owned by the Chinese tech giant ByteDance, also faces many doubts in Washington about whether its business decisions about data and moderation are influenced by its roots in Beijing.
“When you have extremely short videos with extremely limited text content, you just don’t have the space and time for nuanced discussions about politics,” said Kaylee Fagan, a research fellow with the Technology and Social Change Project at the Harvard Kennedy School’s Shorenstein Center.
TikTok had barely been introduced in the United States at the time of the 2018 midterm elections and was still largely considered an entertainment app for younger people during the 2020 presidential election. Today, its American user base spends an average of 82 minutes a day on the platform, three times more than on Snapchat or Twitter and twice as long as on Instagram or Facebook, according to a recent report from the app analytics firm Sensor Tower. TikTok is becoming increasingly important as a destination for political content, often produced by influencers.
The company insists that it is committed to combating false information. In the second half of 2020, it removed nearly 350,000 videos that included election misinformation, disinformation and manipulated media, according to a report it released last year. The platform’s filters kept another 441,000 videos with unsubstantiated claims from being recommended to users, the report said.
The service blocked so-called deepfake content and coordinated misinformation campaigns ahead of the 2020 election, made it easier for users to report election falsehoods and partnered with 13 fact-checking organizations, including PolitiFact. Researchers like Ms. Fagan said TikTok had worked to shut down problematic search terms, though its filters remain easy to evade with creative spellings.
“We take our responsibility to protect the integrity of our platform and elections with utmost seriousness,” TikTok said in a statement. “We continue to invest in our policy, safety and security teams to counter election misinformation.”
But the service’s troubling track record during foreign elections — including in France and Australia this year — does not bode well for the United States, experts said.
TikTok has been “failing its first real test” in Africa in recent weeks, Odanga Madung, a researcher for the nonprofit Mozilla Foundation, wrote in a report. The app struggled to tamp down on disinformation ahead of last week’s presidential election in Kenya. Mr. Madung cited a post on TikTok that included an altered image of one candidate holding a knife to his neck and wearing a blood-streaked shirt, with a caption that described him as a murderer. The post garnered more than half a million views before it was removed.
“Rather than learn from the mistakes of more established platforms like Facebook and Twitter,” Mr. Madun wrote, “TikTok is following in their footsteps.”
TikTok has also struggled to contain nonpolitical misinformation in the United States. Health-related myths about Covid-19 vaccines and masks run rampant, as do rumors and falsehoods about diets, pediatric conditions and gender-affirming care for transgender people. A video making the bogus claim that the mass shooting at Robb Elementary School in Uvalde, Texas, in May had been staged drew more than 74,000 views before TikTok removed it.
Posts on TikTok about Russia’s war in Ukraine have also been problematic. Even experienced journalists and researchers analyzing posts on the service struggle to separate truth from rumor or fabrication, according to a report published in March by the Shorenstein Center.
TikTok’s design makes it a breeding ground for misinformation, the researchers found. They wrote that videos could easily be manipulated and republished on the platform and showcased alongside stolen or original content. Pseudonyms are common; parody and comedy videos are easily misinterpreted as fact; popularity affects the visibility of comments; and data about publication time and other details are not clearly displayed on the mobile app.
(The Shorenstein Center researchers noted, however, that TikTok is less vulnerable to so-called brigading, in which groups coordinate to make a post spread widely, than platforms like Twitter or Facebook.)
During the first quarter of 2022, more than 60 percent of videos with harmful misinformation were viewed by users before being removed, TikTok said. Last year, a group of behavioral scientists who had worked with TikTok said that an effort to attach warnings to posts with unsubstantiated content had reduced sharing by 24 percent but had limited views by only 5 percent.
Researchers said that misinformation would continue to thrive on TikTok as long as the platform refused to release data about the origins of its videos or share insight into its algorithms. Last month, TikTok said it would offer some access to a version of its application programming interface, or A.P.I., this year, but it would not say whether it would do so before the midterms.
Filippo Menczer, an informatics and computer science professor and the director of the Observatory on Social Media at Indiana University, said he had proposed research collaborations to TikTok and had been told, “Absolutely not.”
“At least with Facebook and Twitter, there is some level of transparency, but, in the case of TikTok, we have no clue,” he said. “Without resources, without being able to access data, we don’t know who gets suspended, what content gets taken down, whether they act on reports or what the criteria are. It’s completely opaque, and we cannot independently assess anything.”
U.S. lawmakers are also calling for more information about TikTok’s operations, amid renewed concerns that the company’s ties to China could make it a national security threat. The company has said it plans to keep data about its American users separate from its Chinese parent. It has also said its rules have changed since it was accused of censoring posts seen as antithetical to Beijing’s policy goals.
The company declined to say how many human moderators it had working alongside its automated filters. (A TikTok executive told British politicians in 2020 that the company had 10,000 moderators around the world.) But former moderators have complained about difficult working conditions, saying they were spread thin and sometimes required to review videos that used unfamiliar languages and references — an echo of accusations made by moderators at platforms like Facebook.
In current job listings for moderators, TikTok asks for willingness to “review a large number of short videos” and “in continuous succession during each shift.”
In a lawsuit filed in March, Reece Young of Nashville and Ashley Velez of Las Vegas said they had “suffered immense stress and psychological harm” while working for TikTok last year. The former moderators described 12-hour shifts assessing thousands of videos, including conspiracy theories, fringe beliefs, political disinformation and manipulated images of elected officials. Usually, they said, they had less than 25 seconds to evaluate each post and often had to watch multiple videos simultaneously to meet TikTok’s quotas.
In a filing, the company pushed for the case to be dismissed in part because the plaintiffs had been contractors hired by staffing services, and not directly by TikTok. The company also noted the benefits of human oversight when paired with its review algorithms, saying, “The significant social utility to content moderation grossly outweighs any danger to moderators.”
Election season can be especially difficult for moderators, because political TikTok posts tend to come from a diffuse collection of users addressing broad issues, rather than from specific politicians or groups, said Graham Brookie, the senior director of the Digital Forensic Research Lab at the Atlantic Council.
“The bottom line is that all platforms can do more and need to do more for the shared set of facts that social democracy depends on,” Mr. Brookie said. “TikTok, in particular, sticks out because of its size, its really, really rapid growth and the number of outstanding issues about how it makes decisions.”