[NYT]Extremism Finds Fertile Ground in Chat Rooms for Gamers
내부에 있는 사람들에게, Unloved는 약 150명의 사람들이 회원들이 무의식적으로 독신이라고 식별하는 사람들을 설명하는 용어인 “incels”라고 부르는 여성 혐오 하위 문화를 받아들이는 포럼 역할을 합니다. 그들은 몇몇 해롭지 않은 밈을 공유하지만 학교 총격 사건에 대해 농담을 하기도 하고 다른 인종의 여성들의 매력에 대해 토론하기도 합니다. 그룹의 사용자(Discording on Server)는 음성 또는 텍스트 대화를 위해 더 작은 방에 들어갈 수 있습니다. 그 방들 중 하나의 이름은 강간을 의미합니다.
광대하고 성장하는 게임의 세계에서 이러한 견해는 일부 게임 자체와 소셜 미디어 서비스 및 많은 게이머들이 사용하는 Discords 및 Steam과 같은 다른 사이트에서 쉽게 접할 수 있게 되었습니다.
극단주의적인 견해를 가진 공군 방위군에 의해 디스코드에 대한 펜타곤 기밀 문서가 유출되면서 1,840억 달러 규모의 게임 산업의 경계와 온라인 커뮤니티에서의 논의가 물리적 세계에서 어떻게 나타날 수 있는지에 대한 새로운 관심이 촉발되었습니다.
뉴욕대 스턴 비즈니스 및 인권 센터가 목요일에 발표한 보고서는 일부 비디오 게임 채팅방에서 여성 혐오, 인종차별 및 기타 극단적인 이데올로기가 얼마나 깊이 뿌리박혀 있는지를 강조하고 비디오 게임을 하거나 온라인에서 소셜 네트워킹을 하는 사람들이 그러한 관점에 특히 취약한 이유에 대한 통찰력을 제공했습니다.
혐오 발언이나 극단적인 견해를 퍼뜨리는 사람들은 대다수의 사용자들과는 거리가 멀고 이러한 서비스의 일부 주머니만 차지하고 있음에도 불구하고 광범위한 영향을 미친다고 연구는 주장했습니다. 이러한 사용자들은 Facebook이나 Twitter와 같은 거대 소셜 미디어 기업들이 직면한 대중의 압력을 비교적 적게 받으면서 유해한 견해를 확산시키고 혐오스럽고 때로는 폭력적인 콘텐츠로 인상적인 젊은이들을 온라인으로 모집하기 위해 가상 커뮤니티를 구축했습니다.
이 센터의 연구원들은 미국, 영국, 한국, 프랑스, 독일 등 세계 주요 게임 시장 5곳에서 조사를 실시했고 온라인 게임을 한 사람들의 51%가 지난 해 동안 여러 플레이어가 등장하는 게임에서 극단주의적인 진술을 접했다고 보고했다는 것을 발견했습니다.
“그것은 소수의 배우들일 수도 있지만, 그들은 매우 영향력이 있고 게이머 문화와 실제 사건에서 사람들의 경험에 큰 영향을 미칠 수 있습니다,” 라고 보고서의 작성자인 마리아나 올라졸라 로젠블라트가 말했습니다.
역사적으로 남성 중심의 비디오 게임 세계는 2014년과 2015년 업계에서 여성에 대한 오랜 기간 지속된 괴롭힘 캠페인인 게이머 게이트와 같은 문제 있는 행동과 오랫동안 씨름해 왔습니다. 최근 몇 년 동안 비디오 게임 회사들은 직장 문화와 고용 과정을 개선하겠다고 약속했습니다.
게임 플랫폼과 인접한 소셜 미디어 사이트는 특히 게임을 하는 많은 인상적인 젊은이들과 일부 사이트에서 상대적으로 절제가 부족하기 때문에 극단주의 그룹의 활동에 취약하다고 보고서는 말했습니다.
이러한 나쁜 배우들 중 일부는 게임 내 채팅이나 음성 기능을 사용하여 콜 오브 듀티, 마인크래프트, 로블록스와 같은 멀티 플레이어 게임에서 다른 사람들과 직접 대화합니다. 다른 때에는, 그들은 처음에는 게이머들 사이에서 유명세를 탔고 그 이후로 더 광범위한 인기를 얻은 디스코드와 같은 소셜 미디어 플랫폼으로 눈을 돌립니다.
이 보고서에서 조사된 사람들 중, 18세 미만의 15~20%는 “백인 인종이 다른 인종보다 우월하다”, “특정 인종이나 민족은 추방되거나 제거되어야 한다” 또는 “여성은 열등하다”라는 생각을 지지하는 진술을 본 적이 있다고 말했습니다
플레이어들이 가상 세계를 만들 수 있는 게임인 로블록스에서 플레이어들은 나치 강제 수용소와 중국 공산당 정부가 대부분 무슬림 지역인 신장에 건설한 대규모 재교육 수용소를 재현했다고 보고서는 밝혔습니다.
게임 월드 오브 워크래프트에서, 길드라고 불리는 온라인 그룹은 또한 신나치 계열을 광고했습니다. 토론 포럼도 있는 온라인 게임 상점인 스팀에서 한 사용자는 홀로코스트의 수석 설계자인 하인리히 히믈러의 이름을 따서 이름을 지었고, 다른 사용자는 가스를 사용했습니다.Th3.J3ws. 이 보고서는 콜 오브 듀티의 플레이어와 연결된 유사한 사용자 이름을 밝혀냈습니다.
Discorder 서버 목록을 보여주는 자원봉사자가 운영하는 사이트인 Disboard에는 극단주의적인 견해를 공개적으로 광고하는 서버가 포함되어 있습니다. 일부는 공개적인 반면, 다른 일부는 비공개 및 초대 전용입니다.
반체제 라운지 2라고 불리는 하나는 자신을 기독교인, 민족주의자, 그리고 다른 사람들이 어떻게 생각하는지 신경 쓰지 않는다는 것을 의미하는 속어인 “기반”으로 태그합니다. 그것의 프로필 이미지는 백인 우월주의자들에 의해 도용된 만화 캐릭터인 개구리 페페입니다.
“우리의 인종은 언론, 학교, 언론에 의해 대체되고 외면당하고 있습니다,” 다른 사람들이 독서에 동참하도록 하는 이 단체의 초대장은 사람들을 타락자로 만들고 있습니다.
게임 전문가인 Jeff Haynes는 최근까지 가족을 위한 온라인 엔터테인먼트를 모니터링하는 Common Sense Media에서 일했습니다. “커뮤니티를 연결하고, 창의력을 기르고, 상호 작용을 촉진하는 도구들 중 일부는 급진화하고, 조작하는 데에도 사용될 수 있습니다, 같은 종류의 끔찍한 언어와 이론과 전술을 다른 사람들에게 방송하는 것.”
게임 회사들은 혐오 콘텐츠를 단속하고, 극단주의적인 내용의 금지를 설정하고, 잠재적인 조사에 사용될 게임 내 대화의 오디오를 녹음하거나 저장했다고 밝혔습니다. Discords, Twitch, Roblox 및 Call of Duty의 제조업체인 Activision Blazard와 같은 일부 업체는 금지된 콘텐츠를 게시하기 전에 검색하고 삭제하는 자동 탐지 시스템을 설치했습니다. 최근 몇 년 동안 Activision은 행동 강령을 위반했다는 이유로 Call of Duty 계정 50만 개를 금지했습니다.
디스코드는 성명에서 “모든 사람이 소속감을 찾을 수 있는 장소이며, 그것에 반하는 행동은 우리의 사명에 어긋난다”고 말했습니다 회사는 사용자가 증오나 폭력적인 극단주의를 보일 경우 사용을 금지하고 서버를 종료했다고 말했습니다.
로블록스 대변인인 윌 네비우스는 성명을 통해 “극단주의 단체들이 모든 플랫폼의 규칙을 회피하기 위해 다양한 전술로 눈을 돌리고 있다는 것을 인식하고 있으며, 우리는 그들보다 한 발 앞서기로 결심했습니다”라고 말했습니다
스팀을 운영하는 회사인 밸브는 코멘트 요청에 응하지 않았습니다.
헤인즈 씨와 같은 전문가들은 게임의 빠른 실시간 특성이 불법적이거나 부적절한 행동을 단속하는 데 엄청난 어려움을 초래한다고 말합니다. 사악한 행위자들은 또한 기술적 장애물이 세워질 수 있는 한 빨리 회피하는 데 능숙했습니다.
어쨌든, 전 세계적으로 30억 명의 사람들이 게임을 하고 있기 때문에, 주어진 순간에 무슨 일이 일어나고 있는지 감시하는 작업은 사실상 불가능합니다.
“앞으로 몇 년 동안, 게임 세션을 진행할 수 있는 사람들보다 더 많은 사람들이 게임을 할 것입니다,” 라고 헤인즈 씨가 말했습니다. “그래서 많은 면에서, 이것은 말 그대로 엄청난 양의 스위스 치즈처럼 구멍이 뚫린 제방에 여러분의 손가락을 넣으려고 노력하는 것입니다.”
There are rules people must agree to before joining Unloved, a private discussion group on Discord, the messaging service popular among players of video games. One rule: “Do not respect women.”
For those inside, Unloved serves as a forum where about 150 people embrace a misogynistic subculture in which the members call themselves “incels,” a term that describes those who identify as involuntarily celibate. They share some harmless memes but also joke about school shootings and debate the attractiveness of women of different races. Users in the group — known as a server on Discord — can enter smaller rooms for voice or text chats. The name for one of the rooms refers to rape.
In the vast and growing world of gaming, views like these have become easy to come across, both within some games themselves and on social media services and other sites, like Discord and Steam, used by many gamers.
The leak of a trove of classified Pentagon documents on Discord by an Air National Guardsman who harbored extremist views prompted renewed attention to the fringes of the $184 billion gaming industry and how discussions in its online communities can manifest themselves in the physical world.
A report, released on Thursday by the NYU Stern Center for Business and Human Rights, underscored how deeply rooted misogyny, racism and other extreme ideologies have become in some video game chat rooms, and offered insight into why people playing video games or socializing online seem to be particularly susceptible to such viewpoints.
The people spreading hate speech or extreme views have a far-reaching effect, the study argued, even though they are far from the majority of users and occupy only pockets of some of these service. These users have built virtual communities to spread their noxious views and to recruit impressionable young people online with hateful and sometimes violent content — with comparatively little of the public pressure that social media giants like Facebook and Twitter have faced.
The center’s researchers conducted a survey in five of the world’s major gaming markets — the United States, Britain, South Korea, France and Germany — and found that 51 percent of those who played online reported encountering extremist statements in games that featured multiple players during the past year.
“It may well be a small number of actors, but they’re very influential and can have huge impacts on the gamer culture and the experiences of people in real world events,” the report’s author, Mariana Olaizola Rosenblat, said.
Historically male-dominated, the video game world has long grappled with problematic behavior, such as GamerGate, a long-running harassment campaign against women in the industry in 2014 and 2015. In recent years, video game companies have promised to improve their workplace cultures and hiring processes.
Gaming platforms and adjacent social media sites are particularly vulnerable to extremist groups’ outreach because of the many impressionable young people who play games, as well as the relative lack of moderation on some sites, the report said.
Some of these bad actors speak directly to other people in multiplayer games, like Call of Duty, Minecraft and Roblox, using in-game chat or voice functions. Other times, they turn to social media platforms, like Discord, that first rose to prominence among gamers and have since gained wider appeal.
Among those surveyed in the report, between 15 and 20 percent who were under the age of 18 said they had seen statements supporting the idea that “the white race is superior to other races,” that “a particular race or ethnicity should be expelled or eliminated” or that “women are inferior.”
In Roblox, a game that allows players to create virtual worlds, players have re-enacted Nazi concentration camps and the massive re-education camps that the Chinese Communist government have built in Xinjiang, a mostly Muslim region, the report said.
In the game World of Warcraft, online groups — called guilds — have also advertised neo-Nazi affiliations. On Steam, an online games store that also has discussion forums, one user named themselves after Heinrich Himmler, the chief architect of the Holocaust; another used Gas.Th3.J3ws. The report uncovered similar user names connected to players in Call of Duty.
Disboard, a volunteer-run site that shows a list of Discord servers, includes some that openly advertise extremist views. Some are public, while others are private and invitation only.
One, called Dissident Lounge 2, tags itself as Christian, nationalist and “based,” slang that has come to mean not caring what other people think. Its profile image is Pepe the Frog, a cartoon character that has been appropriated by white supremacists.
“Our race is being replaced and shunned by the media, our schools and media are turning people into degenerates,” the group’s invitation for others to join reads.
Jeff Haynes, a gaming expert who until recently worked at Common Sense Media, which monitors entertainment online for families, said, “Some of the tools that are used to connect and foster community, foster creativity, foster interaction can also be used to radicalize, to manipulate, to broadcast the same kind of egregious language and theories and tactics to other people.”
Gaming companies say they have cracked down on hateful content, establishing prohibitions of extremist material and recording or saving audio from in-game conversations to be used in potential investigations. Some, like Discord, Twitch, Roblox and Activision Blizzard — the maker of Call of Duty — have put in place automatic detection systems to scan for and delete prohibited content before it can be posted. In recent years, Activision has banned 500,000 accounts on Call of Duty for violating its code of conduct.
Discord said in a statement that it was “a place where everyone can find belonging, and any behavior that goes counter to that is against our mission.” The company said it barred users and shut down servers if they exhibited hatred or violent extremism.
Will Nevius, a Roblox spokesman, said in a statement, “We recognize that extremist groups are turning to a variety of tactics in an attempt to circumvent the rules on all platforms, and we are determined to stay one step ahead of them.”
Valve, the company that runs Steam, did not respond to a request for comment.
Experts like Mr. Haynes say the fast, real-time nature of games creates enormous challenges to policing unlawful or inappropriate behavior. Nefarious actors have also been adept at evading technological obstacles as quickly as they can be erected.
In any case, with three billion people playing worldwide, the task of monitoring what is happening at any given moment is virtually impossible.
“In upcoming years, there will be more people gaming than there would be people available to moderate the gaming sessions,” Mr. Haynes said. “So in many ways, this is literally trying to put your fingers in a dike that is ridden by holes like a massive amount of Swiss cheese.”