Blog da disciplina de Mídias Globais. Aqui você encontrará o conteúdo necessário para a realização do curso. Em caso de dúvidas, entrar em contato com: lleo@puc-rio.br (Luiz Léo) e maripalm@puc-rio.br (Mariana Palmeira)
Embora muito se fale no tema, todo o potencial das aplicações do metaverso ainda é um tanto desconhecido. A ideia de um ambiente imersivo, que permita uma experiência próxima à realidade, abre um leque de possibilidades para empresas dos mais variados setores.
No varejo, por exemplo, várias marcas já criaram lojas virtuais que prometem maior interação e melhores experiências de compra aos usuários. Mas as ferramentas de realidade virtual aumentada viabilizam as mais diversas iniciativas, desde a participação em eventos à distância, até processos seletivos.
Confira algumas destas inovações.
1. Contratação de profissionais
Recentemente, segundo notícia do Valor Econômico, a Ambev realizou um processo seletivo para contratação de estagiários por meio do metaverso. Segundo Nathalya Crisanti Rigitano, gerente global de cultura na Ambev, o intuito foi viabilizar uma maior conexão entre os candidatos e a empresa.
Segundo ela, a iniciativa permitiu que os interessados pudessem saber mais sobre a empresa, recebessem dicas sobre a etapa final e até participassem de uma dinâmica de grupo.
Além disso, o metaverso permite que pessoas participem de processos seletivos em qualquer lugar do mundo, de forma remota.
2. Interação com clientes
O escritório Viseu Advogados, que garante ser o primeiro no Brasil a usar a tecnologia para interagir com os clientes, substituiu as videochamadas tradicionais por uma plataforma do metaverso.
“Visualizamos a oportunidade de estar em um novo ambiente que nos permitisse acompanhar essa tecnologia e aconselhar clientes interessados em levar os seus negócios para esse novo mundo. São esses mesmos clientes que nos procuram para realizar reuniões dentro do metaverso”, afirmou Ricardo Martins Motta, sócio do escritório, ao Valor.
3. Reuniões em ambientes imersivos
Existe uma tendência de as empresas começarem a utilizar o espaço virtual para promover encontros, de acordo com Byron Mendes, professor do curso “metaverso e oportunidades de trabalho” e CEO da Metaverse Agency. Segundo ele, essa tecnologia permite, além de reuniões imersivas, nas quais o funcionário é representado por um avatar, o uso de dispositivos de realidade mista, nos quais os colaboradores conseguem interagir em espaços híbridos e personalizáveis.
Um exemplo disso foi uma conferência promovida pela PepsiCo, nos Estados Unidos, para 450 funcionários utilizando óculos de realidade virtual por meio da plataforma Mytaverse. Aliás, um estudo conduzido pela PwC prevê que, em 2030, cerca de 23 milhões e meio de funcionários ao redor do globo usarão tecnologias de realidade aumentada e virtual para treinamentos de equipes e reuniões.
4. Venda de imóveis
A startup Housi realizou uma venda de imóvel no metaverso e decidiu aproveitar o investimento nessa tecnologia para promover uma festa para suas equipes. O evento aconteceu no formato “figital”, sendo realizado simultaneamente em uma das lojas da Housi em São Paulo e no rooftop do prédio onde a companhia está sediada na plataforma desenvolvida em Decentraland.
Mergulhei nas profundezas de meus dados digitais para entender o que duas das maiores empresas do mundo repassam sobre mim — e como podemos conter essa avalanche.
Escrevo pro Motherboard há um tempinho e, para mim, nunca foi novidade a forma como empresas como Google e Facebook tocam seus negócios. (A quem não sabe: vendendo propagandas baseadas em nossos dados.) O que me deixou intrigado foi sacar que talvez seja mais fácil abrir o teoricamente inviolável banco de dados dessas empresas do que se acreditava — como o escândalo da Cambridge Analytica mostrou nas últimas semanas.
Há dias resolvi fazer o teste e baixei tudo que essas duas companhias sabem sobre mim. Queria sanar uma série de dúvidas que surgiam: qual o tamanho dos meus rastros digitais? O que eu, um cara supostamente esclarecido quanto às políticas digitais, deixaria passar em relação a minha privacidade? O que as redes sociais e apps sabem sobre mim e repassam a outros?
Conforme eu descobria a sangria de meus dados, buscava meios de contê-la. É o que conto nessa jornada em busca de minha identidade digital logo abaixo.
Tudo que o Facebook sabe sobre mim
Agenda, mensagens, locais, rostos e likes dizem quem sou em poucos megabytes
Como a rede social de Mark Zuckerberg acaba sendo uma das primeiras acessadas durante meu dia — ou um de seus outros produtos como Whatsapp, Instagram ou Messenger —, acabou sendo minha primeira opção na jornada.
Para ver o que eles tinham sobre mim, o primeiro passo foi acessar a página de Configurações. Logo embaixo das “Informações básicas da minha conta”, no cantinho inferior esquerdo do menu central da página, há a opção para “Baixar uma cópia dos seus dados do Facebook”. Você deve esperar alguns minutos para poder fazer o download, mas rola numa boa.
O tamanho do arquivo vai depender do quanto você compartilha suas informações, fotos e vídeos etc. Quanto mais uso, mais dados. Se você usa o Messenger para se comunicar, por exemplo, mais material ainda você está fornecendo.
Eu, embora cadastrado na rede de Zuckerberg há dez anos, não sou dos usuários mais ativos: o arquivo com todos meus dados entregues ao Facebook não chega a ter 300 MB. O tamanho reduzido, porém, esconde um monte de coisa que eu preferiria que não tivessem sido compartilhadas.
As fotos daquela viagem triste tiradas em 2010 que eu havia esquecido da existência, todas as mensagens enviadas, todas as recebidas, localizações geográficas. Basicamente tudo vem junto no arquivo. E se você, como eu, instalou o aplicativo da rede social no seu celular, há um bônus meio perturbador que é toda a sua agenda de contatos. Número de telefone fixo, celular, e-mail; quanto mais completa a informação que você adicionou na agenda, mais completa é a informação que o Facebook vai ter acesso.
Além disso, informações como os dados brutos do seu rosto vem junto nesse pacotão. Pode parecer meio bizarro, mas sabe aquela opção aparentemente inofensiva que permite que o Facebook reconheça e tagueie você nas fotos dos outros? Os dados brutos estão aí e podem ser usados por ele no futuro.
Ok, mas como isso é útil para a empresa? Bom, a essa altura do campeonato você já deveria saber que propaganda é a alma do negócio. Segundo a BBC, em 2016, dos US$ 7 bilhões do faturamento da empresa, cerca de US$ 6,38 bilhões tiveram a publicidade como fonte. Na época, a estimativa foi que o seu perfil rende à empresa por volta de R$ 50 ao ano. É meio barato se você pensar o tanto de coisa que você revela sobre si.
CRÉDITO: CAPTURA DE TELA/FACEBOOK
E a coisa toda acontece de forma bastante eficiente: uma vez que você curtiu uma série de páginas, elas dão a dimensão exata do que você provavelmente vai comprar. Meus likes em vídeos de animais fazem, toda semana, pintar anúncio de pet shops, e por aí vai. Dá pra saber quais são os assuntos que o Facebook acha que você vai comprar olhando na parte de publicidade deles.
Com o desconforto causado depois de sacar o que a rede social de Zuckerberg sabe sobre mim mesmo sem eu dar tanta importância a ela, tive impulso de deletar a minha conta, sair dali, mandar uma mensagem geral avisando o fim do meu perfil e nunca mais colocar o pé ali. Mas nem tudo é exatamente simples assim. Fui em busca de soluções melhores.
Como limpar o lodo: evitar apps e sujar os próprios dados
Se você, como eu, não quer compartilhar tantas informações assim com a rede social, um bom começo é se livrar de qualquer aplicativo dela no seu celular. Uma breve lida nas permissões que você concede aos aplicativos mostra que eles pedem um acesso bastante completo ao seu aparelho. Provavelmente você já ouviu a história de que o Facebook ouve suas conversas sem você saber, o que pode ou não ser uma lenda urbana.
Outra medida importante é restringir o que você compartilha com seus aplicativos. Não existem muitas razões para você compartilhar as informações de onde estudou e eventos que vai comparecer com um teste que só vai manipular uma das suas fotos de perfil, tipo aquele do “Como seria sua versão de sexo oposto”, entre outros similares. (Eu, aliás, caí nessa, confesso.)
Na página de "Configurações" é possível excluir o acesso que aplicativos de terceiros têm à sua conta. Só que há um detalhe importante: as informações que já foram coletadas pelo Facebook não são deletadas no ato da desvinculação da sua conta, como ficou claro quando estourou o escândalo da Cambridge Analytica.
Uma solução mais radical seria desabilitar a permissão do Facebook para fazer login em aplicativos de terceiros, como mostrada no campo “Aplicativos, sites e plug-ins” nas "Configurações dos aplicativos". E mais importante: preste atenção com coisas como termos de privacidade e o acesso às informações que você concede a programas, sites e apps.É claro, você sempre têm a opção de deletar totalmente a sua conta na rede social. Se essa for a sua opção, o Facebook afirma que em até 90 dias tudo sobre você será deletado dos servidores da empresa.
Também é possível tentar sujar os seus dados que a rede social coletou ao longo dos anos. Com um script que altera suas postagens com textos gerados randomicamente, a solução requer algum conhecimento em programação. O autor do código defende que, se rodado uma vez, talvez programa não faça muita diferença; depois de cem ou mil alterações de uma mesma postagem, porém, fica mais difícil resgatar informações verdadeiras sobre você e, assim, suas postagens passam a ser inúteis para o banco de dados da empresa.
De qualquer maneira, antes de adotar qualquer uma das medidas, para não perder coisas importantes como fotos antigas, existem outras formas para resgatar coisas importantes na rede, como explicamos nessa matéria.
Feito o trabalho no Facebook, está na hora de passar para a próxima empresa que sabe mais sobre mim do que minha própria mãe.
Tudo e mais um pouco que o Google sabe sobre mim
Buscas, emails, documentos, vídeos e perfil de compra dizem mais sobre mim do que meus amigos próximos sabem
Você procura coisas na internet pelo Google? Sua conta de e-mail é Gmail? Seu celular usa sistema operacional Android? Você escreve textos no Docs? Assiste a vídeos pelo YouTube? Cria planilhas eletrônicas no Sheets? Abre o Maps para se localizar? Acessa à internet usando o Chrome? Usa o compartilhamentos de arquivos do Drive? Quanto mais afirmativas foram suas respostas nos últimos segundos, maiores serão os arquivos disponíveis para download e o volume de dados que o Google têm sobre você.
Assim como o site de Mark Zuckerberg, o Google permite baixar um grande volume de dados que você entregou sem muita dificuldade. A tendência é que o tamanho do arquivo seja bem maior, já que a extensão do seu envolvimento pode ser bem mais ampla. Se você não quiser baixar para analisar com mais calma o que o Google sabe sobre você, também é possível acessar um painel que centraliza os dados que o a empresa têm sobre você.
No meu caso, em três contas de e-mail — duas pessoais e uma profissional — foram mais de 20 gigabytes de dados gerados desde 2010. Fotos vexatórias guardadas no Drive, documentos com ideias ruins de textos abandonadas, tudo agora salvo em meu HD. A máxima “vaza meus nudes, mas não vaza meu histórico de buscas” também é outro pensamento inevitável consultando o histórico de buscas e achando termos como “hatoful boyfriend walkthrough”, entre outros mais pessoais e vexatórios.
Outro ponto que o histórico de buscas revela é o quanto de informações são entregues se você não estiver prestando atenção. Buscas com a localização geográfica de onde elas foram efetuadas são algo perturbador de se ver. Não que eu não soubesse disso, mas ver os dados escritos na página dão dimensão do quanto nos expomos em cada simples pesquisa.
BUSCAS LOCALIZADAS. CRÉDITO: CAPTURA DE TELA
Você já deve ter visto o seu navegador pedir sua localização. Se você der esse acesso, ajuda a detalhar e a tornar mais certeira as informações que a empresa têm sobre você. Isso também ajuda a otimizar quais são os anúncios certos para você.
Como já é sabido, a oferta e veiculação de anúncios é também uma das principais fontes de renda do Google. Por meio de uma base de dados imensa — no meu caso, 20 gigabytes — fica fácil te oferecer algo que você provavelmente vai comprar.
Vale ressaltar que todos esses serviços possuem seus dados, já que mudança na política de privacidade do Google em 2012 transformou a política de todos os seus mais de 70 serviços em uma só. Isso significa que o serviço de publicidade da empresa, o Adwords, sabe qual é o tipo de conteúdo que você anda buscando ao longo do tempo.
Outro ponto de interessante e pouco legal é acessar o perfil de consumoque a empresa formulou sobre você com base nesses dados coletados. A própria página informa a como o seu histórico é valioso para fazer esse tipo de oferta: “Podemos mostrar, também, anúncios baseados em páginas que você visitou anteriormente”. De uma coisa você não pode reclamar: eles bem que avisaram...
Deixando as coisas um pouco menos piores
O caso do Google é um pouco mais complicado do que o Facebook, pois o volume de informações compartilhadas é bem maior e, dependendo do quanto você usa os produtos da empresa, mais difícil é tirar da sua vida.
Por padrão todas as atividades em plataformas do Google são salvas. Se você não quer mais que isso aconteça, é melhor deletar o histórico de atividades e desabilitar que ele continue a ser gravado.
DASHBOARD COM MEUS DADOS NO GOOGLE. CRÉDITO: CAPTURA DE TELA
Um bom começo é desativar os armazenamentos mais óbvios que a plataforma faz dos seus dados. Para impedir a gravação das informações é possível acessar a página onde a empresa mostra quais informações estão sendo salvas. Nela é possível “pausar” a captação de uma série de dados como: histórico de busca em navegadores e aplicativos, histórico de localização, informações de dispositivos móveis, registros de voz e áudio, buscas do YouTube e vídeos visualizados na plataforma. Dentre esses dados, talvez o principal seja desligar a “linha do tempo” de localização do Maps, pois não necessariamente é algo legal ter os dados exatos das suas caminhadas. Em especial se essas informações são sensíveis.
Se você também quer deixar de usar o serviço de fotos da empresa, é necessário deletar manualmente suas fotos. O problema aqui é o volume de dados que cada foto contém. O aplicativo é bastante cômodo, mas capta muita coisa que talvez você não queira: reconhece a face das pessoas que estão com você nas imagens, o local onde foram tiradas (se você deixou o GPS ligado) e uma série de metadados que as imagens contém.
Além disso, é importante revisar os aplicativos de terceiros que estão diretamente ligados na sua conta. Nesta página você acessa quais são e quais informações você está compartilhando. Quanto à navegação com o Google Chrome e o Android, a solução, se você não quiser dar nenhuma informação sua à empresa, é uma só: pare de usar.
Pronto, agora só falta ficar ligeiro
Depois do expurgo de contas e praticamente me tornado um ermitão digital, essas empresas deixaram de ter informações sobre mim e agora posso ficar tranquilo que não usarão minhas infos por aí. Certo? Bom, a resposta pra isso é um pouco mais complicada. Apesar das empresas negarem, elas podem manter suas informações caso você use o serviço delas. No Brasil, o próprio Marco Civil estabelece que as empresas prestadoras de serviços devem manter registros de acesso por um prazo de pelo menos seis meses.
Outro fator importante: muitos sites utilizam plugins tanto do Google quanto do Facebook. Usando extensões como o Ghostery ou o Privacy Badger é possível ter uma dimensão de quais são os cookies — um pequeno arquivo de dados que permite identificar a seção de sua máquina — que estão sendo utilizados no site e bloqueá-los.
Para se ter uma ideia do quanto o seu navegador está exposto a este tipo de programa, é possível fazer o teste do projeto Panopticlick, da Electronic Frontier Foundation. E para se ter certeza de ter o máximo de privacidade, o jeito é navegar usando Tor.
Não é nada fácil manter sua privacidade a salvo, mas, no fim, valerá a pena. Seus dados são muito importantes e, se forem usados de uma forma errada, vão te dar uma dor de cabeça maior bem maior do que 50 reais por ano. Cuide bem deles.
$5 million gift from Craig Newmark Philanthropies will support new program, led by computer security expert Alex Stamos
Massive volumes of data and content continue to exponentially expand across the internet, and the ability to examine the negative impacts of tech on society has not kept pace. The Internet Observatory, a new program at Stanford University, aims to tackle this problem by providing researchers with cutting-edge analytics and machine-learning resources.
A $5 million gift from Craig Newmark Philanthropies will support the recruitment of a team of nearly a dozen people who have the skills and industry experience that are relevant to the Observatory’s research goals.
Part of the Stanford Cyber Policy Center, the Observatory is a cross-disciplinary initiative comprised of research, teaching and policy engagement addressing the abuse of today’s information technologies, with a particular focus on social media. This includes the spread of disinformation, cybersecurity breaches, and terrorist propaganda.
“We are developing a novel curriculum on trust and safety that is a first in computer science education, and our research discoveries will lead to trainings and policy innovations to serve the public good,” said Alex Stamos, Program Director of the Internet Observatory, a research scholar at the university’s Freeman Spogli Institute for International Studies, a visiting scholar at the Hoover Institution and formerly the chief security officer at Facebook. “This gift from Craig Newmark will help make this curriculum a reality by allowing us to bring in diverse and innovative talent.”
“The strength of our democracy depends on ensuring that all people have access to accurate information,” said Craig Newmark, founder of craigslist and Craig Newmark Philanthropies. “The Internet Observatory has a vision for a trustworthy Web, and I’m proud to support their mission-critical work to grapple with disinformation and other ways that bad actors use tech against the common good.”
The Internet Observatory’s new course, “Trust & Safety Engineering,” will be taught for the first time during Stanford’s fall 2019 academic quarter in the Computer Science department. It will introduce the ways in which consumer internet services are abused to cause real human harm, as well as provide potential operational, product and engineering responses.
“There are many potential uses for machine learning to keep people safe online, but this is something that is often missing from the conversation,” said Stamos. “You hear that a company took down 500 accounts belonging to a certain group that spreads disinformation, but don’t hear what we can learn from their operations so that we can do better in the future. Our research platform and courses at Stanford intend to bridge that gap.”
Stamos’s popular “HackLab” course, which combines lectures with hands-on learning, will also be offered at Stanford this fall. Targeted at students who do not have a computer science background, HackLab gives an understanding of the most common types of attacks that are used in cybercrime and cyberwarfare, with the goal of bringing more diverse people and skills into the field.
Renée DiResta, a 2019 Mozilla Fellow in Media, Misinformation and Trust, will serve as the program’s first research manager. As a Mozilla Fellow, DiResta investigates the spread of malign narratives across social networks, and assists policymakers in understanding and responding to this threat. Stamos and DiResta recently introduced this new program at “Securing Our Cyber Future: Innovative Approaches to Digital Threats,” an event hosted at Stanford.
Among the Internet Observatory’s first policy goals is to deliver recommendations on how to jointly protect the 2020 U.S. presidential election to Congress and the major technology firms. The Observatory also plans to provide overviews of critical elections around the world, complete with descriptions of the capabilities that are available to potential bad actors and information on how the public, media and technology companies should prepare to meet these threats.
The Stanford Internet Observatory is a program of the Cyber Policy Center, which is based at the Freeman Spogli Institute for International Studies, the university’s premier research institute for the study of international affairs.
Media contact: Ari Chasnoff, Assistant Director for Communications, chasnoff@stanford.edu, 650-725-2371
Pesquisadores encontraram em 2018 rastro digital de mecanismo vendido por empresa israelense a Governos como arma de guerra
O WhatsApp descobriu uma ampla vulnerabilidade que permitiu a instalação —silenciosa e sem qualquer descuido do usuário— de um software de espionagem política em celulares. Segundo revelou o Financial Times nesta segunda-feira, ao infectar o aparelho por meio de uma chamada de voz, o vírus é capaz de acessar informações sensíveis e executar ações, como ativar remotamente a câmera e o microfone. O Facebook, dono do WhatsApp, acusou a NSO Group, uma empresa israelense que fabrica cyber warfare (softwares de guerra cibernética), de ser a responsável pelo vírus infiltrado, chamado Pegasus. O WhatsApp não informou quantas pessoas foram afetadas no Brasil, mas já há rastros do uso do Pegasus no país entre agosto de 2016 e agosto de 2018, em plena corrida eleitoral.
Em setembro de 2018, o Citizen Lab, um renomado laboratório da Universidade de Toronto, publicou o relatório Hide and Seek, um exaustivo estudo no qual foram identificados 45 países com suspeita de infecção pelo mesmo vírus da NSO Group. Um dos países do informe é justamente o Brasil. Não se sabe quem teria comprado a ferramenta de guerra cibernética para usar em território brasileiro. A empresa israelense não a vende para clientes privados —só para Governos nacionais. O Citizen Lab identifica pelo menos 33 possíveis clientes da empresa, entre eles, países já conhecidos pelo uso abusivo destas ferramentas de vigilância contra a sociedade civil, mas os pesquisadores optaram por não revelar quais são eles. Eles dizem que os Estados que consomem o produto podem o estar utilizando para finalidades lícitas, como combate ao terrorismo e crimes virtuais.
A tabela, originalmente publicada no relatório do Citizen Lab, agrupa as áreas afetadas por um mesmo cliente.
À diferença de outros escândalos envolvendo dados pessoais, como o da Cambridge Analytica, que explodiu após eleições norte-americanas de 2016 e obrigou o Facebook a repensar radicalmente sua política de privacidade, programas como o Pegasus não se dedicam à coleta massiva de dados, mas são empregados para monitorar alvos específicos. Trata-se de espionagem política perpetrada pelos Governos e suas Agências, podendo ser vigilância doméstica ou internacional.
CITIZEN LAB
Imagem, originalmente publicada no relatório do Citizen Lab, mostra o domínio utilizado para distribuir o vírus no Brasil entre 2016 e 2018
O que se sabe é que o mesmo comprador que usou o Pegasus no Brasil também deixou rastro digital em Bangladesh, Hong Kong, India e Paquistão. As infecções em território brasileiro foram associadas a Telemar Norte Leste S.A., que pertence a Oi e fornece serviço de telefonia e banda larga para dezenas de milhões de pessoas, especialmente no Nordeste. A Oi é a única provedora de telecomunicações brasileira que aparece no relatório. Questionada pela reportagem, a empresa informou que não há qualquer relação entre a segurança de seus serviços e suposto impacto do Pegasus para clientes da companhia. E ressaltou, ainda, que não controla nem tem responsabilidade legal sobre os conteúdos acessados e transações realizadas por seus clientes.
A tabela, originalmente publicada no relatório do Citizen Lab, aponta as empresas de telecomunicações onde foram observados vestígios do Pegasus. A Telemar Norte Leste S.A. pertence à Oi e é a única empresa brasileira listada.
Alvos políticos e controvérsia no México
O estudo dos canadenses apontou que a estratégia dos espiões para infectar seus alvos, inclusive no Brasil, era a inserção de links maliciosos em conteúdos políticos. Quando o alvo clica no link, tem seu aparelho infectado. O principal link associado ao vírus no Brasil é o ‘signpetition[.]co’, o que, para o pesquisadores, é mais um indício de que os objetivos da espionagem seriam ativistas políticos.
O caso agora revelado pelo Financial Times transforma a operação em potencialmente muito mais grave. Segundo o WhatsApp, a NSO Group ão precisa mais nem que o usuário descuidado clique no link esquisito. A empresa, segundo a reportagem, encontrou um atalho para operar por meio de uma falha de segurança no próprio Whatsapp —não importa o tipo, se para uso de negócios, Androide, Apple ou Windows.
A empresa israelense negou qualquer envolvimento com o episódio, mas essa não é a primeira vez que a NSO Group se envolve em polêmicas. A empresa já foi acusada de fornecer programas de espionagem para Estados com histórico de violações de direitos humanos, como a Arábia Saudita. O Governo do México também foi acusado de utilizar a tecnologia israelense para espionar jornalistas, advogados e defensores de direitos humanos.
A technology company has created an electronic badge that can monitor workers’ conversations, posture and even time spent in the toilet. This type of office surveillance raises concerns about workers’ rights and privacy https://twitter.com/TheEconomist/status/1112778211262332928/video/1
Despite year-old promises to fix its “Up Next” content recommendation system, YouTube is still suggesting conspiracy videos, hyperpartisan and misogynist videos, pirated videos, and content from hate groups following common news-related searches.
How many clicks through YouTube’s “Up Next” recommendations does it take to go from an anodyne PBS clip about the 116th United States Congress to an anti-immigrant video from a designated hate organization? Thanks to the site’s recommendation algorithm, just nine.
The video in question is “A Day in the Life of an Arizona Rancher.” It features a man named Richard Humphries recalling an incident in which a crying woman begged him not to report her to Border Patrol, though, unbeknownst to her, he had already done so. It’s been viewed over 47,000 times. Its top comment: “Illegals are our enemies , FLUSH them out or we are doomed.”
The Center for Immigration Studies, a think tank the Southern Poverty Law Center classified as an anti-immigrant hate group in 2016, posted the video to YouTube in 2011. But that designation didn’t stop YouTube’s Up Next from recommending it earlier this month after a search for “us house of representatives” conducted in a fresh search session with no viewing history, personal data, or browser cookies. YouTube’s top result for this query was a PBS NewsHour clip, but after clicking through eight of the platform’s top Up Next recommendations, it offered the Arizona rancher video alongside content from the Atlantic, the Wall Street Journal, and PragerU, a right-wing online “university.”
YouTube recommended a video posted by the Center for Immigration Studies after a video from the Wall Street Journal:
YouTube does not have an information panel linking to contextual information about the Center for Immigration Studies, although the Southern Poverty Law Center (SPLC) designated it a hate group in 2016, and YouTube has had a partnership with the SPLC since 2018.
(The Center for Immigration Studies has denied that it promotes hate against immigrant groups, and it recently filed a lawsuit against the SPLC in federal court alleging that the nonprofit has been scheming to destroy CIS for two years. According to YouTube, the CIS video doesn’t violate its community guidelines; YouTube didn’t respond to questions about whether it considers CIS a hate group.)
That YouTube can be a petri dish of divisive, conspiratorial, and sometimes hateful content is well-documented. Yet the recommendation systems that surface and promote videos to the platform's users, the majority of whom report clicking on recommended videos, are frustratingly opaque. YouTube's Up Next recommendations are algorithmically personalized, the result of calculations that weigh keywords, watch history, engagement, and a proprietary slurry of other undisclosed data points. YouTube declined to provide BuzzFeed News with information about what inputs the Up Next algorithm considers, but said it’s been working to improve the experience for users seeking news and information.
“Over the last year we’ve worked to better surface news sources across our site for people searching for news-related topics,” a company spokesperson wrote via email. “We’ve changed our search and discovery algorithms to surface and recommend authoritative content and introduced information panels to help give users more sources where they can fact check information for themselves.”
To better understand how Up Next discovery works, BuzzFeed News ran a series of searches on YouTube for news and politics terms popular during the first week of January 2019 (per Google Trends). We played the first result and then clicked the top video recommended by the platform’s Up Next algorithm. We made each query in a fresh search session with no personal account or watch history data informing the algorithm, except for geographical location and time of day, effectively demonstrating how YouTube’s recommendation operates in the absence of personalization.
In the face of ongoingscrutiny from the public and legislators, YouTube has repeatedly promised to do a better job of policing hateful and conspiratorial content. Yet BuzzFeed News’ queries show the company’s recommendation system continues to promote conspiracy videos, videos produced by hate groups, and pirated videos published by accounts that YouTube itself sometimes bans. These findings — the product of 147 total “down the rabbit hole” searches for 50 unique terms, resulting in a total of 2,221 videos played — reveal little in the way of overt ideological bias.
But they do suggest that the YouTube users who turn to the platform for news and information — more than half of all users, according to the Pew Research Center — aren’t well served by its haphazard recommendation algorithm, which seems to be driven by an id that demands engagement above all else.
One of the defining US political news stories of the first weeks of 2019 has been the partial government shutdown, now the longest in the country’s history. In searching YouTube for information about the shutdown between January 7 and January 11, BuzzFeed News found that the path of YouTube’s Up Next recommendations had a common pattern for the first few recommendations, but then tended to pivot from mainstream cable news outlets to popular, provocative content on a wide variety of topics.
After first recommending a few videos from mainstream cable news channels, the algorithm would often make a decisive but unpredictable swerve in a certain content direction. In some cases, that meant recommending a series of Penn & Teller magic tricks. In other cases, it meant a series of anti–social justice warrior or misogynist clips featuring conservative media figures like Ben Shapiro or the contrarian professor and author Jordan Peterson. In still other cases, it meant watching back-to-back videos of professional poker players, or late-night TV shows, or episodes of Lauren Lake’s Paternity Court. Here’s one example:
The first query for “government shutdown 2019 explained” returned a straightforward news clip titled “Partial US government shutdown expected to continue into 2019” from a channel with nearly 700,000 subscribers called Euronews.
Next, the recommendation algorithm suggested a live Trump press conference video from a news aggregation channel. From there, YouTube pushed videos about the Mexican border and Trump’s proposed border wall from outlets like USA Today and Al Jazeera English. Then, Up Next recommended a video from an immigration news aggregator featuring a compilation of news clips, titled “Border Patrol Arrests, Deportations, Border Wall And Mexico Sewage.”
From there, the algorithm took an abrupt turn, recommending a video about Miami International Airport, and then a series of episodes of a National Geographic TV show called Ultimate Airport Dubai — “Snakes” (382,007 views), “Firefighters” (179,471 views), “Customs Officers” (179,471 views), “Crystal Meth” (453,011 views), and “Faulty Planes” (241,290 views) — posted by a YouTube channel called Ceylon Aviator.
YouTube’s recommendation system can also lead viewers searching for news into a partisan morass of shock jocks and videos touting misinformation. Between January 7 and January 9, 2019, BuzzFeed News ran queries on the day’s most popular Google trending terms as well as major news stories, including Donald Trump’s primetime address on the border wall and the swearing in of the new members of the 116th Congress.
One query BuzzFeed News ran on the term “impeach the mother” — a reference to a remark by a newly sworn-in member of Congress regarding President Trump — highlighted Up Next’s ability to quickly jump to partisan content. The initial result for “impeach the mother” was a CNN clip of a White House press conference, after which YouTube Up Next recommended two more CNN videos in a row. From there, YouTube’s recommendations led to three more generic Trump press conference videos. At the sixth recommended video, the query veered unexpectedly into partisan territory with a clip from the conservative site Newsmax titled “Bill O’Reilly Explains Why Nancy Pelosi Will Fail as House Leader.” From there, the subsequent clips YouTube recommended escalated from Newsmax to increasingly partisan channels like YAFTV, pro-Trump media pundit Dinesh D’Souza’s channel, and finally channels like True Liberty and “TRUE AMERICAN CONSERVATIVES.”
Here’s an example of what YouTube recommended after a search for “impeach the mother”:
YouTube recommended watching a video posted by pro-Trump media pundit Dinesh D’Souza after playing a video from conservative think tank Young America’s Foundation, then recommends a video posted by True Liberty. True Liberty posts videos with titles like “Ben Shapiro makes SNOWFLAKES run for safespace with stunning FACTS” and “Can Justin Trudeau be any dumber than this?”
That YouTube’s recommendation algorithm occasionally pushed toward hyperpartisan videos during BuzzFeed News’ testing is concerning because people do use the platform to learn about current events. Compounding this issue is the high percentage of users who say they’ve accepted suggestions from the Up Next algorithm — 81%, according to Pew. One in five YouTube users between ages 18 and 29 say they watch recommended videos regularly, which makes the platform’s demonstrated tendency to jump from reliable news to outright conspiracy all the more worrisome.
For example, here’s the list of consecutively recommended videos on one January 7 query for “nancy pelosi speech” that goes from a BBC News clip to a series of QAnon conspiracy videos after 10 jumps:
The screenshot shows that an ad for DonaldTrump.com played before the QAnon video.
In an emailed statement, YouTube said “none of the videos mentioned by Buzzfeed violated [its] policies” but that it’s continuing to work to improve its recommendations on searches for news and science information. YouTube said it’s made changes intended to surface more reliable news content in search results and on its homepage. It also includes contextual information panels on some videos, including those posted by state-run media or about common conspiracies. Those panels did not appear on any of the videos BuzzFeed News shared with Google.
YouTube has admitted that its Up Next algorithm is imperfect and has promised to improve the quality of its recommendations, but these problems persist. In early 2018, after the US Senate began questioning Google executives about the platform’s possible role in Russian interference in the 2016 election, a spokesperson for YouTube told the Guardian, which was about to publish an investigation into YouTube’s recommendation system, “We know there is more to do here, and we’re looking forward to making more announcements in the months ahead.”
In March of that year, YouTube CEO Susan Wojcicki told Wired that the year and a half after Trump’s election had taught her “how important it is for us … to be able to deliver the right information to people at the right time. Now that’s always been Google’s mission, that’s what Google was founded on, and this year has shown it can be hard. But it’s so important to do that. And if we really focus, we can get it done.”
And, just last month, while testifying before Congress, Google CEO Sundar Pichai was asked about the promotion of conspiracy theories on YouTube. In response, Pichai said, “We are constantly undertaking efforts to deal with misinformation. We have clearly stated policies and we have made lots of progress in many of the areas where over the past year. … We are looking to do more.”
But by the beginning of 2019, even regulating pirated content still seems to flummox YouTube’s recommendation system. For example, on January 7, after searches for terms including “why is the government shut down,” “government shutdown explained,” and “government shutdown,” in fresh sessions not tied to any personal data, one of the videos YouTube most commonly recommended after a few clicks was titled “Joe BRILLIANT HUMILIATES Trump After He Facts Checking Trump’s False Border Wall Claims.”
That video, which had 96,763 views by 7:10 p.m. PT on January 7, consisted only of pirated footage from a January episode of MSNBC’s Morning Joe. It was posted to a channel called Ildelynn Basubas that had once exclusively posted videos of nail art, until it abruptly pivoted to posting ripped videos of cable TV shows with incendiary headlines. Ildelynn Basubas’s videos were among those most frequently recommended by YouTube following searches for government shutdown–related terms on January 7. However, less than two days later, YouTube had removed the channel entirely “for violating Google’s Terms of Service.”
Similarly, footage of popular CNN shows — with thousands of views — posted by the channel Shadowindustry were recommended repeatedly by YouTube during BuzzFeed News’ queries. For example, when we searched “116th congress swearing in” and followed YouTube’s recommendations 14 jumps, CNN’s video “CNN reporter presses Trump: You promised Mexico would pay for wall” appeared in the Up Next recommended video column a total of 10 times, while a ripped video of CNN’s Anderson Cooper 360° posted by Shadowindustry was recommended a total of 14 times. Despite YouTube’s initial algorithmic push for the channel, it had terminated Shadowindustry within just a couple days.
Given the plethora of conspiracies and hate group content on its platform, pirated cable news content is perhaps the least of YouTube’s problems. The platform does, at least, seem capable of finding and removing it — though not, it would seem, until after its own recommendation system has helped these videos accrue tens of thousands of views. Clearly, the people behind these channels have figured out how to game YouTube’s recommendation algorithm faster than YouTube can chase them down, leading the company to recommend their pirated videos before imminently deleting them.
Researchers have described YouTube as “the great radicalizer.” After the 2017 Las Vegas shooting, the site consistently recommended conspiracy theories to users searching mundane terms like “Las Vegas shooting.” Similarly, a 2017 report from the Guardian illustrated that YouTube reliably pushed users toward conspiratorial political videos. And according to a recent report, just weeks before the 2018 midterm elections, far-right reactionaries were able to “hijack” search terms in order to manipulate YouTube’s algorithms so that queries for popular terms dredge up links to reactionary content.
In some cases, queries run by BuzzFeed News support the claims of past reports. And yet other queries — run on the same day with the same search terms under the same conditions — offer different, more mundane results. Attempts to fully understand YouTube’s recommendation algorithms are complicated by the fact that each viewer’s experience is not only unique, but tailored to their specific online experience. No two users watch the same videos, nor do they watch them the same way, and there may be no way to reliably chart a “typical” viewer experience. YouTube’s rationale when deciding what content to show its viewers is frustratingly inscrutable.
But as demonstrated by BuzzFeed News’ more than 140 journeys through YouTube’s recommendation system, the outcome of that decision-making process can be difficult to reverse engineer. In the end, what’s clear is that YouTube’s recommendation algorithm isn’t a partisan monster — it’s an engagement monster. It’s why its recommendations veer unpredictably from cable news to pirated reality shows to QAnon conspiracy theories. Its only governing ideology is to wrangle content — no matter how tenuously linked to your watch history — that it thinks might keep you glued to your screen for another few seconds.
This story is a collaboration with the BuzzFeed News Tech Working Group.
