Como a disseminação online de imagens de abuso infantil está mudando o debate sobre a criptografia

37

Aviso de conteúdo: Esta postagem discute uma investigação sobre a proliferação de imagens de abuso sexual infantil online.

Existem problemas de internet e problemas de plataforma. É uma distinção que escrevi sobre no início deste ano, ao tentar pensar em como as empresas de tecnologia devem responder ao assassinato de Christchurch. E é uma distinção em que pensei novamente neste fim de semana, quando li a New York Times'Investigação perturbadora sobre a rápida disseminação de imagens de abuso sexual infantil na Internet.

Aqui está a visão geral de alto nível dos repórteres Michael H. Keller e Gabriel J.X. Dance:

Imagens de abuso sexual infantil já foram produzidas e compartilhadas há muito tempo para satisfazer as obsessões distorcidas dos adultos. Mas nunca foi assim: as empresas de tecnologia registraram um recorde de 45 milhões de fotos e vídeos on-line do abuso no ano passado.

Mais de uma década atrás, quando o número relatado era inferior a um milhão, a proliferação de imagens explícitas já havia atingido um ponto de crise. Empresas de tecnologia, agências policiais e legisladores em Washington responderam, comprometendo-se com novas medidas destinadas a conter o flagelo. Legislação de referência aprovada em 2008.

No entanto, a explosão no conteúdo detectado continuou crescendo – exponencialmente.

Como você pode esperar, a investigação explora onde colocar a culpa pelo crescimento desse tipo de crime. E logo chega às plataformas de tecnologia – em particular o Facebook Messenger. Os repórteres escrevem:

Enquanto o material, comumente conhecido como pornografia infantil, é anterior à era digital, câmeras de smartphones, mídias sociais e armazenamento em nuvem permitiram que as imagens se multiplicassem a um ritmo alarmante. Imagens recirculadas e novas ocupam todos os cantos da Internet, incluindo uma variedade de plataformas tão diversas quanto o Facebook Messenger, o mecanismo de pesquisa Bing da Microsoft e o serviço de armazenamento Dropbox. (…)

Criptografia e anonimização podem criar esconderijos digitais para os autores. Facebook anunciado em março planeja criptografar o Messenger, que no ano passado foi responsável por quase 12 milhões dos 18,4 milhões de denúncias mundiais de material de abuso sexual infantil, segundo pessoas familiarizadas com as denúncias. Os relatórios às autoridades geralmente contêm mais de uma imagem e, no ano passado, registraram 45 milhões de fotos e vídeos, de acordo com o Centro Nacional de Crianças Desaparecidas e Exploradas.

Em um tópico no Twitter, o ex-chefe de segurança do Facebook, Alex Stamos, defendeu seus antigos colegas aqui: "Estou feliz que o NY Times está conversando com pessoas incríveis que trabalham com segurança infantil todos os dias " ele escreveu. “Um ponto sobre o qual eles parecem um pouco confusos: as empresas que mais denunciam (material de abuso sexual infantil) não são os piores atores, mas os melhores.” E, de fato, se você conversar com o NCMEC e outras organizações que trabalham nisso problema, eles dirão que consideram as plataformas tecnológicas como parceiros essenciais na luta contra predadores infantis.

Mas e se as plataformas tecnológicas não fossem bons parceiros? E se o motivo fosse criptografia?

É um debate difícil, e estamos prestes a entrar direto no meio. O motivo é o plano do Facebook de criptografar seus principais aplicativos de mensagens – Messenger e WhatsApp – por padrão. O efeito da mudança na capacidade da polícia de combater o crime é desconhecido, mas certamente controverso.

Acho que os medos são diretos e racionais. Hoje, graças aos esforços do Facebook em particular, a polícia detecta milhões de casos em que imagens terríveis estão sendo compartilhadas em todo o mundo. Em milhares de casos por ano, de acordo com um evento que eu participou recentemente em Stanford sobre criptografia, isso leva a prisões dos autores. Mas se você protegesse todas essas mensagens usando criptografia, o argumento continua: você estaria basicamente cego para um problema perturbador e crescente.

Para alguns críticos, as circunstâncias oferecem motivos para reduzir drasticamente a fala nos produtos do Facebook. Damon Beres argumenta em OneZero:

Pode ser simplesmente impossível moderar o conteúdo que é trocado entre todas essas pessoas. Mas talvez haja uma abordagem mais simples e direta. É um pressuposto que você pode enviar imagens, links e vídeos no Messenger, mas e se você … não puder? E se obtivermos o custo-benefício de poder enviar um vídeo errado em uma plataforma central tão grande? O Messenger poderia simplesmente ser baseado em texto, pois os serviços antigos de mensagens eram: mais fácil de moderar automaticamente e sem o risco de vídeos ou imagens prejudiciais serem distribuídos. Há um argumento ainda mais forte de que o mesmo cálculo pode ser aplicado aos vídeos ao vivo no Facebook, que anteriormente permitiam que as pessoas transmitissem tumultos e suicídios. É verdade que alguns usuários iriam para outro lugar, o conteúdo persistiria de alguma forma, mas não seria suportado pela rede social dominante. Há uma chance, pelo menos, de que sua criação e distribuição sejam prejudicadas de alguma forma, especialmente se outras empresas seguirem o exemplo.

Tenho certeza de que a idéia de proibir todo o compartilhamento de links e imagens no Messenger encontrará favor em, por exemplo, governos autoritários. Imagine a dissidência irritante que se espalha por links e imagens! E, no entanto, também parece notável que nem mesmo a Rússia ou a China tenham dado um passo tão extremo – eles aumentaram suas operações de vigilância distópica em um esforço para erradicar a dissidência na fonte.

Em um post mais medido (e somente para membros), Ben Thompson ainda tem uma visão obscura dos planos do Facebook para a criptografia padrão de seus aplicativos de mensagens:

As pessoas más sempre serão capazes de descobrir a maneira mais eficiente de serem más. A questão, porém, é quanto atrito queremos introduzir no processo? Queremos tornar o padrão que a maneira mais amigável de descobrir sua “comunidade”, principalmente se essa comunidade envolver abuso sexual de crianças, é criptografada por padrão? Ou é melhor que pelo menos um pouco de esforço – e, portanto, alguma chance de os autores estragar ou desistir – seja necessário?

Para fazer esse círculo completo, acho que esses 12 milhões de relatórios no Facebook são algo que vale a pena comemorar e preservar. Mas, se Zuckerberg seguir com sua “Visão focada na privacidade para redes sociais”, o contrário ocorrerá.

Para afirmar o óbvio: as trocas envolvidas na discussão entre criptografia e segurança são angustiantes. É fácil defender a criptografia no contexto da maioria das discussões privadas entre adultos, seja contra o governo ou de natureza mais pessoal. É muito mais difícil defender a criptografia quando está sendo usada para compartilhar imagens de abuso infantil ou planejar atos terroristas. E não temos métodos fáceis para equilibrar os riscos versus os benefícios. Quanta liberdade uma plataforma de mensagens criptografadas precisa oferecer suporte para compensar o terrorismo com o qual possa contribuir? Como você projeta esse teste?

Uma maneira de abordar o problema é pensar sobre ele em termos de problemas da Internet versus problemas de plataforma. Como escrevi no início deste ano:

Os problemas de plataforma incluem os problemas endêmicos das empresas que aumentam o público de bilhões de usuários, aplicam uma leve camada de moderação de conteúdo e permitem que o conteúdo mais popular se espalhe viralmente usando recomendações algorítmicas. Uploads do ataque que coletam milhares de visualizações antes que possam ser removidas é um problema de plataforma. Islamofobia desenfreada no Facebook é um problema de plataforma. Incentivos é um problema de plataforma. Subreddits que permitem assistir pessoas morrerem era um problema de plataforma, até que o Reddit os retirou no fim de semana.

Os problemas da Internet incluem os problemas decorrentes da existência de uma rede livre e aberta que conecta toda a humanidade. A existência de fóruns que permitem que os supremacistas brancos se encontrem, recrutem novos crentes e coordenem ataques terroristas é um problema da Internet. A proliferação de sites gratuitos de compartilhamento de arquivos que permitem aos usuários publicar cópias de vídeos horríveis é um problema da Internet. A pressa de alguns tablóides para publicar seus próprios clipes das filmagens, ou analisar o manifesto do suposto assassino, são um problema da Internet.

Visto dessa maneira, vejo a disseminação de imagens de abuso infantil on-line muito mais como um problema da Internet do que como um problema de plataforma. É verdade que as plataformas oferecem uma maneira fácil de disseminar esse conteúdo, mas também é verdade que os predadores têm muitas, muitas alternativas ao Messenger e as usam ativamente. Nunca esquecerei o arrepio de uma pessoa que trabalhava no Projeto Tor quando me disseram que uma porcentagem significativa dos usuários do site em um determinado momento parecia estar ativamente envolvida no compartilhamento de imagens de abuso infantil.

E isso sem falar nas outras grandes plataformas em que vivem imagens de abuso infantil. Esses arquivos existem e são transmitidos no iOS, Android, Mac e Windows, para citar quatro grandes. Devemos obrigar essas plataformas a verificar as telas dos usuários periodicamente e compará-las com listas de hash de imagens conhecidas de abuso infantil? É possível fazer isso sem envolver o debate sobre criptografia: as telas dos usuários não são criptografadas. Isso faz com que seja uma ideia melhor ou pior?

As imagens de abuso infantil são um problema da Internet, porque são basicamente sobre como o atrito envolvido em pessoas más se conhecerem e na execução de esquemas terríveis agora caiu para zero. Você poderia fechar todas as grandes empresas de tecnologia do mundo e, assumindo que o protocolo TCP / IP ainda existia, ainda assim descobriria que as imagens de abuso infantil estavam se espalhando pelo mundo.

Enquanto isso, felizmente, é um problema da Internet que as plataformas de tecnologia trabalharam ativamente para resolver. Tenho certeza de que eles poderiam trabalhar mais e fazer mais, mas é notável que, quando as pessoas odeiam plataformas para quase tudo, as pessoas mais próximas ao assunto – o FBI e o NCMEC, para citar dois – parecem genuinamente satisfeitas com as parcerias que ter. Talvez não seja possível aumentar esses esforços, ou mesmo preservá-los como estão, em um mundo onde as comunicações criptografadas são o padrão.

Mas também vale a pena tentar. Essas imagens continuarão a proliferar na Internet, independentemente de quais plataformas sejam atualmente dominantes. Concentrar-se estreitamente na questão de como eles são transmitidos deixa muitas pessoas – e empresas – fora do gancho. Uma solução que preserva a criptografia ao verificar automaticamente imagens ou links compartilhados em busca de conexões com imagens conhecidas de abuso infantil e relatá-las à polícia pode não ser possível. Mas antes de desistirmos da idéia de comunicação privada on-line, devemos procurar uma.

A relação

Hoje em notícias que podem afetar a percepção pública das plataformas tecnológicas.

Tendência: Youtube atualizou seu sistema de filtragem para comentários para tornar mais fácil para os criadores encontrar perguntas e classificar comentários por contagem de inscritos. As mudanças poderiam facilitar para os criadores encontrarem comentários não terríveis em suas postagens. (Julia Alexander / The Verge)

Tendência lateral: Um novo aplicativo afirma que pode identificar investidores de risco usando reconhecimento facial. A tecnologia é proibida em São Francisco e Oakland para uso por agências governamentais e órgãos de segurança pública, mas ainda é legal no setor privado. (Zoe Schiffer / The Verge)

Tendência para baixo: O idoso Twitter O executivo com responsabilidade editorial pelo Oriente Médio também é oficial de meio período na unidade de guerra psicológica do Exército Britânico. A Brigada usa o Twitter, Instagram e Facebook, bem como análise de dados e pesquisa de audiência para promover a "guerra de informações", levantando questões sobre se o papel do executivo no Twitter apresenta um conflito de interesses (Ian Cobain / Olho do Oriente Médio)

Tendência para baixo: Próxima porta, um site de notícias do bairro, tornou-se um foco de conteúdo anti-sem-teto. As pessoas costumam desabafar sobre problemas e acampamentos sem-teto no site, mas os indivíduos que sofrem de falta de moradia nem conseguem acessar o site, porque exige um endereço verificado. (Rick Paulas / OneZero)

Governando

A campanha de reeleição de Trump lançou uma campanha publicitária anti-impeachment em Facebook, gastando até US $ 1,4 milhão. Os anúncios incluíam informações enganosas sobre quatro congressistas de cor a quem Trump se refere como "esquadrão socialista". O Facebook disse que nenhum dos anúncios violava suas políticas, de acordo com Isaac Stanley-Becker e Tony Romm no The Washington Post:

No total, a campanha de Trump e seus patrocinadores gastaram entre US $ 346.700 e US $ 1.430.182 em mais de 2.000 anúncios para sua página no Facebook de segunda a meio-dia de sexta-feira, de acordo com dados analisados ​​por Laura Edelson, pesquisadora da Escola de Engenharia Tandon da Universidade de Nova York. Ela obteve os dados através do arquivo de anúncios públicos do Facebook, que relata todos os dados em intervalos, e não em números precisos. Esses anúncios foram vistos entre 13,3 e 25,3 milhões de vezes, segundo a análise da NYU.

Somente na terça e na quarta-feira, a campanha desembolsou cerca de US $ 500.000 em anúncios no Facebook, de acordo com números computados pela ACRONYM, uma equipe digital focada em causas liberais. Só na quarta-feira, gastou cerca de US $ 350.000, quantia que normalmente gasta em uma semana.

A ofensiva on-line ofereceu uma janela para a abordagem simples de Trump às próximas batalhas de impeachment, quando ele levou o confronto para seu terreno preferido: a Internet. Os funcionários da campanha já disseram que encheram seus cofres com contribuições: Eric Trump, o segundo filho do presidente e vice-presidente executivo da Organização Trump, disse na quinta-feira que a campanha levantou US $ 8,5 milhões nas 24 horas anteriores.

Antigo Facebook O executivo Alex Stamos corrigiu os primeiros relatórios sobre o Cloud Act – uma lei que dá aos tribunais estrangeiros acesso a dados de usuários de empresas de tecnologia americanas depois de Bloomberg disse que o acordo, que está prestes a ser assinado entre os EUA e o Reino Unido, forçaria as empresas de tecnologia americanas a compartilhar mensagens criptografadas com a polícia britânica para ajudar nas investigações criminais. De fato, o tratado não tem nada a ver com criptografia, explicou. (Alex Stamos / Twitter)

Os legisladores não podem concordar com uma lei federal de privacidade on-line, portanto, as empresas de tecnologia provavelmente terão que cumprir a Lei de Privacidade do Consumidor da Califórnia quando entrar em vigor em 1º de janeiro. A indústria de tecnologia esperava que uma lei federal fosse aprovada e os pouparia de ter que lidar com uma potencial colcha de retalhos de leis de privacidade em 50 estados. (Nandita Bose, Diane Bartz / Reuters)

Do Facebook Sheryl Sandberg poderia testemunhar no Congresso sobre a criptomoeda da empresa Libra. David Marcus testemunhou sobre Libra em julho, mas aparentemente não satisfez os legisladores, que têm se manifestado cada vez mais sobre suas preocupações. (Christopher Stern / A informação)

Uma diretora do Centro de Internet e Sociedade de Stanford documentou o que aconteceu quando o marido a denunciou Facebook postagem de um modelo de escultura nua por violar as diretrizes da empresa. Ela usou isso como uma oportunidade para examinar os limites da moderação de conteúdo em escala. (Daphne Keller / Boing Boing)

Trump referenciou um russo promovido 4Chan teoria da conspiração sobre a empresa de cibersegurança CrowdStrike durante sua ligação com o presidente ucraniano Volodymyr Zelensky. (Ryan Broderick / BuzzFeed)

Elizabeth Warren anunciou um plano para restabelecer o Escritório de Avaliação de Tecnologia, que foi criado para ajudar o Congresso a entender e legislar questões envolvendo ciência e tecnologia. O objetivo é tornar os legisladores mais informados sobre questões técnicas – e menos suscetíveis à influência de lobistas. (Makena Kelly / The Verge)

Investigadores antitruste da Câmara examinaram Do Google planeja usar um novo protocolo da Internet que criptografa o tráfego da Internet, dificultando a obtenção de dados das pessoas por hackers. Os legisladores estão preocupados que o novo padrão daria ao Google uma vantagem competitiva. (John D. McKinnon e Robert McMillan / Jornal de Wall Street)

Antigo Tumblr executivo Mark Coatney argumentou que, em vez de dividir grandes empresas de tecnologia, devemos criar alternativas sem fins lucrativos – um tipo de PBS, para mídias sociais. (Mark Coatney / O jornal New York Times)

O departamento de estado anunciou novas sanções contra cidadãos russos que administravam e financiavam a infame Agência de Pesquisa na Internet da Rússia, que procurou influenciar a eleição de 2016. (Graham Brookie / Twitter)

Como as forças armadas dos EUA invadiram computadores do ISIS para prejudicar suas operações de mídia. (Dina Temple-Raston / NPR)

Indústria

Facebook demorou para regular o conteúdo patrocinado em Instagram – e isso pode ameaçar a originalidade e o recurso do aplicativo. Somente no primeiro trimestre de 2019, os anunciantes dos EUA e do Canadá gastaram cerca de US $ 373 milhões em marketing de influenciadores – dos quais cerca de US $ 265 milhões estavam no Instagram. Isso representa um aumento de 62% em relação ao mesmo período do ano anterior, relatam Georgia Wells e Jeff Horwitz em Jornal de Wall Street:

Muito bem, o marketing parece mais autêntico do que campanhas de mídia brilhantes na TV ou em revistas. Feito mal, parece produzido em massa, manchando o apelo da plataforma e afastando os usuários.

A regulamentação rigorosa do mercado de endossos pagos no Instagram foi "uma das perguntas mais difíceis que tivemos que enfrentar", disse o co-fundador do Instagram, Kevin Systrom, em uma conferência em março, discutindo sua decisão de deixar a empresa no ano passado.

"Acho que tomamos a decisão de adotar a abordagem de esperar para ver", disse ele. "O que mais me incomoda é o Instagram parecer menos autêntico ao longo do tempo por causa disso."

Instagram lançou uma nova conta de marca chamada @creators, para incentivar aspirantes a influenciadores a continuar criando conteúdo. Como a peça observa, o Instagram ainda não oferece aos criadores nenhuma maneira direta de monetizar seu conteúdo, mesmo quando os analistas estimam que valeria US $ 200 bilhões como uma empresa autônoma. (Ashley Carman / The Verge)

Instagram também está testando um novo recurso que permite às marcas configurar notificações de lembrete quando uma nova mercadoria é lançada. É mais uma maneira de o aplicativo estar se transformando em um shopping para alguns usuários. (Ashley Carman / The Verge)

Uma influenciadora de fitness e uma modelo de biquíni foi condenada a cinco anos de prisão depois que ela criou 369 Instagram contas para vasculhar outros fisiculturistas. Uma coisa é criar, digamos, 350 contas de trolls dedicadas a atacar seus inimigos mortais. Mas 369? Que vergonha, senhora. (Deja Monet / Hollywood Desbloqueado)

Facebook confirmou a morte do funcionário Qin Chen por suicídio. Chen morreu em 19 de setembro, levando a um protesto fora da sede na semana passada por pessoas exigindo mais informações sobre a morte do engenheiro de software. Sua família contratou um escritório de advocacia para investigar as circunstâncias em torno de sua morte. (Salvador Rodriguez / CNBC)

Empresas de tecnologia de anúncios gastam cerca de US $ 235 milhões por ano em sites conhecidos por publicar informações erradas, revela um novo estudo. Pesquisadores descobriram que Google serviu cerca de 70% dos sites da amostra. (Cristina Tardáguila, Daniel Funke e Susan Benkelman / Poynter)

LinkedIn O CEO Jeff Weiner anunciou uma nova iniciativa para ajudar a fechar a “lacuna de rede” – a vantagem que algumas pessoas têm sobre outras com base em quem elas conhecem. Anteriormente, os usuários eram incentivados a limitar suas conexões principalmente às pessoas que conheceram. Mas agora o engajamento está se esgotando e, portanto, o LinkedIn está usando um truque de crescimento na linguagem do progresso social. (Sara Fischer / Axios)

TikTok's empresa-mãe, ByteDance, teve um primeiro semestre melhor do que o esperado, registrando receita de US $ 7 bilhões a US $ 8,4 bilhões. (Yingzhi Yang, Julie Zhu / Reuters)

O homem de 26 anos, acusado de matar 10 pessoas com uma van em Toronto no ano passado, disse à polícia que se identifica como um incel e foi radicalizado em Reddit e 4Chan. (Matt Novak / Gizmodo)

E finalmente…

Musk violou a lei com tweet anti-sindical, regras do juiz

Na longa história do Nunca Tweet movimento, poucos grandes CEOs defenderam a ideia como Elon Musk. Depois de ter problemas com a Comissão de Valores Mobiliários por dizer que planejava privar a Tesla, Musk foi forçado a sair como presidente da Tesla, pagou uma multa enorme e concordou em verificar seus tweets com um advogado antes de publicá-los.

Bem, de qualquer maneira, ele twittou novamente:

A Tesla e seu CEO, Elon Musk, violaram as leis trabalhistas federais ao tentar impedir a organização sindical em sua fábrica de Fremont, um juiz federal de leis administrativas na Califórnia. governou na sexta.

Entre outras coisas, os seguranças da Tesla ordenaram repetidamente aos organizadores do sindicato que parassem de folhear os estacionamentos da Tesla e demitiram um organizador do sindicato por supostamente mentir durante uma investigação da empresa. Elon Musk também foi criticado por um tweet que sugeria que os funcionários não receberiam mais opções de ações se votassem para formar um sindicato.

Nunca twite.

Fale Conosco

Envie-nos dicas, comentários, perguntas e nada mais por hoje, obrigado: casey@theverge.com e zoe@theverge.com.

Fonte: The Verge