O novo Oversight Board do Facebook é um experimento totalmente novo em governança de plataforma

7

Dois anos e meio depois de Mark Zuckerberg apresentou a ideia em um podcast, e vários meses depois que os organizadores disseram que estaria pronto para ouvir casos, o Conselho de Supervisão independente do Facebook agora está instalado e funcionando. Em uma ligação com repórteres hoje, os co-presidentes do conselho disseram que agora estão preparados para ouvir os apelos de bilhões de pessoas que usam o Facebook e o Instagram todos os dias. A capacidade de apelar para o conselho será implementada gradualmente em todo o mundo nas próximas semanas. E quando estiver concluído, um dos experimentos mais ousados ​​em governança de plataforma terá finalmente começado.

Vamos começar dando um passo para trás. Uma das coisas mais impressionantes sobre nossas redes sociais, já argumentei, é como eles são terríveis no atendimento ao cliente. Se sua postagem for removida por engano, ou sua conta for suspensa por motivos obscuros, ou se você for banido e perder o acesso a todos os seus dados, historicamente você quase não teve recurso algum. Você preenche um formulário, envia e ora. Talvez sua oração seja atendida; mais provavelmente não será. Os jornalistas de tecnologia podem ser mais sensíveis a esse problema do que quase qualquer outra pessoa: a cada dia, nossas caixas de entrada se enchem de solicitações angustiadas de usuários do YouTube, Twitter e Instagram que encontram seus posts bloqueados ou suas contas banidas. Quase nunca podemos ajudá-los.

No início das redes sociais, isso não parecia ser uma preocupação especial para as próprias empresas de tecnologia. O bom atendimento ao cliente corrói as margens de lucro, e os executivos estavam convencidos de que a maior parte dele poderia ser automatizada de forma eficaz. Mas, à medida que as plataformas se tornaram monólitos, até o ponto a menor mudança na interface do usuário atrai inquietantes inquéritos do Congresso, a questão do poder da tecnologia passou a ser mais urgente.

As questões de poder passaram a ser particularmente agudas nas questões de linguagem. Isso é especialmente verdadeiro no Facebook, onde o CEO fundador tem controle majoritário das ações com direito a voto e não tem qualquer controle real sobre seu poder. Quando surge uma questão de discurso espinhosa e de alto perfil – como aconteceu várias vezes neste verão – cai aos pés de Zuckerberg, para ele fazer a chamada final. Dado o vasto tamanho do Facebook, essa configuração garantiu que, a qualquer momento, milhões de pessoas fiquem com raiva dele e do Facebook por decidir contra eles. Também garantiu que, além de reclamar, eles não podem fazer nada a respeito.

O que o Conselho de Supervisão promete agora é – bem, e se eles pudessem?

Quando estiver totalmente operacional, você terá a capacidade de apelar de uma decisão de moderação de conteúdo do Facebook a um órgão independente, com a empresa obrigada por honra (se não for legalmente exigida) para aceitar suas decisões. Para começar, você só poderá apelar quando acreditar que sua postagem foi removida por engano; eventualmente, você poderá apelar quando acreditar que uma postagem foi indevidamente autorizada a permanecer. E a partir de agora – antes da eleição presidencial de 3 de novembro nos Estados Unidos – o Facebook também poderá encaminhar questões políticas ao conselho e receber pareceres sobre o que fazer.

Tudo isso foi um empreendimento significativo. Facebook colocou $ 130 milhões em um fundo irrevogável para financiar as operações do conselho, e por seu membros iniciais recrutou um ex-primeiro-ministro, ganhador do Prêmio Nobel da Paz, acadêmicos de direito constitucional e defensores dos direitos humanos.

Também houve o trabalho técnico. O Facebook construiu um software que permitirá transferir casos para o conselho de forma a proteger a privacidade dos usuários, e uma ferramenta de gerenciamento de casos que permite aos membros do conselho escolher casos para revisar, examinar opiniões externas sobre os casos e outros materiais complementares e deliberar com seus pares. (O conselho terá 40 membros, mas casos individuais serão ouvidos por um pequeno painel).

Demorou mais tempo do que o Facebook esperava. E a pandemia não ajudou – o Facebook teve que descartar os planos de reunir os membros do conselho para um treinamento presencial no novo sistema. Mas Brent Harris, chefe de governança do Facebook, me disse em uma entrevista ontem que a empresa se moveu o mais rápido possível.

“Desde 1º de janeiro, estamos no modo de desenvolvimento institucional”, disse ele. “Não tenho certeza de quantas instituições em 10 meses realmente chegaram a um ponto onde estavam prontas para assumir uma responsabilidade como esta – para receber apelos de 2 bilhões de pessoas em todo o mundo. Então, nós realmente achamos que avançamos muito rápido neste. ”

Ao mesmo tempo, o Facebook e o conselho foram criticados por não conseguirem trabalhar antes do início da votação nas eleições nos Estados Unidos. Em setembro, um grupo de críticos vocais do Facebook anunciaram que estavam formando uma organização rival, intitulado de forma confusa Real Oversight Board, para começar a emitir opiniões imediatas sobre o que o Facebook deve fazer. (O ponto principal era que o Facebook deveria derrubar um monte de coisas.)

Em qualquer caso: o conselho está aqui, e estou feliz. Mas tudo pode parecer um pouco anticlimático, principalmente porque muitas das minhas grandes perguntas sobre o conselho continuam sem resposta.

Em uma ligação com os co-presidentes do conselho esta manhã, perguntei quantos casos ele espera ouvir. Ele selecionará alguns a cada ano, como a Suprema Corte dos Estados Unidos, ou será criado para processar mais? (Tem mais de quatro vezes mais “juízes” que a Suprema Corte, mas está servindo mais de 10 vezes mais “cidadãos”.)

“É uma boa pergunta – e uma que acho que iremos desenvolver ao longo do tempo, à medida que vermos qual pode ser o volume de casos que são apelados, e conforme desenvolvemos e refinamos nossos procedimentos de seleção de casos”, disse Jamal Greene, do conselho co-presidente.

Os membros do conselho deixaram claro que, embora o conselho pode mova-se rapidamente caso deseje, na maioria das vezes não. O Facebook continuará a moderar a grande maioria de todo o conteúdo em sua plataforma e a ouvir a primeira rodada de apelos de usuários. O Conselho de Supervisão ouvirá apenas uma pequena fração dos casos além disso. Mas se a empresa ou o conselho tem ideia de quantos recursos eles receberão, eles não estão dizendo. (Eu perguntei às pessoas em ambos.)

“O Facebook sempre foi criticado por agir rapidamente e quebrar coisas”, disse Helle Thorning-Schmidt, ex-primeira-ministra da Dinamarca e co-presidente do conselho. “Acho que estamos olhando para o oposto – queremos olhar para a qualidade e ver como estamos aqui a longo prazo, em vez de agir rapidamente e estar sob muita pressão de tempo.”

A ideia é que o conselho escolha casos representativos – aqueles que abrirão precedentes e farão o Facebook atualizar suas políticas. Se a placa existisse quando as fotos de amamentação eram uma grande polêmica, você pode imaginá-lo pegando um caso em que a foto de um usuário foi removida e argumentando que o Facebook deveria ser mais permissivo, fazendo com que relaxasse suas políticas em todo o mundo.

Incorporado ao Conselho de Supervisão está a ideia de que uma entidade tão grande como o Facebook deve ter algo semelhante a um sistema de justiça. Estou insistindo em quantos casos ele pode ouvir porque quero saber quanto justiça que podemos esperar dele.

Estou confiante de que o Facebook o usará como uma espécie de válvula de escape para algumas das decisões políticas mais complicadas que ele enfrenta. E tenho certeza de que o conselho fornecerá uma orientação cuidadosa sobre uma ampla gama de questões e casos individuais em que o Facebook errou. Estou menos confiante de que o conselho pode fazer o Facebook parecer mais justo para a pessoa média – aquela que faz logon para descobrir que a página de sua empresa foi removida, ou conta foi suspensa, ou post foi colocado atrás de uma tela de aviso. Os problemas de atendimento ao cliente estão em algum nível sobre justiça, mas não é esse tipo de justiça que o conselho foi criado para oferecer.

Ainda assim: estou otimista. Apesar de todas as suas falhas, o tabuleiro ainda representa um movimento sem precedentes para devolver parte do poder de um gigante da tecnologia às pessoas que, em algum nível, ele representa. Sim, servirá para dar cobertura de relações públicas ao Facebook durante as controvérsias. Mas também consagra o princípio de que os cidadãos de uma plataforma têm o direito de reparar suas queixas. Por mais justiça que o conselho lhes ofereça no futuro, provavelmente será mais do que recebem hoje.

Esta coluna foi co-publicada com Platformer, um boletim diário sobre big tech e democracia.

Fonte: The Verge