Bodyguard é um aplicativo móvel que esconde conteúdo tóxico em plataformas sociais

11

Se você é famoso em várias redes sociais, é provável que esteja exposto a incitação ao ódio em suas respostas ou comentários. Startup francesa Escolta lançou recentemente seu aplicativo e serviço em inglês para ocultar o conteúdo tóxico de seus olhos. Está disponível em francês há alguns anos e a empresa atraiu 50.000 usuários até agora.

“Desenvolvemos uma tecnologia que detecta discurso de ódio na Internet com uma precisão de 90 a 95% e apenas 2% de falsos positivos”, disse-me o fundador e CEO Charles Cohen.

A empresa começou com um aplicativo móvel que qualquer pessoa pode usar. Depois de baixar o aplicativo e conectá-lo às suas redes sociais favoritas, você escolhe o nível de moderação. Existem várias categorias, como insultos, vergonha do corpo, assédio moral, assédio sexual, racismo e homofobia. Você pode selecionar se é uma prioridade baixa ou prioridade para cada categoria.

Depois disso, você não precisa abrir o aplicativo novamente. O guarda-costas verifica as respostas e comentários de seus servidores e toma uma decisão se algo está OK ou não. Por exemplo, pode ocultar comentários, silenciar usuários, bloquear usuários, etc. Quando você abre o Instagram ou o Twitter novamente, é como se aqueles comentários odiosos nunca tivessem existido.

O aplicativo atualmente oferece suporte para Twitter, YouTube, Instagram e Twitch. Infelizmente, ele não pode processar conteúdo no Snapchat e TikTok devido às limitações da API.

Nos bastidores, a maioria dos serviços de moderação depende muito do aprendizado de máquina ou da moderação baseada em palavras-chave. O guarda-costas escolheu uma abordagem diferente. Ele limpa um comentário por meio de algoritmos e tenta analisar o conteúdo de um comentário contextualmente. Ele pode determinar se um comentário é ofensivo para você, para terceiros, para um grupo de pessoas, etc.

Mais recentemente, a startup lançou um produto B2B. Outras empresas podem usar uma API do Bodyguard para moderar comentários em tempo real em suas plataformas sociais ou em seus próprios aplicativos. A empresa cobra de seus clientes usando uma abordagem tradicional de software como serviço.

Fonte: TechCrunch