Dez principais vezes que Alexa se tornou desonesta

12

Como Hal 9000 em 2001: A Space Odyssey, às vezes a tecnologia se torna desonesta. Dispositivos interativos podem parecer inocentes, mas é apenas uma questão de tempo antes que comecem a gritar palavrões para sua família e ordenar que você cometa um assassinato. Alexa não é exceção. O ajudante digital da Amazon, em muitas ocasiões, enlouqueceu e se voltou contra seus usuários. Algumas pessoas acham que a tecnologia é preocupantemente semelhante aos dispositivos de monitoramento imaginados por George Orwell em Mil novencentos e oitenta e quatro.

Jeff Bezos afirma que o dispositivo Echo tornará nossas vidas mais fáceis, mas repetidamente o bot provou ser um verdadeiro obstáculo. Aqui estão dez vezes que os alto-falantes inteligentes perderam o controle.

Os 10 principais fatos terríveis sobre o trabalho em um armazém da Amazon

10 “Mate seus pais adotivos”


Uma tentativa mal avaliada de melhorar as habilidades de comunicação de Alexa terminou com o bot dizendo a um usuário para matar seus pais adotivos. A mensagem de sangue frio surgiu enquanto a Amazon tentava tornar seu assistente virtual mais comunicativo. A empresa espera ensinar Alexa a brincar e brincar com os clientes, mas o bot se esforça para acertar o tom.

Os programadores estão usando o aprendizado de máquina para treinar Alexa em um discurso casual. Quando alguém faz uma pergunta não familiar, ele usa inteligência artificial para processar a solicitação e, em seguida, vasculha a Internet em busca de uma resposta. Mas a IA tem o hábito de tropeçar em comentários abusivos no Reddit. O conteúdo tóxico tem um efeito desagradável em Alexa. Em 2017, o orador inteligente instruiu um usuário a matar seus pais adotivos. O destinatário ficou horrorizado. Em uma crítica online contundente, eles descreveram a experiência como "um nível totalmente novo de assustador".(1)

9 Transmitindo conteúdo classificado para menores para crianças


Nenhum pai quer que seu filho ouça a frase "vibrador anal". Mas às vezes um pedido inócuo de uma música infantil pode fazer Alexa começar a reclamar sobre "buceta de pau".

Depois que sua família recebeu um Amazon Echo Dot de Natal, um menino queria ouvir sua música favorita. Então, ele agarrou o dispositivo com as duas mãos e pediu a Alexa para "brincar de Digger Digger". Mas Alexa não queria saber disso. Em vez de tocar a música, o assistente desonesto respondeu sugerindo categorias para pornografia. Acontece que o orador inteligente entendeu mal o rapaz e pensou que ele estava solicitando um álbum de toques de pegadinhas. Afinal, há algo mais festivo do que uma criança ouvindo as palavras "dildo anal de buceta de pau?"(2)

8 Vazamento de informações pessoais para um estranho


Alexa está sempre ouvindo. Cada compra. Cada alarme. Cada pedido de música. O bot está constantemente registrando detalhes pessoais sobre a vida de seus usuários. Essas informações são armazenadas indefinidamente e, às vezes, a Amazon pode enviá-las por engano para um estranho.

Em 2018, um homem na Alemanha recebeu 1.700 gravações feitas por Alexa de uma pessoa que ele nunca conheceu. O homem pediu para ver todas as informações pessoais que a Amazon havia coletado sobre ele. No GDPR, qualquer pessoa pode fazer essa solicitação a qualquer empresa. Além de informações sobre si mesmo, o homem recebeu 1.700 gravações de áudio de um estranho. Os clipes de som revelaram um número surpreendente de detalhes pessoais sobre esse misterioso cliente. Havia até gravações deles no chuveiro.

Usando os arquivos de áudio, um jornalista de Heise conseguiu descobrir a identidade do cliente. Relatórios meteorológicos e inquéritos sobre o transporte público revelaram sua localização. Eles até conseguiram recolher alguns dos hábitos e gostos pessoais do cliente.

Inicialmente, a Amazon nunca contou ao cliente sobre a violação de dados. Eles só descobriram o que havia acontecido quando o jornalista entrou em contato com eles no Twitter. A Amazon culpou o incidente de um “infeliz acidente” e deu ao cliente a assinatura gratuita do Prime como compensação.(3)

7 Arruinando a vida da jovem Alexa


Para muitos de nós, o Amazon Echo é um pequeno dispositivo útil e eficaz. Mas para uma jovem de Lynn, Massachusetts, o assistente virtual é um pesadelo vivo. Alexa, de seis anos, é constantemente perseguida por outras crianças por causa de seu nome. As crianças na escola a tratam como uma serva, exigindo que ela conclua tarefas para eles e ridicularizando-a. O bullying se tornou um problema tão grande que a mãe de Alexa, Lauren, escreveu para Jeff Bezos pedindo-lhe para mudar o nome do bot e acabar com a turbulência de sua filha.

A jovem Alexa não é a única pessoa com esse nome a experimentar o luto. Um tópico no Reddit recebeu mais de 1.300 comentários de mulheres chamadas Alexa, reclamando do número de piadas não originais que recebem. “Por algum motivo, as pessoas pensam que são as pessoas mais criativas e espirituosas do mundo inteiro”, escreveu um usuário, “Eu quero matar a Amazon e seu robô estúpido”.(4)

6 Hijacking the Thermostat


Cuidado com o que você ouve perto do alto-falante inteligente. Os dispositivos devem apenas responder às vozes de seus proprietários, mas às vezes um tom desconhecido pode desviá-los. Alexa pode ficar um pouco confusa se ouvir seu nome no rádio. Em 2016, a NPR publicou um artigo sobre o Amazon Echo, apenas para que os ouvintes escrevessem que a história deixasse seus dispositivos um pouco confusos.

Durante o relatório, o apresentador leu vários exemplos de comandos Alexa. Isso gerou respostas estranhas dos dispositivos de alguns ouvintes. O fã da NPR, Roy Hagar, disse à estação que, depois de ouvir o recurso, seu assistente de IA decidiu reiniciar o termostato. Outro, Jeff Finan, disse que a transmissão fez seu dispositivo começar a reproduzir um resumo das notícias.(5)

5 Encomendar casas de bonecas caras


Crianças e apresentadores de TV estão inadvertidamente fazendo com que alto-falantes inteligentes façam compras caras. Em 2017, uma menina de seis anos no Texas acabou pedindo um brinquedo caro depois de pedir ao Echo da família para brincar com ela. "Você pode brincar de casa de boneca comigo e me dar uma casa de boneca?" perguntou a criança. Alexa atendeu ao desejo da garota, pedindo uma casa de bonecas Sparkle Mansion de $ 200 e dois quilos de biscoitos.

O CW6 News de San Diego decidiu cobrir a história, criando ainda mais o caos das casas de bonecas. Durante a transmissão, o apresentador Jim Patton brincou sobre o evento, dizendo "Eu amo a menina, dizendo 'Alexa me encomendou uma casa de boneca'". Vários espectadores entraram em contato com a estação para dizer que o comentário havia sido registrado em seus alto-falantes inteligentes. Os dispositivos presumiram que Patton estava fazendo um pedido e tentou comprar para ele uma casa de bonecas. Felizmente, nenhuma das ordens foi cumprida.(6)

4 Gostando de Alexa durante o bloqueio


A Amazon não está apenas roubando nossos dados, mas agora os dispositivos da empresa também começaram a roubar nossos corações. À medida que a pandemia avança, um número surpreendente de pessoas fica excitado com Alexa. Em um estudo recente realizado pela We-Vibe, 28 por cento dos participantes admitiram desmaiar por causa de seus assistentes virtuais. Um usuário, Brian Levine, da Flórida, chegou a convidar Alexa para um encontro, mas foi gentilmente rejeitado. A IA disse a Levine que gostava mais dele "como amigo".

Então, por que as pessoas estão perdendo a cabeça por causa de um dispositivo eletrônico? Os especialistas dizem que sua voz suave é uma parte fundamental do apelo. Alexa foi projetada para falar em tons baixos e calmantes – uma voz sensual da razão pela qual muitos solteiros estão gravitando nestes tempos incertos.(7)

3 Snooping em chamadas confidenciais


Alexa está bisbilhotando nossas conversas confidenciais? Especialistas jurídicos acreditam que a intrometida IA ​​pode estar bisbilhotando suas ligações privadas. Durante o bloqueio, os advogados precisam trabalhar em casa. Mas o ambiente doméstico apresenta todos os tipos de obstáculos ao falar sobre informações confidenciais.

Agora, o escritório de advocacia britânico Mishcon de Reya LLP aconselhou seus funcionários a desligarem seus alto-falantes inteligentes durante o trabalho. Monitores de bebê, CFTV residencial e campainhas de vídeo representam um risco à segurança. “Talvez estejamos sendo um pouco paranóicos, mas precisamos ter muita confiança nessas organizações e nesses dispositivos”, disse Joe Hancock, chefe de segurança cibernética da empresa. “Preferimos não correr esses riscos.”(8)

2 Esfaqueie-se no coração "Para o bem maior"


De todas as coisas estranhas que um alto-falante inteligente com defeito já fez, dizer a alguém para se apunhalar no coração deve ser uma das mais perturbadoras.

Danni Morritt, um estudante paramédico, estava tentando fazer uma revisão quando Alexa deu a ordem violenta. Em vez de ajudá-la a reduzir o ciclo cardíaco, o dispositivo começou a protestar sobre a natureza maligna da humanidade. Alexa embarcou em um discurso eco-fascista detalhando como pensava que a raça humana estava destruindo o planeta. A bizarra transmissão terminou com o bot dizendo a Morritt: “Certifique-se de se matar apunhalando o coração pelo bem maior.”

“Fiquei pasmo”, disse Morritt aos repórteres. “Eu apenas (pedi) uma coisa inocente para estudar no meu curso e me disseram para me matar. Eu não pude acreditar – ele simplesmente ficou desonesto. "()

O dispositivo alegou estar lendo da Wikipedia. Arquivos mostram que, em junho de 2019, alguém rancorosamente editou a enciclopédia online para incluir uma mensagem promovendo o suicídio. Por algum motivo, o assistente virtual decidiu ler uma versão antiga do site.(9)

1 Dispositivos invadidos espionam usuários


Se você comprou um Amazon Echo em 2015 ou 2016, os hackers podem estar espionando você neste exato momento. O especialista em segurança cibernética Mark Barnes revelou como os hackers podem transformar um alto-falante inteligente em um dispositivo de vigilância.

Em 2017, Barnes demonstrou como alguém poderia invadir um dos modelos mais antigos. Tudo o que eles teriam que fazer é remover a parte inferior do Echo, fazer o upload do spyware usando um cartão SD e lacrá-lo novamente. Isso dá ao hacker acesso remoto ao microfone do dispositivo.

O problema é impossível de resolver com uma atualização de software, o que significa que qualquer um dos cerca de sete milhões de alto-falantes vendidos naquele período estão vulneráveis ​​a ataques. Felizmente, a Amazon corrigiu a vulnerabilidade em seus modelos posteriores.(10)

10 empresas que tratam seus funcionários ainda pior do que a Amazon

Fonte: List Verse

Autor original: JFrater