Distopia real: Amazon desliga casa de cliente por denúncia de racismo infundada

Via Gazeta do Povo.

A Amazon cortou os serviços de IoT [ou internet das coisas, que conecta funções dentro de um lar, como acender e apagar as luzes, abrir as portas, ligar o som, a televisão, entre outras] de um cliente com base em acusações de racismo feitas por um entregador da Big Tech. O caso ocorreu com Brandon Jackson, de Baltimore, nos EUA, no dia 25 de maio, quando descobriu que as funcionalidades oferecidas pela empresa haviam sido interrompidas. “Esse incidente me deixou com uma casa cheia de dispositivos que não respondem, uma Alexa silenciosa e muitas perguntas”, disse Jackson em um texto comentando o caso.

Ao entrar em contato com a Amazon, Jackson foi informado, em tom acusatório por um executivo da empresa, de que sua “campainha”, que emite respostas faladas automatizadas, havia feito um comentário racista durante entrega realizada no dia 24 de maio. A denúncia foi recebida com surpresa: Jackson, que trabalha como engenheiro para a Microsoft, é negro, assim como sua família. Segundo ele, “parecia altamente improvável que fizéssemos tais comentários”.

A situação ficou ainda mais estranha quando Jackson perguntou o horário em que o suposto incidente tinha ocorrido — 18h05. Segundo ele, era praticamente impossível que alguém de sua família tivesse feito o comentário, pois não havia ninguém em casa naquele momento. Foi então que recorreu às imagens gravadas pelas múltiplas câmeras de sua propriedade para comprovar o que realmente havia acontecido.

A análise das filmagens não deixou dúvidas e ele confirmou que nenhum comentário havia sido feito. A campainha apenas havia emitido uma resposta automática, dizendo: “com licença, posso ajudá-lo?” para o entregador. Os vídeos também mostraram que, no momento da resposta, o motorista se afastava da porta usando fones de ouvido – o que, segundo Jackson, deve ter levado à má interpretação da mensagem.

Mesmo depois de enviar as evidências do equívoco cometido para a Amazon, Jackson continuou com os serviços bloqueados. “Deixe-me ser claro: apoio totalmente a adoção de medidas pela Amazon para garantir a segurança de seus motoristas. No entanto, questiono por que todo o meu sistema de inteligência doméstico foi inutilizado durante a investigação interna. (…) O envio de evidências em vídeo de vários ângulos logo após minha ligação inicial com o executivo pareceu ter pouco impacto em sua decisão de desativar minha conta”, relatou. Os serviços de Jackson foram restabelecidos no dia 31 de maio, uma semana após o corte.

Segundo Jackson, primeiramente, ele acreditava que “alguém podia ter tentado acessar sua conta repetidamente, causando um bloqueio. Eu uso um endereço de e-mail bastante antigo para minha conta da Amazon e é plausível que uma senha antiga tenha sido exposta em uma violação de dados”, comentou. Mas, mesmo tendo diversos dispositivos de segurança em operação, como o uso de senhas fortes e de dupla verificação, nenhuma dessas medidas é suficiente para barrar o próprio provedor de cortar o fornecimento de seus serviços.

Em resposta à Gazeta do Povo, a porta-voz da Amazon, Simone Griffin, disse que “trabalhamos muito para oferecer aos clientes uma ótima experiência e, ao mesmo tempo, garantir que os motoristas que entregam pacotes da Amazon se sintam seguros. Nesse caso, descobrimos por meio de nossa investigação que o cliente não agiu de forma inadequada e estamos trabalhando diretamente com o cliente para resolver suas preocupações e, ao mesmo tempo, procurar maneiras de evitar que uma situação semelhante aconteça novamente.”

Ao ser questionada sobre que ações são consideradas inadequadas a ponto de causar a suspensão ou restrição de serviços, quais são as regras e políticas da empresa para avaliação de tais situações, bem como onde essas diretrizes estão listadas e disponibilizadas para o público, a Amazon apenas reiterou a resposta já citada.

Jackson disse que o incidente o levou a questionar sua relação com a empresa, após quase “uma década de lealdade”. “Estou pensando seriamente em interromper o uso dos dispositivos Amazon Echo e alertarei outras pessoas sobre esse incidente. Essa dura experiência abriu caminho para buscar um sistema de assistência doméstica mais personalizado”, talvez utilizando outros dispositivos, completou.

Em vídeo postado sobre o caso, o Youtuber norte-americano Louis Rossmann, que tem uma empresa de conserto de aparelhos eletrônicos e que conta com 1,8 milhões de inscritos em seu canal, expressou sua indignação diante do fato. “Esse é o problema quando você dá muito controle para uma companhia e, particularmente, quando o controle que você dá é para dispositivos dentro da sua casa conectados aos servidores deles. Você pode, literalmente, se encontrar em uma situação na qual alguém que fez uma acusação infundada (…) comprovadamente falsa, faça com que a infraestrutura da sua casa pare de funcionar”.

Em uma atualização do texto no qual relata sua história, Jackson disse que não ficou uma semana no escuro, exatamente por também ter seus dispositivos vinculados a servidores locais, ao invés de depender somente da Amazon. Ele ainda disse esperar que sua experiência leve a empresa a reformar e repensar sua abordagem para lidar com tais situações no futuro. “É essencial que os clientes se sintam confiantes na segurança e confiabilidade de seus serviços, especialmente quando esses serviços são parte integrante das funcionalidades de suas casas. É hora da Amazon adotar uma abordagem mais focada no cliente para a resolução de problemas e de conflitos”, concluiu.