Hysteria

Lembra quando aquela estranha sensação de que nossos gadgets estavam ouvindo conversas privadas parecia só uma ideia distópica e conspiratória que ninguém podia realmente provar? Pois bem: funcionários da Amazon, da Apple, do Google, da Microsoft e do Facebook estavam ouvindo, sim. 

Milhares de pessoas no mundo inteiro já usam assistentes de voz para pesquisar informações, descobrir novas músicas ou para pequenas ajudas com demandas do dia a dia, como pedir uma pizza. Porém, quanto mais pessoas se rendem ao conforto da tecnologia, mais dúvidas surgem sobre as implicações de convidar microfones poderosos de grandes empresas de tecnologia a entrar na rotina das nossas casas. 

Tudo começou em abril deste ano, quando uma investigação feita pela Bloomberg revelou que funcionários da Amazon estavam ouvindo trechos de conversas que seus usuários tinham com a assistente de voz Alexa. A empresa se justificou dizendo que a medida era necessária para deixar o serviço cada vez mais preciso. A princípio, uma porcentagem muito pequena das gravações era transcrita, anotada e, em seguida, inserida de volta no software como parte de um esforço para eliminar lacunas na compreensão da fala humana pela Alexa, e assim ajudá-la a responder melhor aos comandos. 

Corta para: uma chuva de escândalos semelhantes com outras gigantes começou a pipocar nas últimas semanas. Um vazamento de mais de 1.000 trechos de áudios gravados pelo Google Assistente expôs informações confidenciais de seus usuários, como nomes, senhas, informações médicas e endereços. O mais assustador é que nem sempre essas conversas eram intencionalmente dirigidas ao serviço, com a verbalização clara da frase “Ok Google” que ativa o software. Isso resultou em gravações de conversas de casais durante o sexo e até negociações envolvendo tráfico de drogas. 

A Apple também não passou incólume e foi alvo de uma denúncia anônima expondo a mesma prática. A empresa disse que menos de 1% das conversas era ouvida por humanos, com a finalidade de entender quando a Siri era acionada acidentalmente. A fonte disse que o Apple Watch e o HomePod são os gadgets que mais fazem gravações por engano. 

Este também foi o problema da Microsoft, que virava e mexia ouvia trechos de cinco ou dez segundos de ligações privadas no Skype. O acesso era dado através do serviço de tradução automatizado, a partir do Cortana, assistente de voz da Microsoft. E tudo bem que, a esta altura, ninguém está mais surpreso com outro escândalo do Facebook, mas eles estão entre as denúncias mais recentes: o time Zuckerberg também estava ouvindo atentamente algumas de nossas conversas no Messenger. O foco das escutas era melhorar a ferramenta de inteligência artificial que faz a conversão automática de voz para texto. 

O mais barato é melhorar os softwares e serviços com escutas humanas mal pagas. Mas definitivamente não é a única opção

Todas elas tinham a política de repassar parte desses áudios a empresas terceirizadas, que faziam esse trabalho de forma barata, anônima e distribuída em países de baixa renda. As denúncias apontaram o fato de que não havia muito controle sobre o tipo de informação sensível que passava pelas mãos dos “escutadores”, e que os dados gravados poderiam ser usados de forma indevida. 

Existem dois pontos fundamentais nessa discussão. O primeiro é que nenhuma das cinco gigantes deixou explicitamente claro que pessoas reais estariam ouvindo nossas conversas com (ou sem) os assistentes. É claro que todas elas se retrataram e mudaram seus termos de uso depois de punições de alguns governos e muita indignação de seus usuários, mas, para variar, a prática parece ser pedir desculpas em vez de pedir permissão. Verdade seja dita que os termos e condições continuam um pouco nebulosos em alguns casos. 

O segundo ponto tem a ver com a forma como a evolução tecnológica é encarada por elas. Muitos aplicativos que usam nossas vozes para fornecer serviços convenientes precisam ser treinados de alguma forma. Uma inteligência artificial focada em reconhecimento de voz consegue identificar, em média, 95% do que lhe é dito – em inglês. Para o restante é necessária uma pequena ajuda que indique ao software o que ele não consegue reconhecer. Na maioria das vezes, é muito mais barato melhorar seus softwares e serviços com escutas humanas mal pagas, terceirizadas e com contratos temporários. Porém, esta definitivamente não é a única forma. Uma cópia das gravações poderia ser feita imitando os mesmos sons, tom de voz e palavras, com vozes alteradas para proteger o gênero do usuário ou com informações sensíveis apagadas, por exemplo. 

Neste caso, a grande questão da privacidade vai muito além do fato de nossas conversas estarem sendo ouvidas por outras pessoas. O que realmente importa é que estamos nutrindo essas grandes corporações bilionárias com informações extremamente confidenciais sobre quem somos, como vivemos e com quem conversamos no mundo offline também. Vale lembrar que não somos donos dessas gravações nem as podemos pedir de volta. Quando os escândalos passarem, Amazon, Apple, Google, Microsoft e Facebook continuarão podendo fazer o que quiserem com a sua voz. 

Vale a pena a barganha de pedir uma pizza à Alexa ou checar o tempo com a Siri em troca de nossa privacidade? Difícil responder, mas se até eletrodomésticos inteligentes andam escondendo microfones em seus hardwares sem avisar seus usuários, talvez seja a hora de tomar mais cuidado com o que falamos por aí. 

Diana Assennato é criadora, ao lado das também jornalistas Emily Canto Nunes e Natasha Madov, do site de tecnologia, internet e cultura digital com olhar feminino Ada.vc. Ada Lovelace, que inspira o nome do site, é considerada a primeira programadora da história