MANCHETES

audima

domingo, 2 de junho de 2019

“Estamos entregando nossa privacidade de uma forma excessivamente frívola e alegre”

Ramón López de Mántaras, diretor do Instituto de Pesquisa de Inteligência Artificial, na segunda-feira em Madri. KIKE PARA.

O especialista em inteligência artificial Ramón López de Mántaras apoia a proibição do uso de sistemas de reconhecimento facial, como ocorreu em São Francisco



Imagine viver em uma casa com paredes de vidro que permitam que qualquer um do lado de fora veja tudo que você faz. Seus movimentos, seus hábitos e seus comportamentos. Esse é o cenário apresentado pelo diretor do Instituto de Pesquisa de Inteligência Artificial do Centro Superior de Pesquisas Científicas da Espanha, Ramón López de Mántaras (Sant Vicenç de Castellet, 1952), com a chegada do 5G e a incorporação de um grande número de dispositivos inteligentes nas residências. “Ter um monte de objetos e aparelhos em sua casa conectados à Internet é uma péssima ideia. Eles podem saber o que você consome, o que compra, quando lava a roupa, o que cozinha, o que come e até coisas tão íntimas como as que ocorrem dentro do seu banheiro”, afirma.

O cientista cita como exemplo os banheiros eletrônicos no Japão, que são capazes de analisar a urina e, dessa forma, monitorar a saúde de uma pessoa. Já existem dispositivos conectados de todo tipo para residência e escritório: de mesas que controlam quanto tempo trabalhamos até camas que detectam quantas horas um usuário dorme. Além disso, a venda de alto-falantes inteligentes não para de crescer. Apenas no último trimestre de 2018, 38,5 milhões desses dispositivos foram vendidos no mundo, o que significa um aumento de 95% em relação ao mesmo trimestre do ano anterior, segundo a consultoria Strategy Analytics.

“Não tenho e não quero ter um”, diz López de Mántaras. Esse tipo de aparelho está “sempre conectado e escutando”, explica o cientista em uma entrevista concedida na última segunda-feira ao EL PAÍS, antes de participar da apresentação de ¿Hacia una Nueva Ilustración? Una Década Trascendente (“rumo a um novo Iluminismo? Uma década transcendente”), o 11º livro da coleção do OpenMind, o portal de inovação e conhecimento científico do BBVA. Empresas como Amazon, Google e Apple garantem que os assistentes só são ativados ao ouvir um comando. Mas já ocorreram vários casos em que esses dispositivos gravaram conversas privadas ao se ativar por engano: “Sempre tentam vender a ideia de que vão facilitar sua vida com base na sua renúncia à privacidade”, acrescenta.

Além disso, tanto Amazon como Google têm funcionários que revisam diariamente conversas aleatórias que os usuários mantêm com os assistentes para melhorar o sistema. Apple, Microsoft e Samsung se negaram a informar ao EL PAÍS se têm equipes que façam esse tipo de trabalho. López de Mántaras considera que “todas [essas empresas] têm pessoas escutando” e diz que a falta de transparência a respeito disso é uma questão de marketing: “Querem fazer você acreditar que a inteligência artificial funciona muito melhor do que realmente funciona. Se você pedir a um assistente que ‘anote o seguinte na lista de compras’, ela vai dizer: ‘O seguinte foi anotado na lista de compras’, porque acha que o seguinte como o pão ou o leite. Ele não entende a semântica”.

O conjunto de dispositivos conectados poderia servir para “treinar um sistema de inteligência artificial para ter um perfil muito preciso do comportamento das pessoas da casa”, afirma o cientista. “A partir do momento em que você sabe tudo de uma pessoa, pode lhe oferecer publicidade de todos os tipos. Pode oferecer, por exemplo, remédio para a insônia ao detectar que uma pessoa não dorme bem”, explica López de Mántaras.

O especialista assinala que muitas vezes os usuários não têm pensamento crítico na hora de dar seu consentimento para que diferentes empresas coletem todos os tipos de dados: “Estamos entregando nossa privacidade de uma forma excessivamente frívola e alegre. É isso que me preocupa”. Para ele, a solução para evitar isso inclui “educar e informar as pessoas sobre todos esses problemas”.

Reconhecimento facial
Mas às vezes o problema é mais grave, como quando não é nem solicitado o consentimento do usuário. É o que ocorre em alguns lugares com “as câmeras que estão nas ruas e têm, por trás delas, sistemas de reconhecimento facial”. Um homem levou à Justiça a polícia de Gales, no Reino Unido, por registrar uma imagem de seu rosto com um sistema de reconhecimento facial automático enquanto fazia compras natalinas, segundo a BBC.

O especialista em inteligência artificial ressalta que “o consentimento é imprescindível”. Embora reconheça que “não é a solução ideal”, já que muitas vezes os cidadãos não têm opção a não ser aceitar o reconhecimento facial se quiserem participar de um grande evento no qual são usados sistemas desse tipo. Por exemplo, um jogo de futebol ou um show: “Se você compra o ingresso, está implicitamente dando seu consentimento. O problema é que se você não der o consentimento, não terá o ingresso e não poderá ir. É quase uma chantagem”.

Ele assinala também que os sistemas de reconhecimento facial têm limitações. Entre elas, “80% ou 90% de falsos positivos”. E às vezes “detectam que seu rosto corresponde, com uma similaridade bastante alta, a alguém que está em uma lista de possíveis suspeitos”. De fato, em 2018 o reconhecimento facial da Amazon confundiu 28 congressistas com suspeitos procurados pela polícia. Da mesa forma, já se demonstrou que é possível passar despercebido por esses sistemas: “Também há falsos negativos. Se um terrorista colocar um adesivo no rosto ou usar óculos como os de Elton John, muito grandes e multicoloridos, é possível que não seja identificado”.

Essas limitações e a perda de privacidade que tais sistemas acarretam provocaram polêmicas nos últimos meses. São Francisco se tornou há duas semanas a primeira cidade dos Estados Unidos a proibir sistemas desse tipo. “Considero perfeito. Vendo como funcionam mal, acho que é isso que deve ser feito. É preciso ter cautela e esperar. Talvez daqui a algum tempo o sistema funcione muito bem e os erros sejam suficientemente baixos a ponto de ser aceitáveis”, afirma López de Mántaras. Apesar disso, ele não se mostra tão contundente ao dizer se estenderia essa proibição para outros lugares: “Seria preciso estudar o assunto com muito cuidado, é um problema difícil. A regulamentação é complicada e seria necessário o trabalho de especialistas em leis e assuntos jurídicos”.

Robôs e trabalho
Também tem sido muito debatido nos últimos anos o impacto que a incorporação das máquinas inteligentes terá em diferentes empregos. López de Mántaras lembra que “há anos a informática em geral tem um impacto na forma como fazemos nosso trabalho e no fato de que muitas coisas estão sendo automatizadas”. Um exemplo são os caixas eletrônicos.

O especialista em inteligência artificial propõe que as máquinas não substituam as pessoas, e sim que trabalhem de forma conjunta. “Ao redor de um posto de trabalho pode haver 20 tarefas distintas. Algumas são automatizáveis, e para outras continuará sendo importante que exista uma pessoa”, afirma. Ele cita como exemplo os sistemas de assistência a idosos: “Não se trata de colocar robôs e tirar os funcionários de uma residência para idosos, mas de que trabalhem conjuntamente”. Ele imagina, por exemplo, um robô ou um sistema computadorizado “que avise o cuidador para que não se esqueça de dar o remédio ou ajude na transferência de uma pessoa para um hospital”.

É precisamente no setor da saúde que têm ocorrido vários avanços graças à inteligência artificial. Embora esses sistemas ainda tenham limitações. López de Mántaras admite inclusive “ter certa relutância em chamar isso de inteligência”. “A inteligência artificial atual funciona bem quando é aplicada em um âmbito muito específico. Por exemplo, jogar xadrez ou fazer um diagnóstico médico”, explica. Mas ressalta que ela só sabe fazer uma tarefa e não entende o que faz. Por exemplo, “um programa capaz de traduzir idiomas não entende a semântica da linguagem”. Mudar isso é um desafio: “O grande desafio da inteligência artificial é fazer inteligências artificiais cada vez mais gerais. Estamos muito longe de conseguir isso, estamos enfrentando as mesmas dificuldades há 50 anos. Para que isso seja possível, é imprescindível que as máquinas possam entender como as coisas funcionam. Uma compreensão de verdade, profunda, similar à humana”.