A Inteligência Artificial está mudando o mundo e muito rápido. Entramos na Era da IA. Mas imaginemos o seguinte cenário: todos os nossos dados pessoais (nome, RG, CPF, Endereços residencial e comercial, e-mails, nomes dos pais, filhos, familiares, amigos) e boa parte de nossas preferências (postagens que curtimos, aplaudimos, gastamos certo tempo vendo, interagindo, encaminhando etc) e preterições (postagem que mal batemos os olhos e já passamos para outra, bloqueios, comentários negativos, etc). Essas informações, acessíveis a uma velocidade e disponibilidade inimagináveis, alimentam um sistema de dados que, com ajuda da inteligência artificial, podem gerar respostas com a mesma velocidade com que se alimenta o sistema, ou seja, de forma imediata.
Essa resposta pode ser, por exemplo, o interesse por uma viagem e, com isso, as publicidades passarem a ser dirigidas para esse interesse que despertei e a IA captou de alguma forma. Essas respostas podem ser construídas a partir dos chamados algoritmos.
E por que os algoritmos podem representar ameaças?
Como toda coleta e troca de dados e informações, há interpretações sobre esses dados. Não existe interpretação imparcial. A interpretação se dá a partir do que o sistema é alimentado e, portanto, contém vieses.
Era da IA e discriminações
Assim, pode conter mais ou menos aspectos que revelem uma série de possíveis discriminações que bloqueiem ou encareçam vendas de produtos a determinados grupos de consumidores, por georreferenciamento, por exemplo.
É exatamente nas discriminações que residem importantes ameaças tanto aos consumidores e quanto às empresas. Se uma empresa utiliza um sistema de inteligência que desperta uma atitude discriminatória, a própria empresa pode ser responsabilizada pelas ofensas a direitos dos consumidores.
Isso quer dizer, de um lado, que temos que ficar mais atentos com as informações que compartilhamos e disponibilizamos (se fosse uma casa, o fato é que estamos deixando as portas e janelas abertas, sem filtros para quem pode ou não entrar). Por outro lado, temos que verificar as políticas de cada empresa que acessamos.
Políticas como as de privacidade e proteção de dados e políticas como as referentes ao compliance, uma vez que empresas que investem em conformidades estão mais interessadas e preocupadas com os consumidores, respeitando-os mais comparativamente com àquelas empresas sem claras formas de enfrentamento da questão.
Acrescente-se que também representam ameaças a invasão de privacidade e a manipulação de opiniões. De toda forma, a discriminação é uma ameaça que, quando concretizada, causa potencialmente danos aos consumidores e às organizações. É o caso do geopricing e geoblocking que tratamos aqui.
Além de cobrarmos e acompanharmos legislações sobre o tema, devemos pesquisar empresas que invistam em conformidade, no chamado compliance, mostrando ao mercado que esse investimento é um diferencial competitivo.
Por Flávio Henrique Caetano de Paula Maimone
Disponível em: www.olondrinense.com.br
