Social Scoring. Pense num roteiro de filme de ficção cientifica, de certa forma, perturbador. Talvez uma mistura de 1984, baseado na obra de George Orwell, aquele do Big Brother, e um Minority Report, do diretor Steven Spielberg, que traz, em 2054, a capacidade da estrutura de segurança pública de prever crimes. Mas, nesse nosso filme, vamos usar aquele conceito do scoring de redes sociais, que faz uma pontuação para sua capacidade de influência digital para criar uma espécie de scoring de cidadania por meio de inteligência artificial. Bacana? Aterrorizador porque já deixou de ser ficção.

O Social Scoring System, criado na China, difere bastante de uma análise de scoring numa instituição financeira, como conhecemos no ocidente. Ou seja,  vai além de você receber um rating que representa o risco que uma instituição financeira terá em lhe oferecer um crédito. No Social Scoring chinês, agências governamentais e empresas estão coletando todo tipo de informação sobre o cidadão –  atividades financeiras, comportamento em redes sociais, perfil de compras, registros médicos, recolhimento de impostos, incluindo informações coletadas com 200 milhões de câmeras de vigilância com reconhecimento facial. Por exemplo, o mau comportamento ao avançar um sinal de pedestre ou ao estacionar um carro. Por extenso para não pairar dúvidas: são duzentos milhões de câmeras. O número está correto.

Em 2020, o sistema estará disponível com o rating de 1,4 bilhão de cidadãos chineses. Cada cidadão poderá  pesquisar seus dados, uma espécie de prontuário  fiscal, financeiro e comportamental. Diferente do scoring da instituição financeira, a proposta agora, que divide opiniões, é dar mais visibilidade ao comportamento e induzir pessoas a um suposto comportamento mais correto.

Nada mais atual que o pensamento de Marshall McLuhan, educador, filósofo e teórico da comunicação, morto em 1980: “O homem cria a ferramenta. A ferramenta recria o homem”. E assim, nesse social system, cidadão com bom comportamento recebe benesses. Que tipo de benefício por bom comportamento?  Descontos em serviços, atalhos em filas. Já uma pontuação baixa, restringe opções de escola para esses cidadão e até a websites de entretenimento ou relacionamento. Mas, lembre-se: trata-se de um regime milenar, que nunca foi palco de uma democracia como o ocidente conhece e isso gera bastante incômodo.

A tecnologia? Reconhecimento fácil, big data e, principalmente, Inteligência Artificial. Essa última, vem sendo tratada com prioridade pelo Governo Chinês, que pretende tornar o país líder do setor até 2030, colocando os EUA na segunda posição. Já pertence à China a marca de 50% do investimento global em startups de AI. Há 3 anos, não passava de 12%.

Como lidar com os riscos da Inteligência Artificial

Ao mesmo tempo em que abre um leque de possibilidades infindáveis, o uso da AI também levanta dúvidas e debates sobre a questão da privacidade e do seu uso indevido, ao menos, além das fronteiras da China. Esses olhos chineses em cima de seus cidadãos vêm provocando duras críticas em todo o mundo. Analistas apontam que a China, sem nenhuma dúvida, irá liderar o segmento porque por lá não haveria nenhuma barreira ética ou moral para essa invasão da privacidade.

A inteligência artificial oferece diversos riscos, entre eles, o de deliberadamente romper com seu direito à privacidade. No entanto, cientistas e especialistas têm a certeza que a sobrevivência da raça humana, dependerá do bom uso da AI. Para garantir isso, já existe movimentação no mercado.

Em 2015, milhares de cientistas e pesquisadores da área de tecnologia assinaram uma carta alertando para os riscos que a AI representaria. Alguns países e órgãos multilaterais montaram comissões para estudar implicações éticas e impor barreiras, limites e instrumentos legais para evitar o mau uso da tecnologia.

Diferente do que há em filmes de ficção cientifica, os riscos da inteligência artificial não reside em máquinas superpoderosas que ganham vontade própria e se sentem donas do mundo. O risco está em usar informações privativas e ainda de forma imprópria para cercear liberdade, moldar comportamentos, manipular consumo, pensamentos, eleições. Mas, ainda assim , vamos precisar da AI.

Para muitos cientistas e especialistas, só big data, AI, deep learning serão capazes de nos ajudar a fazer frente a grandes desafios como prevenir tragédias com desastres naturais, definir tratamentos melhores para doenças crônicas, reverter os efeitos da mudança climática (sem embates ideológicos ou teorias conspiratórias).

Assim,  cidadãos, empresas, governos, agências cientistas precisarão estar antenados com esses limites para que algoritmos melhorem o entendimento de problemas, a proposição de soluções e a melhor tomada de decisão, ao invés de sequestrar dados, invadir privacidade ou, isso deve permanecer na ficção, crie monstros de lata inteligentes que irão dominar o mundo.