robos1
 

Ética dos Robôs?!

Apesar dos constantes discursos de alerta de intelectuais, como Stephen Hawking, a robótica já abraçou a Inteligência Artificial e, hoje, já podemos vislumbrar mudanças radicais em nossas vidas para os próximos cinco, dez anos.

Imediatamente, olhando a previsão, pensa-se em algo muito pequeno, um período que não condiz com a evolução tecnológica atual.
Imaginar formas práticas de Inteligência Artificial em nossas vidas soa muito mais roteiro de filme Sci-Fi, não é?

Pois bem: não é. Mas compreendo a dificuldade em abstrair coisa e coisa.

O grande obstáculo para entendermos a atual presença da AI (vou usar a sigla, do inglês “Artificial Intelligence“, para facilitar) é a romantização do conceito.

AI nada mais é do que um programa de ações, predefino, que permita que uma máquina seja capaz de responder a situações variáveis, sem a necessidade de programação manual prévia dessas diretrizes específicas, garantindo sua autonomia no atendimento de funções primárias.

 

robos2

 

Acontece que o Cinema e a Literatura nos motivaram a compreender de outra maneira, muito mais problemática, perigosa, fazendo-nos considerar como um paralelo perfeito com a inteligência humana, com seres realmente pensantes, capazes, inclusive, de autoconsciência e reflexão sobre seus porquês (quase como o monstro de Frankeinstein).
Não que não possa ser uma questão, afinal isso leva os opositores e questionadores dessa empresa a brigar contra. Pode e é, mas não é o problema agora.

Penso que, para transmitir o conceito mais adequado de quê tem sido feito, devemos tomar como exemplo as baratas.
Baratas são artrópodes (invertebrados com membros articulados) da classe dos insetos (corpos com exoesqueleto, divididos em cabeça, tronco, abdômen, contendo seis pares de patas) – gastar um pouquinho os anos de paixão por zoologia auhahuhahua – com cérebros minúsculos e pouquíssima “inteligência” com relação ao meio que vivem.

Baratas se locomovem, buscando água e comida, excretam, botam ovos e zaz. Essa é a função da barata no mundo.
Enquanto formigas se relacionam, constroem castelos, lutam em organizações militares pela preservação de suas colônias, baratas comem e cagam.

Pensar num robô autônomo, relacionando à ideia de barata, provavelmente seja o melhor meio de avaliar o estado atual da AI.

 

robos3

 

Um carro autônomo, uma cafeteira autônoma, um aspirador de pó, são basicamente como baratas: possuem uma função primária e, frente determinadas situações, tratarão seu código fonte para identificar a melhor resposta possível. Não havendo uma pronta, farão algo parecido.

O script da barata, se organizado, seria algo como:
Busque comida
Busque água
Bote ovos perto de comida e água
Caso apresente-se perigo, corra
Se não puder correr, suba em algo
Busque escuro
Se o perigo passar, retome busca por comida e água

A regra está lá: tente sobreviver. Quando e de que jeito responder, aí já cabe à percepção de situação por parte da barata. Será, de certa forma, um improviso.

Quando você acende a luz e uma barata se esconde numa fresta, não se trata de um ato de inteligência, ainda que bem precário?
Outros animais poderiam reagir de mil formas diferentes, mas a barata faz o que sabe: se esconde. E é completamente efetivo.

Quando formamos um paralelo com a AI, essa manifestação de inteligência com relação à situação da barata é muito mais fina, em alinhamento, do que se colocássemos ao lado da inteligência humana.
Justamente por isso, ao menos em primeiro modo, não faz muito sentido questionar ou se opôr à evolução da AI, no futuro próximo.

 

robos6

 

Falo isso porque, neste modelo, a AI já faz parte de nossas vidas em vários elementos. Vamos pensar em alguns:

Alguns firewalls corporativos já utilizam sistemas neurais para preservação da confidencialidade dos dados.
Sistemas neurais são AI. Avaliam o tráfego de pacotes e, “supondo” tratar-se de uma ameaça, bloqueiam.
Diferentemente de outros sistemas de firewall, não é necessário programar manualmente cada uma das regras de bloqueio e permissão, apontando protocolos e portas.

Temos outro exemplo magnífico nos dispositivos de anúncio, como Google AdSense.
A solução monitora sua navegação e, ao te apresentar publicidade, buscará o que compreende ser de seu máximo interesse (ainda não é perfeito, mas calma rs).

Da mesma forma, o Facebook utiliza algoritmos autônomos de seleção do conteúdo de seu feed de notícias, dentro da rede.

Ainda no Google, celulares aprendem, relacionando dados de utilização de aplicativos, GPS e afins para determinar onde você mora, qual sua rotina de trabalho, onde deixou o carro estacionado, a que lugar foi, no passeio, para disponibilizar dicas e hacks, a fim de nunca te deixar sem um guarda-chuva ou mesmo perder a hora, num engarrafamento.

Falando em engarrafamento, o Waze, sozinho, conflita fluxos de tráfego com seu trajeto atual para determinar qual será o caminho mais rápido até seu destino.

 

robos4

 

Temos, também, os drones de entrega da Amazon Express (em alguns lugares dos EUA), que, por GPS, transportam o pacote até o quintal do comprador.
Mais sobre drones, os modelos profissionais, ao identificar baixo nível de bateria ou perda de sinal do controle remoto, retornam sozinhos ao ponto de partida.

As Nespresso, caso identifiquem falta de água no recipiente, reservatório cheio ou até uma capsula travada no despejo, avisam.

São pequenas manifestações de inteligência autônoma utilizadas por máquinas, porém já estão em nossas vidas hoje.
Temos, inclusive, um simpático robozinho vivendo em Marte, a sonda autônoma e auto reparável Curiosity.
Até, se quisermos ir um pouco além, a Boston Dynamics, ainda em 2007 (cinquenta anos atrás), apresentou seu protótipo do BigDog, animal de carga em condições extremas, com capacidade ridícula de equilíbrio, restabelecimento, evitando quedas, superação de obstáculos e, claro, força descomunal (veja o vídeo):

 

 

Tudo isso, até agora, para clarear um pouco o conceito de AI, mostrar como já é presente (e tão necessário) em nossas vidas e, também, motivar a questionamentos sobre os próximos passos.

A partir daqui, quero levantar questionamentos sobre produtos autônomos com potencial de dano indireto à vida humana, especialmente os “self driving cars” (carros autônomos), como os que resultam do projeto WAYMO, da Google.

Carros são elementos que, por desgaste, podem colocar em risco vidas de passageiros, concorrentes, na pista e, obviamente, de pedestres.
Uma falha no freio, um erro no sistema de navegação, interferência nos sensores anti-colisão, enfim, muitos elementos arriscam vidas humanas, ainda que indiretamente.

Não falamos sobre reapers (drones de combate), soldados ou armas autônomas, que seriam risco direto, mas carros.

Para ter ideia, no ano de 2015, apenas no município de São Paulo, 953 mortes no trânsito foram registradas (segundo dados da CET-SP).

Considerando tal, retirando a causalidade humana (uso de drogas, como álcool, de celulares, desatenção, estafa e outros elementos), ainda ocorreriam acidentes e, consequentemente, potenciais vítimas fatais.
No entanto, como consideraríamos um óbito decorrente de um atropelamento por um carro autônomo? Não ouvir-se-iam os berros de “eu avisei!” pelos opositores?
Como trataríamos os familiares da vítima?
Onde a Ética entra na questão? Quem é o culpado? Quem vai pagar pelo crime?

Neste cenário, urge a necessidade de um modelo claro e preciso de possíveis ações e “escolhas”, por parte dessas máquinas.
Precisa-se desenhar uma “Ética” clara e precisa para os robôs, baseada ao máximo na moral humana corrente, tão alinhada a essa quanto possível, para que estejamos confortáveis e seguros frente aos riscos, quando tais estiverem presentes nas ruas.

 

robos5

 

Visando tal alinhamento, o MIT (Massachusetts Institute of Technology) publicou uma plataforma de teste, meio que um Quiz (daqueles de Facebook), onde qualquer pessoa pode responder questionamentos gráficos sobre situações de dano irremediável. Chama-se “Moral Machine” (Máquina Moral).

O princípio elementar do teste é a impossibilidade de parada natural do carro, cujos freios não respondem.

O teste baseia-se nos dilemas éticos de Marc Hauser, buscando determinar critérios de avaliação do valor de vidas humanas.

Embora pareça muito uma “brincadeira”, trabalhar em questões como as apresentadas no projeto MM nos ajuda a compreender não só como será o futuro próximo, onde conviveremos com os autônomos, mas como nossa própria Ética social é montada, relacionando os posicionamentos de valores morais individuais, tentando desenhar um padrão.

Recomendo veemente que visitem a plataforma, respondam ao Quiz e, caso possam, criem novos cenários na ferramenta, propiciando aos estudiosos da AI mais matéria para trabalharem.

Deixo abaixo o link e, caso queiram, fico aberto ao debate sobre os resultados.

Quando algo já é realidade iminente, não adianta mais fingir que não existe. Façamos nossa parte para ajudar.

 

Link para a “Moral Machine”, do MIT:
http://moralmachine.mit.edu/hl/pt

CC BY-NC-ND 4.0This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License. Permissions beyond the scope of this license may be available at Mario Feitosa - Políticas.