Um deslumbramento perigoso.
Prezado leitor, tenho visto pessoas bem-educadas se deslumbrando perigosamente com a chamada alta tecnologia e, mais recentemente, com a inteligência artificial (IA).
Lembrando alguns sinônimos para a palavra deslumbramento, temos: ofuscamento, cegueira, e perturbação do entendimento.
Como engenheiro de formação, entendo tecnologia como um conjunto de conhecimentos científicos aplicados em favor do Homem; conjunto de métodos de solução de problemas, podendo envolver o desenvolvimento e utilização de diversas ferramentas. Penso que uma solução pode ser tão sofisticada quanto o problema assim o requeira e/ou os interessados (pessoas e empresas) estejam dispostos a arcar com sua relação custo/benefício. Mas voltando ao ponto do deslumbramento perigoso, caberia perguntar:
O que é inteligência artificial?
Este artigo baseia-se em publicação de Emily M. Bender, professora de Linguística da Universidade de Washington no Programa de Mestrado em Linguística Computacional. Para mais detalhes acessar: faculty.washington.edu/ebender. A tradução – livre – é minha.
IA é um termo de marketing. É uma forma de fazer com que certos tipos de automação pareçam sofisticados, poderosos ou mágicos e, como tal, uma forma de evitar a responsabilização, fazendo com que as máquinas pareçam entidades pensantes autônomas, em vez de ferramentas criadas e utilizadas por pessoas e empresas. É também o nome de um subcampo da ciência da computação preocupado em fabricar máquinas que “pensam como humanos” e, já na década de 1950, o termo foi usado para atrair financiamento de pesquisa ao campo. As discussões sobre a inteligência artificial ficariam muito mais claras ao substituir o termo pela palavra “automação”, permitindo perguntar:
1. O que está sendo automatizado?
2. Quem está automatizando isto e por quê?
3. Quem se beneficia com tal automação?
4. Quão bem a automação funciona no caso do uso que estamos considerando?
5. Quem estaria sendo prejudicado?
6. Quem é responsável pelo funcionamento do sistema automatizado?
7. Que regulamentos existentes já se aplicam às atividades nas quais a automação estará sendo utilizada?
São diversos os modelos de automação que hoje encontramos no dia a dia, por exemplo, sistemas de classificação de risco de crédito, sistemas de regressão/predição, sistemas de recomendação de consumo, automatização de acesso ao trabalho humano convenientemente disponível aos compradores, tipo Uber, Lyft etc.
Finalmente, há um tipo que tem estado na mente de todos recentemente; coisas como ChatGPT, que a chamo de “máquinas de mídia sintética”. [N.A.: Tem sido chamada de IA generativa]. São sistemas que podem gerar imagens com base em conteúdo ou estilos específicos, ou um texto que soe plausível sem qualquer compromisso com o que diz. É importante entender que sua única função é o autocompletar, mas que pode continuar autocompletando de forma muito coerente para fazer textos muito longos. Estão sendo comercializados como sistemas de acesso à informação, mas não são eficazes para esse fim. Outra coisa importante a ter em mente é que a saída produzida por esses sistemas não fazem sentido. Somos nós que estamos colocando sentido nos outputs, porque estamos “entendendo” o resultado. Isto torna difícil avaliá-los porque temos que nos distanciar da nossa própria cognição ao fazê-lo.
Finalmente, a capacidade de criar textos que soem plausíveis sobre praticamente qualquer tópico é bastante perigosa porque parece que estamos prestes a ter robôs-advogados, robôs-médicos, robôs-tutores, robôs-terapeutas, [N.A.: e de robôs-engenheiros, robôs-piloto de aeronaves etc.], e não estamos. Tais sistemas de automação funcionam bem [N.A.: aqui valeria questionar “quão bem”] devido ao esforço das pessoas, mas muitas vezes são concebidos para esconder esse esforço. [N.A.: Já há, nos tribunais, ações de violação de direitos autorais pelo uso inadvertido desta tecnologia].
Outro aspecto a se considerar é que o desenvolvimento de software é um processo criativo e, como tal, propenso a erros de programação, sendo os códigos-fonte objetos de constante depuração para eliminar erros (os chamados bugs).
Tais sistemas podem ainda promover a vigilância em massa, permitindo-a ou fornecendo-lhe motivação. E exploram o preconceito da automação, que é a nossa tendência cultural de assumir que os computadores devem ser objetivos, autoritários e justos.
O entusiasmo em torno destes sistemas serve realmente aos interesses corporativos porque faz com que a tecnologia pareça poderosa e valiosa, porque desvia a atenção das questões reais nas quais se espera que os reguladores se concentrem, e porque faz com que a IA pareça demasiado exótica para ser regulável. Espero que os nossos representantes sejam consumidores críticos de informação sobre esta tecnologia e não caiam na narrativa de que se está a avançar demasiado rápido para que a regulamentação a acompanhe. Seu trabalho é proteger os direitos e eles não estão mudando tão rapidamente.
Pegando um gancho no preconceito da automação, lembro das Leis da Robótica propostas por um dos mestres da ficção científica, o escritor Isaac Asimov:
1a. Lei – um robô não pode ferir um humano ou permitir que um humano sofra algum mal;
2a. Lei – os robôs devem obedecer às ordens dos humanos, exceto nos casos em que tais ordens entrem em conflito com a primeira lei;
3a. Lei – um robô deve proteger sua própria existência, desde que não entre em conflito com as leis anteriores.
Conclusão:
A necessidade de encontrar a justa medida para o nível de automação de sistemas complexos, por exemplo, de aeronaves, trens, navios e automóveis autônomos é questão atualíssima, vide os casos recentes envolvendo acidentes e incidentes com aeronaves comerciais e no trânsito das cidades. Tais eventos, trazem à tona questões de autonomia e autoridade destes sistemas-robô. A simples interpretação das leis da robótica já suscita uma rica discussão, mas isto fica para uma próxima coluna.
Até breve!
–
[N.A.: Nota do Autor – inserção do próprio sobre o texto analisado].–
Imagem: Ilustração do Turco “The Kempelen chess playing automaton”, de Racknitz – 1789.
–
Mario Marcondes Machado é engenheiro mecânico com mestrado em Engenharia de Transportes e doutorado em Engenharia de Produção. Com passagem pelo setor de transporte aéreo, hoje atua na análise, operação e manutenção de sistemas de produção no setor de óleo e gás. No Observatório da Comunicação Institucional, é associado benemérito e desenvolvedor do aplicativo para aferição do Índice de Transparência Ativa – “Sistema 5R-INDEX”.