Poderão ser os Sistemas de IA eticamente corretos?
Se é verdade que a Inteligência Artificial (IA) não é um conceito novo, nem tão pouco recente, também é uma constatação que este ramo da Informática assume maior relevância à medida que impacta no nosso quotidiano e na sociedade, de forma cada vez mais complexa e controversa, pois o seu principal objetivo é a execução de tarefas que seriam consideradas inteligentes, caso fossem executadas por um Humano.
Paralelamente, o respeito pelos Direitos Fundamentais do Ser Humanos, como a Privacidade e a Proteção de Dados Pessoais, são igualmente temas não recentes e com uma preponderância crescente, que adquirem contornos legais e impõem requisitos técnicos para o seu cumprimento, cada vez mais definidos e incontornáveis.
Na verdade, a dicotomia entre o desenvolvimento de sistemas de IA e os valores éticos, é uma constante da atualidade e a busca do seu equilíbrio é um tema ao qual, natural e progressivamente, dedicamos mais tempo, pois a perceção de que é vital para a nossa sobrevivência assim o impõe.
A atravessar a Quarta Revolução Industrial (Indústria 4.0), o ritmo a que a Sociedade evolui, a par das possibilidades e soluções tecnológicas e informáticas emergentes, a recolha de dados em larga escala (Big Data), nomeadamente através de dispositivos ligados à Internet (IoTs), a necessidade destes recorrerem à IA para interpretar a informação que recolhem e gerarem respostas, criando redes inteligentes, já não se compadece com a inércia em relação ao que são os requisitos de privacidade e segurança de informação, nem com a isenção de responsabilidade, quer individual, quer coletiva, quanto às nossas ações e quanto à informação de que somos ou nos tornamos responsáveis.
Com efeito, o nosso sentido crítico e a forma como agimos e reagimos, determinam as nossas escolhas e o nosso percurso e evolução, enquanto indivíduos. Permitindo-nos assumir um paralelismo a este nível, poderíamos dizer que a IA artificial concretiza “escolhas” com base em algoritmos, enquanto a inteligência humana, com toda a sua complexidade, nos permite conscientemente assumir as nossas escolhas, as nossas decisões e os nossos comportamentos, mediante o contexto e os nossos valores.
Ser eticamente correto, é, definitivamente uma dessas escolhas e é, sem margem de dúvida, na sua génese, uma característica humana.
Assumimos frequentemente, e fruto de alguma especulação, que aos sistemas de IA são mais aproximados do raciocínio de um Humano e da plenitude do cérebro humano, do que são de facto. Prova deste receio é a necessidade constante de balizar os limites de atuação e do próprio desenvolvimento/suas repercussões, de forma a evitar que se invertam os papéis.
Os algoritmos permitem efetivamente a resolução de problemas, com base na leitura e compreensão da linguagem e a aprendizagem, recorrendo a raciocínios lógicos.
Mas, qual o caminho a percorrer até obter informação que permita gerar algoritmos a ponto de atingir este patamar? O Próprio Ser Humano, a forma como organicamente se geram os pensamentos, as decisões, serão algum dia, possíveis de “replicar”?
E se forem, não estaremos nós a desvirtuar os princípios de Individualidade, de respeito pelos direitos e liberdades do Ser Humano e a subverter os princípios éticos que deverão preceder e acompanhar qualquer processo de desenvolvimento (tecnológico)?
Por outro lado, poderá algum dia um algoritmo definir o que precede a tomada de decisão individual e todas as vivências e variáveis quer ambientais, quer individuais, que a determinam?
Quando um software desenvolvido com base em IA, por exemplo “machine learning”, “toma decisões” recorrendo a um algoritmo, não estará a considerar o Ser Humano apenas um “robot artificialmente inteligente” e a reduzi-lo a um conjunto de informações e raciocínios lógicos, menosprezando a sua génese?
Quando definimos um perfil, com base em inputs e informações recolhidas de um indivíduo, como é o caso do que se obtém a partir dos dados pessoais a que temos acesso e podemos tratar, não estaremos nós também a assumir exatamente este pressuposto, quanto aquele ou aqueles indivíduos?
Na verdade, não será de todo irrealista considerar a hipótese de que a IA poderá assemelhar-se à “consciência Humana”, na tomada de decisões. Mas esta semelhança pressupõe ação humana e programação e, no caso de “machine learning”, por exemplo, a aprendizagem está limitada à informação que é recolhida e tratada até ao momento e que permite inferir resultados.
Se bem que existem já exemplos controversos que nos levam a questionar a capacidade de sistemas de IA comunicarem em linguagem própria e poderem aprender a ser criativas, até ao momento, podemos considerar que recriar o cérebro humano em todas as suas valências e conseguir recriar uma das suas maiores potencialidades, a que permite desenvolver a criatividade, enquanto, ainda será uma completa utopia, sendo que cada sistema de IA é limitado a um conjunto de ações para cada finalidade, no âmbito em que é criado.
Assim, teríamos de repensar o próprio conceito de criatividade e do ato de criar, que pressupõe criar algo novo sem partir de nenhuma informação pré-existente ou assumir que aprender por repetição um processo criativo, se pode considerar uma nova abordagem à definição de criatividade.
De qualquer das perspetivas, CRIAR implica SER e SENTIR…
Andreas Kaplan e Michael Haenlein definem a inteligência artificial como “uma capacidade do sistema para interpretar corretamente dados externos, aprender a partir desses dados e utilizar essas aprendizagens para atingir objetivos e tarefas específicas através de adaptação flexível”.
No entanto, e não sendo possível, prever como evoluirá a ciência, e a neurociência, e como esta “integração” poderá vir a ser possível, é necessário tomarmos consciência dos riscos associados aos benefícios, quando falamos de progresso e desenvolvimento.
Idealmente, devemos tentar antecipar-nos a consequências danosas e prejudiciais que desvirtuem o benefício que deverá ser o foco primordial do desenvolvimento.
A capacidade para coletar, tratar, interpretar toda a informação, proveniente de todos os nossos sentidos, permitindo ter emoções, memórias e SER, é o que nos define enquanto Indivíduos e nos distingue de uma “máquina ou sistema”, mas também o que nos torna permeáveis a influências e a ser “parcialmente programáveis”.
O equilíbrio entre o desenvolvimento de sistemas de IA, a sua influência no comportamento humano e a recolha e tratamento de informação acerca desse mesmo comportamento humano, definindo perfis, de forma a permitir este “ciclo de influência” e resultados através da programação e da aprendizagem pelo raciocínio lógico, impõe-se que seja uma constante quando falamos de IA e de desenvolvimento.
Como poderemos assegurar o respeito pelos direitos fundamentais do Ser Humano, como é o caso da sua privacidade, se assumirmos que o Ser Humano está ao serviço da tecnologia e do desenvolvimento e não o inverso?
Para além das questões basilares de licitude e legitimidade de tratamento dos dados pessoais, ser-nos-á realmente possível reconhecer os limites inerentes a uma finalidade, quando falamos de desenvolvimento de sistemas de IA?
Regulamentações de proteção de dados, como o Regulamento Geral sobre Proteção de Dados, têm surgido com o objetivo de impor também estes limites, de normalizar procedimentos, de promover a implementação de medidas de controlo e de promover o desenvolvimento de padrões de ética, apelando ao sentido de responsabilidade pessoal, corporativa e coletiva.
A reflexão que se impõe: serão as medidas atuais, os mecanismos existentes e os quadros legislativos em vigor, suficientes para que, na corrida ao desenvolvimento com base na IA, onde buscamos reproduzir e aperfeiçoar comportamentos/ações humanas, salvaguardemos o respeito pela Individualidade, pela privacidade e pelos direitos e liberdades do Ser Humano?
Inevitavelmente, as motivações que impulsionam o desenvolvimento, nomeadamente o que assenta em IA, são reflexo da forma como os mercados condicionam as organizações a preterir os princípios éticos a favor do retorno financeiro.
Urge conseguir este equilíbrio, impondo e ajustando os limites e os requisitos legais, mas também promovendo e assumindo visões e posturas cada vez mais humanistas, mais conscientes, responsáveis e eticamente corretas, que visem claramente o desenvolvimento da tecnologia e da IA como alavanca de crescimento e evolução das Sociedades e do Indivíduo.
Por: Lara Silva, Legal & Compliance Security Auditor na Hardsecure
