Temos de conciliar poder com ética na era da inteligência artificial

Quando Kriti Sharma começou a colaborar em projetos mundiais de programação em inteligência artificial, as interrogações sobre as suas competências eram constantes. Licenciada em engenharia e ciência de computação, a vice-presidente de IA do grupo Sage fez uma experiência social. Mudou a foto de perfil para o desenho de um gato com uma mochila a jato e as perguntas cessaram. “Um gato no mundo da IA tem mais credibilidade que uma mulher com duas licenciaturas”, afirmou, durante a sua apresentação na Vodafone Business Conference – A Caminho do Futuro.

A história ilustra um problema sério na IA: a falta de diversidade, que em combinação com má qualidade de dados de treino resulta em preconceitos automatizados. Este foi um tema central na conferência, que procurou desmistificar ideias erradas sobre a ascensão das máquinas sem ignorar os desafios que já existem e serão cruciais no futuro.

“Há uma pegada digital crescente em que as máquinas estão a acumular conhecimento sobre as nossas vidas”, disse a especialista. Se o algoritmo é enviesado, temos um problema, porque a IA já está a decidir quem sai em liberdade condicional, que crianças estão em risco de abuso, quem consegue uma entrevista de emprego ou um empréstimo à habitação. “A sociedade deve reconhecer que a IA pode ser usada para resolver problemas, mas fazê-lo com o enquadramento e as salvaguardas corretas”.

A especialista definiu cinco princípios para guiar a criação de tecnologias com valor para os humanos: diversidade; responsabilidade partilhada com os utilizadores; transparência na “caixa negra” da IA; desenvolvimento de sistemas para o bem comum; e noção de que a IA vai substituir, mas também criar.

Sharma fundou a organização “AI for Good” para garantir que a IA é usada de forma benigna e está otimista quanto aos avanços que são possíveis. Num dos seus projetos, 9 em cada 10 crianças chamadas a programar criaram soluções benéficas para a sociedade. Sharma desenvolveu um chatbot para apoiar vítimas de violência doméstica na África do Sul e um sistema na Índia para ajudar as pessoas a acederem a informações de saúde.

“As máquinas são boas a automatizar tarefas e os humanos são bons em criatividade, empatia, inteligência emocional”, afirmou a especialista. É na sinergia de ambas que se encontrará a melhor versão da sociedade pós-advento da IA.

“A IA está a mudar a nossa sociedade”

A visão da investigadora do Instituto Superior Técnico, Ana Paiva, é de que “estamos a construir uma sociedade híbrida, que tem humanos e chatbots juntos a trabalhar.” E isto é positivo. O seu trabalho tem sido dedicado à IA com foco no humano, aquilo a que em inglês se chama “Social AI”.

“Não é só fazer algo correto e eficiente, mas algo que tem em conta o humano”, disse, perante a audiência na Alfandega do Porto. “Se queremos prever o que os humanos vão fazer, temos que fazer IA social.”

A investigadora mostrou alguns dos projetos recentes em que esteve envolvida e que espelham estas facetas. Um deles foi o iCat, um gato que jogava xadrez com crianças e teve impacto nelas através de comportamentos percebidos como empáticos e de relacionamento social.

Outro projeto apresentado foi o do Emys, um robô mecânico que se senta a jogar à sueca com jogadores humanos e tem interações naturais com eles, chegando a lançar algumas piadas ou interjeições interessantes.

“O que temos de fazer quando construímos esses sistemas é olhar para a perceção, o diálogo, a cultura, as emoções e fazer aprendizagem e adaptação”, sintetizou Ana Paiva. “Isto pode ter impacto enorme em áreas como educação, call centers, na economia”, salientou.

Um dos seus desafios como investigadora é a inteligência artificial que coloca nas máquinas a capacidade de ser pró-social, isto é, a característica que nos ajuda a ter empatia e tornar a sociedade melhor. É nesse âmbito que estão a ser feito projetos com cegos, de combate ao cyberbullying ou para lidar com conflito no autismo na educação. “A inteligência artificial pode e deve ser usada para o bem social”, salientou Ana Paiva. “Portugal devia estar no caminho da IA social.”

O momento é agora

O governo de Singapura abriu o livro de cheques e começou a dar 500 dólares a todos os cidadãos com mais de 25 anos para tirarem um curso à sua escolha. Foi uma decisão notável de um país pequeno que não tem mais recursos naturais que os humanos. O que acontece se as máquinas substituírem as pessoas no trabalho? Em vez de reagir a um futuro desconhecido, o país do sudeste asiático tornou-se um exemplo. E foi disso que Ayesha Khanna, CEO da Addo AI em Singapura, falou durante a sua keynote na Vodafone Business Conference.

“Quando uma tecnologia é tão transformadora, não podemos ficar a olhar para ela como um filme de ficção científica”, avisou. “Se não tiverem confiança para fazer parte desta economia, serão sempre espectadores.”

A abordagem ideal, defendeu, é pensar em como usar a inteligência artificial para avançar propósitos e projetos, não achar que a IA será algo que nos vai acontecer de forma inelutável. “

Esta é a nossa oportunidade de nos libertarmos e pensarmos em como vamos usar a IA e as nossas paixões para empurrar as fronteiras”, declarou Khanna.

A executiva deu o exemplo do Butterfly IQ, um sistema de ultrassom portátil desenvolvido no Quénia que custa 2 mil dólares em vez dos 200 mil de uma máquina standard. “Este é o potencial”, declarou. “Vocês precisam de decidir o vosso amanhã por si mesmos.”

É para assegurar que estas oportunidades são abertas a todos que Ayesha Khanna fundou a organização 21C Girls, que ensina raparigas os fundamentos da programação. “Ensinámos a ligar os pontos entre problemas de negócio e IA”, explicou a responsável, que é considerada uma das executivas mais proeminentes da inteligência artificial na Ásia.

“Costumo ser a única mulher em conselhos de administração”, contou. “Os clientes costumam perguntar coisas técnicas ao meu cofundador, porque assumem que eu não sei.” É o mesmo problema de que falou Kriti Sharma, e tem a mesma solução: aumentar a diversidade, mudar a narrativa, arregaçar as mangas. “Se estas miúdas conseguem fazer isto, então todos conseguimos também.”