Esse é o desafio a ser enfrentado: conciliar o avanço tecnológico de forma confiável e consciente às necessidades humanas sem realçar as desigualdades existentes.
Por Luciana Bach
Após décadas andando devagar, a IA parece acelerar rumo a um futuro cheio de incertezas. Em novembro de 2022, foi lançado o ChatGPT e, aproximadamente 5 dias após o seu lançamento, mais de um milhão depessoas já o tinham experimentado. Mas o que ele é?
O nome ChatGPT é uma sigla para “Generative Pre-Trained Transformer”. É uma ferramenta de IA criada pela empresa americana OpenAI capaz de responder sobre um determinado assunto, diferentemente do que ocorre em um mecanismo de busca, que apenas retorna os resultados. Ele é capaz de contextualizar os resultados e elaborar textos, letras de música, poesias, códigos de programação, etc.
A ferramenta se tornou um sucesso tão grande que deixou os concorrentes assustados. Em janeiro deste ano, a Microsoft comprou parte da OpenAI e, em março, a empresa anunciou que, a partir de agora, o GPT-4 (versão mais recente e poderosa) terá permissão para navegar na internet e buscar informações em outros sites, bem como interagir com outros computadores e aplicativos de terceiros. O ChatGPT só tinha acesso aos dados que foram usados para “treiná-lo”: mais de 45 terabytes de textos, copiados da internet pela OpenAI em setembro de 2021. Ele não tinha acesso a nada posterior, nem autonomia para buscar informações na rede. Agora tem.
A Google resolveu reagir. Líder no mercado de buscas há algumas décadas, pela primeira vez viu seu principal produto ameaçado. O temor é de que as pessoas troquem o Google pelo ChatGPT. Isso acendeu um sinal de alerta na empresa, a ponto de chamarem de volta Larry Page e Sergey Brin, fundadores do Google, para encontrar soluções para combater tal ameaça. Uma das novidades foi o lançamento em março do Bard, uma ferramenta de conversação integrada às buscas no Google.
A arquitetura do ChatGPT se baseia em uma rede neural chamada Transformer. Trata-se de um modelo extremamente avançado de geração de texto. Os algoritmos do tipo Transformers são capazes de escrever textos inéditos, mas nesses textos não haverá ideias novas, apenas novas formas de apresentar o conhecimento que já foi gerado por mentes humanas.
É exatamente nesse ponto que o risco aparece. Como toda IA, o ChatGPT se alimenta de informações que coleta e, assim, pode gerar respostas indesejáveis, já que são treinados com textos copiados da internet. Embora a ferramenta consiga evitar temas inadequados (treinando o robô), não tem nenhuma proteção à fraude em trabalhos escolares e acadêmicos. Para isso, a empresa vem trabalhando em um sistema de “marca d’água” que seria identificada por outros softwares.
Um problema clássico enfrentado pela IA é o de que ela tende a reforçar preconceitos. Na Amazon, por exemplo, um software baseado em IA para análise de currículos aprendeu a escolher pessoas para certas vagas. Mas, na prática, não classificava mulheres para cargos técnicos. Isso ocorria porque na Amazon a quantidade de currículos de homens era muito maior do que a de mulheres para cargos como engenharia e desenvolvedor de software, e, assim, o robô entendia que ocupar a vaga por um homem era o correto.
Segundo a matéria da revista Super Interessante¹, a professora de direito da Universidade de Brasília e coautora do Marco Legal da IA, Ana Frazão, declara: “Quanto mais um preconceito estiver arraigado, mais a máquina tende a interpretar aquilo como um padrão, e replicar“.
E aqui outra questão é abordada: o gap de gênero. A história das mulheres é marcada por inúmeros desafios e lutas por direitos e igualdade de gênero. Apesar de todas as conquistas alcançadas, ainda há muito a ser feito para garantir que mulheres de todos os países tenham acesso a conhecimentos, habilidades, recursos e apoio necessários para seu desenvolvimento pessoal e profissional.
No campo da tecnologia, as mulheres também têm desempenhado um papel importante. Ada Lovelace, considerada a primeira programadora da história, criou o primeiro algoritmo para ser processado por uma máquina em 1843. Seu trabalho ajudou a abrir caminho para a computação moderna e a IA.
Segundo a ONU, a IA reforça a desigualdade de gênero no mundo da Ciência. Apesar de representarem mais da metade da população mundial, apenas um em cada três pesquisadores é mulher. Em engenharia, por exemplo, as mulheres representam um total de 28% dos graduados, já em ciência da computação e informática esse número alcança 40%. Em 120 anos de Prêmio Nobel, apenas 6% dos 947 cientistas premiados eram mulheres.
Na tentativa de minimizar essa desvantagem de gênero, grandes empresas ligadas à tecnologia têm lançado, nos últimos anos, programas para capacitação de mulheres em IA, como é o caso da Microsoft.
Ainda que em escala muito menor, existem mulheres líderes nessa área como a Dra. Fei-Fei Li, professora de ciência da computação em Stanford, líder significativa no campo de IA e uma voz importante na defesa da diversidade em IA e Daniela Rus, Diretora do laboratório de IA e Ciência da Computação do MIT, responsável por projetar robôs capazes de se reconfigurarem sem intervenção humana. No Brasil, destaca-se Manoela Morais que, juntamente com outras mulheres, criou uma solução para a agricultura chamada Agrolly².
As discussões apontam que as mulheres podem ser as mais prejudicadas pela difusão da IA. Isso porque, segundo a Unesco e o Fórum Econômico Mundial, elas teriam maior participação em atividades mais tendentes a automação ou substituição por IA, como, por exemplo, caixas, recepcionistas e secretárias.
Especificamente com relação à automação, um estudo do Fundo Monetário Internacional conclui que “trabalhadoras possuem risco significativamente maior de substituição do que trabalhadores homens“.
Esse é o desafio a ser enfrentado: conciliar o avanço tecnológico de forma confiável e consciente às necessidades humanas sem realçar as desigualdades existentes.
Escritório Aliado: Montaury Pimenta, Machado & Vieira de Mello para Migalhas
