Especial redeGIFE: Desafios e transformações possíveis para o uso ético da inteligência artificial

Desafios e transformações possíveis para o uso ético da inteligência artificial

O avanço acelerado da Inteligência Artificial (IA) tem provocado mudanças estruturais profundas na sociedade. Ao mesmo tempo em que possibilita inovações, também amplia desigualdades, reforça vieses discriminatórios e gera impactos ambientais consideráveis. Neste cenário, qual o papel do Investimento Social Privado (ISP)?

A Inteligência Artificial generativa – aquela que cria conteúdos inéditos, como textos, imagens, músicas – está entre nós desde a década de 1950. Foi quando Alan Turing, conhecido como pai da ciência da computação teórica e da inteligência artificial, idealizou o Teste de Turing, um experimento para avaliar se era possível um computador expressar a mesma inteligência de um humano.

Contudo, foi em 2023 que o debate sofreu uma guinada sem precedentes, a partir da repercussão do lançamento do ChatGPT, pela OpenAI, seguido pelo Gemini, do Google. Só esse ano, se somaram a eles a chinesa DeepSeek, e a Grok 3. Sem contar outras aplicações da tecnologia, como as IAs de armas de guerra.

Diante dessa rápida popularização, crescem os desafios relacionados à desinformação, amplificação de desigualdades estruturais, disseminação de deepfakes e tensões geopolíticas.

Aprofundando desigualdades

Tarcízio Silva, autor do livro Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais, reconhece os riscos gerados por estes avanços, mas acredita que o maior perigo dessa tecnologia não é um futuro distópico onde as máquinas superam os seres humanos. “Isso não vai acontecer.”

“O perigo real que já existe e gera impactos é o uso da IA atual para exploração de trabalhadores, segregação racial e de gênero.”

TARCÍZIO SILVA, autor do livro Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais

Contexto que cria forças a partir do “viés algorítmico”, como pontua Juana Kweitel, vice-presidenta da Luminate para América Latina, Programas Globais e Iniciativas Estratégicas. “Por exemplo, o uso de ferramentas de IA na área de segurança pública pode acabar replicando preconceitos de raça e aprofundar violações de direitos da população negra. Do mesmo modo, estudos já mostraram como ferramentas de IA classificam de forma sexista conteúdos sobre mulheres.”

Perspectiva reforçada por Matheus Soares, coordenador de conteúdo do Aláfia Lab. O pesquisador cita os casos de deepnudes contra candidatas mulheres durante as últimas eleições brasileiras, identificadas pelo projeto Observatório IA nas Eleições. Além do uso de tecnologias que podem repercutir preconceitos raciais nos resultados obtidos, como o reconhecimento facial, inclusive utilizado pelo poder público. O pesquisador pontua a necessidade de participação das populações minorizadas nas discussões, e no próprio desenvolvimento da tecnologia, para que estas questões sejam mitigadas.

Silvana Bahia, co-diretora executiva do Olabi, reforça esta preocupação. Para ela, o grande desafio da IA é não reproduzir o racismo e o machismo tão presentes em nossa sociedade.

“A IA, assim como outras tecnologias, reproduz a estrutura de sociedade em que vivemos e isso é ainda mais alarmante em sociedades como o Brasil, que é mais consumidor do que produtor de tecnologia. Isso revela que as tecnologias carregam a visão de mundo de quem as cria, e sabemos que a maioria das tecnologias que usamos são criadas por um tipo padrão de pessoas: homens brancos do hemisfério norte. ”

SILVANA BAHIA, co-diretora executiva do Olabi

Natália Viana, diretora executiva da Agência Pública, aponta para soluções que extrapolam o quesito tecnologia. “A solução não é tecnológica, pelo contrário, é política, conscientização da estrutura tecnológica por trás dessas decisões aqui descritas, e mobilização social para um uso mais crítico dessas ferramentas. Além de instrumentos de pressão que levem a um monitoramento público, seja judicial, mas principalmente através de legislação.”

Meio ambiente em foco

A perspectiva das mudanças climáticas é outra abordagem que não escapa a essa inovação. Embora possa figurar como uma aliada, muitos de seus modelos exigem alto consumo energético.

Diante desse cenário, a posição do Brasil pode ser observada em movimentos como a aprovação do marco regulatório da inteligência artificial pelo Senado em dezembro do último ano, sendo esperado que sua tramitação agora avance na Câmara dos Deputados. Soares detalha que a proteção ao meio ambiente e o desenvolvimento ecologicamente equilibrado é reconhecida como uma das diretrizes para o desenvolvimento da IA no projeto de lei. Também é previsto o incentivo a disponibilidade de data centers sustentáveis no país. Mas alerta: não pode ficar apenas como uma diretriz no papel.

“Na busca pelo pioneirismo da corrida da IA, é necessário um montante de recursos naturais que podem sobrecarregar a infraestrutura do planeta. Estamos em plena crise ambiental global e a eficiência da IA também deve ser energética.”

MATHEUS SOARES, coordenador de conteúdo do Aláfia Lab

Entre as expectativas para o marco, também estão a consolidação de uma agência reguladora e medidas para garantir que o uso da IA não comprometa a segurança dos dados dos usuários.

Ainda assim, Tarcízio Silva chama atenção para retrocessos em relação à versão anterior do PL 2338/2023. Como a exclusão de mecanismos de participação social tanto nas entidades supervisoras quanto nos procedimentos ligados a análise de impacto algorítmico de alto risco. “Esse ponto é nevrálgico no sentido de que, por melhor que seja o projeto de lei, sem participação social não terá efeitos na proteção de cidadãos e consumidores.”

54%

54% dos brasileiros relataram ter utilizado IA generativa em 2024, enquanto a média global foi de 48%, aponta pesquisa feita pela Ipsos e o Google em 21 países.

Descentralização

Tarcízio Silva ainda explica que a inteligência artificial como vemos hoje é a aposta de um pequeno grupo hegemônico do poder, ligado sobretudo ao capital financeiro e às big techs.

“A IA hegemônica hoje é essencial apenas para uma pequena fatia da humanidade. Há muitas comunidades tradicionais em torno do mundo que possuem uma relação mais equilibrada com a existência e com a natureza e não precisam da IA. É esse equilíbrio que devemos buscar”, defende. Nesse contexto, Juana Kweitel aponta para o caminho estratégico de descentralização.

“Ao garantir que os mercados de infraestrutura, dados e serviços não sejam dominados por um grupo pequeno de companhias, podemos criar espaço para que empresas que respeitem direitos surjam e forneçam sistemas e serviços construídos com e para as comunidades locais.”

JUANA KWEITEL, vice-presidenta da Luminate para América Latina, Programas Globais e Iniciativas Estratégicas.

Espaço esse que pode ser pavimentado e criar vários outros a partir do apoio de setores como o ISP. “É importante que a filantropia brasileira promova mais trocas sobre esse tema”, reforça Natália Viana.

ISP em perspectiva

Os especialistas reforçam que o ISP pode desempenhar um papel crucial na criação de soluções que reduzam os danos causados pelo uso indiscriminado da IA. Apesar do potencial transformador, dados do último Censo GIFE (22-23) mostraram que o setor tem tomado o caminho contrário, tendo em vista que apenas 1% das organizações respondentes tinham a “Ciência e Tecnologia” como foco prioritário de atuação.

Observando o cenário por lentes otimistas e incentivadoras, Silvana Bahia comenta sobre a importância das organizações da sociedade civil (OSCs) neste contexto. “As OSCs têm um papel fundamental em criar espaços, iniciativas e propor ações para mitigar os efeitos negativos das IAs. Não podemos dissociar as tecnologias de questões sociais.”

Ponto de vista partilhado por Gabriela Agustini, também co-diretora do Olabi, que menciona perspectivas possíveis.

“Na nossa visão, existem dois pontos-chave para estimular mais investimentos: um se baseia em alertar os potenciais riscos associados a como os sistemas vêm se desenhando e sendo adotados; o outro se refere a dar visibilidade a alternativas de uso da inteligência artificial que coloquem a justiça social e o bem comum no centro do seu processo.”

GABRIELA AGUSTINI, também co-diretora do Olabi

Um dos caminhos é promover a criticidade, incentivando o desenvolvimento da mão de obra local e a criação de sistemas alinhados com a realidade e os desafios sociais do país.

“E isso só ocorrerá se o investimento social privado se tornar parceiro de experimentações que permitam vivermos em realidades sonhadas por grupos mais diversos e menos hegemônicos”, finaliza Gabriela.