Não há dúvidas de que nos últimos anos tivemos grandes avanços tecnológicos relacionados ao desenvolvimento da Inteligência Artificial (IA).
Entretanto, será que a aplicação dos princípios que norteiam sua ética e transparência está acompanhando — com a mesma velocidade — tamanho progresso?
A questão é complexa, envolvendo fatores regulatórios e a adoção de padrões e práticas mais criteriosas por parte das empresas.
A ideia deste breve texto é, portanto, esclarecer, informar e propor algumas recomendações para que os setores público e privado possam acelerar ainda mais, mas de maneira responsável, uma das agendas mais estratégicas e impulsionadoras de desenvolvimento econômico e social do nosso tempo.
Como demonstração da importância que o tema já suscita em todo o ecossistema de IA, em relatório publicado recentemente pela IBM, o Global AI Adoption Index 2022, pouco mais de um terço (34%) dos entrevistados, das mais de 7 500 empresas de 19 países, afirmaram que a falta de habilidades ou treinamentos para o desenvolvimento e gerenciamento de uma IA confiável e explicável ainda é um desafio a ser vencido.
Dentre as maiores barreiras existentes para a adoção da Inteligência Artificial, esta necessidade foi a mais citada pelos profissionais participantes da pesquisa.
Outro ponto, que reforça a importância de buscar modelos transparentes e éticos para o desenvolvimento desta tecnologia, foi a confirmação de que a maioria das organizações (61%) ainda não seguiu as etapas necessárias para garantir que sua IA seja considerada confiável a ponto de conseguir explicar o racional por trás das decisões tomadas ou sugeridas
Para além das questões de conscientização e preparo, o aspecto regulatório, que vem ganhando cada vez mais atenção dos governos no mundo todo, tem se mostrado crucial para a adoção de padrões que garantam um bom uso da Inteligência Artificial onde quer que ela toque.
Há mais de três anos, a Comissão Europeia, braço regulatório da União Europeia, vem estudando e debatendo com toda a sociedade uma proposta bastante abrangente que tem como objetivo não apenas regulamentar o uso da tecnologia, mas transformar a Europa em um centro global de excelência e confiança em Inteligência Artificial.
De modo geral, ela busca estabelecer os requisitos mínimos necessários para abordar os riscos ligados ao uso da tecnologia em produtos, serviços ou até setores definidos.
Para isso, os envolvidos tê tomado o cuidado denão restringir ou dificultar a inovação tecnológica ou impactar negativamente na competitividade das soluções que vão a mercado, tudo com a intenção de promover um equilíbrio entre os riscos e os inúmeros benefícios que a tecnologia, combinada com outras como a nuvem híbrida e sistemas de segurança da informação cada vez mais robustos, podem trazer para a evolução da sociedade.
No nosso país, tomando como base aspectos gerais e princípios internacionais, em 2021 foi publicada a Estratégia Brasileira de Inteligência Artificial (EBIA), que reúne as principais orientações para o desenvolvimento da IA de forma responsável e objetiva.
No mesmo ano, a Câmara dos Deputados aprovou um projeto de lei que define princípios para tecnologia, como a não discriminação e centralidade do ser humano.
O texto traz ainda fundamentos ao desenvolvimento e aplicação da tecnologia, como estímulo à autorregulação, à livre manifestação de pensamento e expressão, além da proteção de dados pessoais
O PL agora está em discussão no Senado Federal, que por orientação do seu presidente, instituiu uma Comissão de Juristas para elaborar melhorias ao projeto.
Este grupo vem trabalhando há alguns meses, promovendo audiências públicas e recebendo sugestões das mais variadas áreas de representantes da sociedade civil.
Neste mês, a Comissão realizou um seminário com especialistas e, até o final do ano, deve apresentar um novo texto para que o debate legislativo possa avançar.
Neste seminário, que teve participação de especialistas de diversos países, a fala da advogada Teki Akuetteh Falconer, da Africa Digital Rights’ Hub (Gana), alertou para uma série de “lacunas e questões éticas” que precisam ser consideradas no desenvolvimento de ferramentas de IA.
Ela defendeu a atuação conjunta de especialistas de várias áreas para que direitos individuais sejam assegurados e afirmou que é preciso evitar que assimetrias econômicas e problemas de conectividade possam inviabilizar a adoção da tecnologia de maneira uniforme.
A advogada ainda lembrou que este não é apenas um debate legal ou regulatório, mas que deve considerar também a expertise de engenheiros e especialistas em privacidade e em direitos humanos, sob a pena de se produzir um texto parcial e que não leve em consideração todos os desafios que o tema traz para o desenvolvimento social.
Do mesmo seminário, participou Christina Montgomery, vice-oresidente e Chief Privacy Officer da IBM, que reforçou o seguinte ponto: para que empresas e governos percebam os benefícios da Inteligência Artificial, primeiro eles devem confiar na tecnologia
E para isso, é fundamental que as empresas incorporem o pensamento ético em todas as etapas do ciclo de vida de desenvolvimento da IA. E com ele, quatro princípios interdependentes e determinantes são cruciais para desenvolver qualquer política e/ou algoritmo: confiança, governança de dados, diversidade e transparência.
Sobre a confiança, ela deve ser a base, não só do relacionamento entre organizações e clientes, mas também de sistemas capazes de manter a integridade da privacidade, do sigilo de dados e das escolhas dos clientes.
Com base no relatório mencionado no início deste artigo, vale ressaltar que 85% dos entrevistados concordam que os consumidores são mais propensos a escolher serviços de empresas que ofereçam transparência e estrutura ética sobre como os dados e os modelos de IA são construídos, gerenciados e usados
Já a governança de dados precisa suplantar a lógica da programação e incorporar a construção de algoritmos humanizados, que devem ser desenvolvidos e amparados por comitês ou conselhos internos. Eles estabelecerão e revisarão, com uma abordagem multidisciplinar e multidimensional, as premissas éticas que apoiarão a construção de um determinado algoritmo.
A diversidade também é essencial para a elaboração e gerenciamento desses códigos, que são construídos com base no aprendizado dos dados.
Como parte da estrutura de governança proposta acima, é fundamental que a força de trabalho responsável pelos mais variados softwares e sistemas de IA das empresas seja composta por profissionais com o maior número de diversidades representadas
Esta característica evita que os sistemas de Inteligência Artificial sejam distorcidos com os vieses inconscientes de quem os desenvolvem e apresentem preconceitos implícitos o que, certamente, comprometerá a habilidade de aprendizado e, consecutivamente, a precisão na geração de respostas e insights.
Por fim, a transparência precisa permear os processos de tomada de decisão de uma IA. Estes processos precisam ser explicáveis, de maneira didática e ao alcance de qualquer usuário interessado em conhecer o racional por trás de uma recomendação, seja ela probabilística ou determinística.
No Global AI Adoption Index 2022, 56% dos profissionais de TI entrevistados disseram que manter a integridade da marca e a confiança dos consumidores é o aspecto mais importante para os negócios quando se trata de explicabilidade e confiança.
A ética e transparência há muito deixaram de ser complementos para desenvolver aplicações com o uso de Inteligência Artificial. Atualmente, estes princípios se configuram como essenciais — além de serem diferenciais competitivos em um mercado cada vez mais exigente e conectado com o que os clientes querem
Governo e setor privado, ao trabalharem juntos nas definições acima, têm todas as condições de criarem o ambiente necessário para a adoção de uma IA segura, confiável e em larga escala — o que certamente revelaria o enorme impacto positivo que ela já tem condições de propiciar para o desenvolvimento econômico e social do nosso planeta.
Fabio Rua é diretor de Relações Governamentais (Latam) e líder global de Políticas ESG da IBM.
Diante de eventos climáticos extremos e uma desigualdade brutal, como construir um amanhã viável? Gustavo Rosa, da Questtonó, compartilha insights de uma pesquisa recente sobre as preocupações e esperanças dos jovens brasileiros.
Quantos anos de trabalho você ainda tem pela frente? Entenda por que a métrica para se determinar a fatia economicamente ativa da população está defasada – e por que deveríamos inverter já o nosso conceito de longevidade.
A nossa atenção determina a forma como experimentamos o tempo e a realidade. Por que, então, deixamos que as empresas tratem um recurso tão vital como mera mercadoria? Kim Loeb alerta para os perigos da Economia Extrativista da Atenção.
