A importância da IA ​​explicável para remover preconceitos na era do ChatGPT

Desde o início da Inteligência Artificial, a tecnologia tem sido fonte de entusiasmo intermitente, preocupação e, claro, avanço em todos os setores.

Da Skynet aos revolucionários recursos de diagnóstico na área da saúde, a IA tem o poder de capturar a imaginação e impulsionar a inovação.

Para o público em geral, as discussões em torno da IA ​​centram-se geralmente em cenários apocalípticos bizarros, preocupações sobre os robôs tomarem os nossos empregos ou entusiasmo sobre como a automação pode precipitar um paradigma de vida profissional mais equilibrado. Para a maioria, a aplicação prática e a compreensão da IA ​​têm sido em grande parte escondidas da vista, o que levou a um equívoco que preenche o vazio.

Os casos de uso mais atraentes para IA há muito são domínio de empresas, governos e gigantes da tecnologia, mas tudo isso mudou com a chegada do ChatGPT da OpenAI. Este é o primeiro exemplo de um grande modelo de linguagem e de suas capacidades generativas amplamente disponíveis para consumo em massa.

Criou um playground de IA que é imediatamente, e em graus variados, útil em muitos contextos.

A questão mais flagrante, no entanto, e que existe desde os primórdios da IA, é o preconceito.

Nos últimos tempos, os cientistas de dados têm-se esforçado à medida que procuram formas de eliminar o preconceito dos modelos, com especial pressão em indústrias onde os resultados dos modelos podem afetar negativamente os clientes e os utilizadores finais.

Quando se trata de serviços financeiros, por exemplo, algoritmos de tomada de decisão têm sido usados ​​há muitos anos para agilizar decisões e melhorar serviços. Mas no contexto dos empréstimos, decisões “más” ou “erradas” que são produto de um modelo tendencioso podem ter consequências desastrosas para os indivíduos.

A eliminação de preconceitos requer uma estratégia multifacetada, desde garantir que as equipas de ciência de dados e de aprendizagem automática sejam representativas das comunidades para as quais estão a construir soluções - ou pelo menos compreendam os princípios de construção de justiça nos modelos - até garantir que os modelos sejam explicáveis.

A principal motivação por trás da IA ​​explicável como prática recomendada é a eliminação dos modelos de aprendizado de máquina 'caixa preta'. As caixas negras podem muitas vezes ter um elevado desempenho, mas se os seus resultados não puderem ser compreendidos, poderá haver pouca defesa concreta contra acusações de imprecisão ou discriminação.

Nas indústrias em que os modelos de tomada de decisão podem ter consequências profundas, a pressão para uma maior responsabilização está a crescer tanto por parte dos consumidores como dos reguladores, razão pela qual, na minha opinião, as empresas devem procurar estar à frente da curva.

Os principais componentes de um modelo que precisam ser explicados quando se considera o viés são frequentemente negligenciados. Cientistas de dados e engenheiros de aprendizado de máquina têm um pipeline padrão para trabalhar ao construir um modelo. Os dados estão, obviamente, no centro de tudo, por isso começamos explorando nossos conjuntos de dados e identificando relações entre eles.

Em seguida, passamos por uma análise exploratória de dados que nos permite transformar os dados em um formato utilizável. Então é hora de organizar, limpar e pré-processar os dados antes de começarmos a geração de recursos para criar descrições mais úteis dos dados para resolver o problema em questão.

Em seguida, experimentamos diferentes modelos, ajustamos parâmetros e hiperparâmetros, validamos os modelos e repetimos o ciclo até termos uma solução de alto desempenho. O problema aqui é que, sem um esforço empenhado para garantir a justiça em cada fase, os resultados resultantes podem ser tendenciosos.

É claro que nunca poderemos garantir a eliminação total de preconceitos, mas podemos fazer esforços para garantir que cada fase do desenvolvimento de um modelo esteja em conformidade com uma metodologia que dê prioridade à justiça.

Minha recomendação para isso é primeiro selecionar diversos conjuntos de dados para modelos de treinamento, ou seja, aqueles que são mais representativos, e também desenvolver processos padronizados e documentação que explique os modelos e como eles estão em conformidade com a metodologia, para que o desempenho e as decisões possam ser entendido.