A inteligência artificial (IA) e o aprendizado de máquina (ML) têm transformado diversos setores, automatizando tarefas e proporcionando insights valiosos a partir de grandes volumes de dados. No entanto, apesar dos avanços significativos, a IA e o ML ainda enfrentam desafios, como viés (bias) e erros de interpretação. Para superar esses problemas, é necessário adotar abordagens que integrem a intuição e a capacidade de julgamento humano no processo de aprendizado e tomada de decisão das máquinas. Uma dessas abordagens é o conceito de " Human in the Loop " ( HITL ).

O Human in the Loop é uma estratégia de interação entre humanos e sistemas de IA, na qual os humanos desempenham um papel ativo no treinamento, validação e supervisão dos modelos. Ao combinar a capacidade de processamento e análise de grandes volumes de dados das máquinas com a experiência, contexto e percepção humana, o HITL visa melhorar a qualidade, eficiência e precisão dos sistemas de IA.

A implementação do HITL pode ocorrer de várias maneiras, incluindo treinamento supervisionado, validação e verificação, e tomada de decisão colaborativa. No treinamento supervisionado, por exemplo, humanos fornecem feedback e rotulam exemplos de dados, ajudando o algoritmo a aprender e melhorar suas previsões. Já na tomada de decisão colaborativa, os humanos são consultados quando o algoritmo não possui confiança suficiente em suas previsões, proporcionando uma perspectiva adicional que ajuda a evitar erros.

Na teoria

" Human in the Loop " (HITL) é um conceito no campo do aprendizado de máquina e da inteligência artificial que envolve a interação direta entre humanos e sistemas automatizados durante o processo de aprendizado ou tomada de decisão. O objetivo é melhorar a qualidade, a eficiência e a precisão dos sistemas, aproveitando a intuição e a capacidade de julgamento dos humanos em combinação com o poder de processamento e análise dos algoritmos de aprendizado de máquina.

Existem várias formas de implementar o conceito de Human in the Loop, tais como:

  1. Treinamento supervisionado : durante o treinamento de um modelo, um humano fornece feedback, como rotular exemplos de dados, para ajudar o algoritmo a aprender e melhorar suas previsões.
  2. Validação e verificação : um humano verifica e ajusta os resultados gerados por um algoritmo antes de serem aplicados ou divulgados, para garantir a qualidade e a precisão das informações.
  3. Tomada de decisão colaborativa : em situações onde o algoritmo não tem confiança suficiente em suas previsões, um humano pode ser consultado para tomar a decisão final, ajudando a evitar erros.

O Human in the Loop é especialmente útil em cenários complexos ou sensíveis, onde a compreensão contextual e a intuição humana são importantes para garantir resultados corretos e de alta qualidade.


Na prática

Um exemplo de implementação do conceito de Human in the Loop (HITL) relacionado à proteção de dados e à Lei Geral de Proteção de Dados (LGPD) poderia ser o desenvolvimento de um sistema de classificação automatizada de dados pessoais e sensíveis em uma organização. A aplicação do HITL ajudaria a garantir que os dados sejam tratados e armazenados de acordo com as diretrizes da LGPD.

Neste exemplo, o sistema de aprendizado de máquina seria treinado para identificar e classificar automaticamente diferentes tipos de dados pessoais e sensíveis presentes em documentos e bancos de dados da organização. Isso incluiria informações como nome, CPF, endereço, dados biométricos, entre outros.

Durante o processo de treinamento e validação do modelo, os especialistas em privacidade de dados forneceriam feedback e rotulariam exemplos para ajudar o algoritmo a aprender a identificar corretamente os tipos de dados pessoais e sensíveis. Isso garantiria que o modelo fosse treinado com base na experiência e conhecimento dos especialistas em conformidade com a LGPD.

Após o treinamento do modelo, o sistema poderia ser implementado para analisar e classificar dados automaticamente. No entanto, em casos onde o algoritmo não tem confiança suficiente em suas classificações ou encontra situações ambíguas, ele consultaria os especialistas humanos para tomar a decisão final sobre a classificação dos dados.

Os especialistas em privacidade de dados analisariam esses casos e forneceriam feedback ao sistema, permitindo que o modelo aprendesse com as decisões humanas e melhorasse suas previsões ao longo do tempo. Isso garantiria a conformidade contínua com a LGPD e melhoraria a eficiência e a precisão do sistema de classificação de dados.

Quem fala sobre esse tema

Alguns autores e seus respectivos livros que abordam temas relacionados à inteligência artificial, aprendizado de máquina e interação humano-computador, incluindo o conceito de Human in the Loop:

  1. Pedro Domingos - "The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World"
  2. Stuart Russell e Peter Norvig - "Artificial Intelligence: A Modern Approach"
  3. Tom Mitchell - "Machine Learning"
  4. Cathy O'Neil - "Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy"
  5. Max Tegmark - "Life 3.0: Being Human in the Age of Artificial Intelligence"
  6. Andrew Ng - "Machine Learning Yearning: Technical Strategy for AI Engineers, In the Era of Deep Learning"
  7. Nick Bostrom - "Superintelligence: Paths, Dangers, Strategies"
  8. Calum Chace - "The Economic Singularity: Artificial Intelligence and the Death of Capitalism"
  9. Judea Pearl e Dana Mackenzie - "The Book of Why: The New Science of Cause and Effect"
  10. Don Norman - "The Design of Everyday Things"

Nem todos esses livros abordem especificamente o conceito de Human in the Loop, mas eles fornecem uma base sólida sobre inteligência artificial, aprendizado de máquina, ética, privacidade e interação humano-computador, que são áreas relevantes para entender e aplicar o conceito de HITL.

Erros do passado que poderiam ter final diferente com HITL

3 casos onde a aplicação do Human in the Loop poderia ter ajudado a identificar e corrigir problemas de viés, garantindo resultados mais justos e precisos, bem como melhorando a aceitação e a confiabilidade dos sistemas de inteligência artificial:

  1. Sistema de reconhecimento facial com viés racial : Vários sistemas de reconhecimento facial foram identificados com viés racial, tendo desempenho inferior na identificação de pessoas com tons de pele mais escuros em comparação com tons de pele mais claros. A implementação do conceito de Human in the Loop poderia ter ajudado a identificar e corrigir esses problemas durante o treinamento do modelo. Com a participação de humanos, especialmente de diversas origens étnicas, para revisar, rotular e fornecer feedback sobre as previsões do modelo, o sistema poderia ter aprendido a lidar melhor com a diversidade e reduzir o viés racial.
  2. Sistema de recrutamento discriminatório : Em 2018, a Amazon abandonou um sistema de inteligência artificial de recrutamento que apresentava viés de gênero, favorecendo candidatos do sexo masculino para cargos técnicos. Se o conceito de Human in the Loop tivesse sido aplicado adequadamente, especialistas em recursos humanos e ética de IA poderiam ter fornecido feedback durante o treinamento do modelo, ajudando a identificar e corrigir esse viés. Além disso, eles poderiam ter participado da validação e verificação das previsões do modelo antes de serem aplicadas, garantindo uma seleção de candidatos mais justa e equitativa.
  3. Chatbot Tay da Microsoft : Em 2016, a Microsoft lançou o chatbot Tay no Twitter, que rapidamente começou a publicar mensagens ofensivas e discriminatórias devido à influência de usuários mal-intencionados. A aplicação do conceito de Human in the Loop poderia ter mitigado esse problema. Durante o treinamento do chatbot, moderadores e especialistas poderiam ter fornecido feedback e orientações sobre como lidar com esse tipo de interação. Além disso, o monitoramento humano em tempo real poderia ter sido implementado, permitindo a intervenção rápida para corrigir ou desativar o chatbot antes que a situação piorasse.

O Human in the Loop é uma abordagem promissora para enfrentar os desafios da IA e do aprendizado de máquina, equilibrando as habilidades humanas e computacionais para criar sistemas mais eficazes, precisos e confiáveis. À medida que a IA continua a evoluir, a integração do HITL será cada vez mais importante para garantir que as tecnologias de IA sejam desenvolvidas e aplicadas de maneira responsável e benéfica para a sociedade.

Pronto, agora já sabemos um pouco mais sobre o termo HITL, então, bora ser o human in the loop?