Machine Unlearning: por que também é importante desaprender?

A preocupação com segurança e privacidade dos dados é cada vez mais discutida e, por conta disso, pesquisadores buscam maneiras para remover dados confidenciais sem retreinar o sistema do zero.

Inteligência Artificial, Machine Learning, Machine Unlearning, Inovação, Big Data, Privacidade, Segurança

Diversos segmentos de negócios têm utilizado o machine learning para analisar dados de seus consumidores, uma forma de entender a fundo gostos, desgostos, interesses, desejos, necessidades… Mas a pergunta que também tem surgido é: será possível fazer as máquinas esquecerem?

O principal objetivo do aprendizado de máquina é tornar o sistema cada vez mais inteligente. Uma infinidade de dados são armazenados, interligados e analisados para criar uma diversidade de cenários possíveis, considerando inúmeras variáveis.

Mas e se fosse necessário causar amnésia seletiva no sistema? Remover todos os vestígios de uma determinada pessoa ou ponto de dados de um sistema de aprendizado sem afetar seu desempenho?

Machine Unlearning e a LGPD

Com as recentes legislações de proteção de dados pessoais, o usuário passou a ter o direito de revogar permissões de uso e acesso aos seus dados, sendo possível solicitar que suas informações sejam excluídas por completo de uma base de dados. É neste cenário que se insere o conceito de “desaprendizado de máquina”, uma forma de remover ou ocultar os vestígios de um usuário ou cliente de um sistema de aprendizado.

Este conceito consagra o direito do usuário acerca do controle sobre seus dados e trata também sobre o valor que os dados podem gerar para empresas que o possuem. Ou seja, além de revogar o acesso aos dados, o usuário teria o direito de impedir que a empresa tenha qualquer lucro com esses dados a partir dali.

O trabalho de captar, armazenar e processar dados tem um custo, em alguns casos um custo alto, e a preocupação aqui é não perder todo o investimento feito, tendo que reiniciar o treinamento de máquina desde o zero por conta da exclusão de dados dentro do sistema.

O grande desafio, então, é conseguir remover um traço do aprendizado sem prejudicar todo o aprendizado em si. Mas, ainda assim, chegar a técnicas aplicáveis de desaprendizado é particularmente urgente, por vários motivos além da privacidade, como segurança e usabilidade.

Esta discussão ainda caminha a passos curtos e muitas lacunas precisam ser preenchidas. No entanto, a inteligência artificial e o machine learning são realidades presentes no dia a dia de todos, é fundamental aprender a usá-los com qualidade.

Para que a atuação de um sistema de análise seja realizada de forma segura e eficaz é fundamental contar com o auxílio de ferramentas que descompliquem os conceitos de big data e estejam de acordo com as normas vigentes. Conheça as soluções nxt.demand e nxt.operations da Dom Rock e entenda como inseri-las dentro dos desafios de negócio da sua empresa.