Machine Unlearning: por que também é importante desaprender?

A preocupação com segurança e privacidade dos dados é cada vez mais discutida e, por conta disso, pesquisadores buscam maneiras para remover dados confidenciais sem retreinar o sistema do zero.


Inteligência Artificial, Machine Learning, Machine Unlearning, Inovação, Big Data, Privacidade, Segurança


Diversos segmentos de negócios têm utilizado o machine learning para analisar dados de seus consumidores, uma forma de entender a fundo gostos, desgostos, interesses, desejos, necessidades… Mas a pergunta que também tem surgido é: será possível fazer as máquinas esquecerem?



O principal objetivo do aprendizado de máquina é tornar o sistema cada vez mais inteligente. Uma infinidade de dados são armazenados, interligados e analisados para criar uma diversidade de cenários possíveis, considerando inúmeras variáveis.


Mas e se fosse necessário causar amnésia seletiva no sistema? Remover todos os vestígios de uma determinada pessoa ou ponto de dados de um sistema de aprendizado sem afetar seu desempenho?


Machine Unlearning e a LGPD


Com as recentes legislações de proteção de dados pessoais, o usuário passou a ter o direito de revogar permissões de uso e acesso aos seus dados, sendo possível solicitar que suas informações sejam excluídas por completo de uma base de dados. É neste cenário que se insere o conceito de “desaprendizado de máquina”, uma forma de remover ou ocultar os vestígios de um usuário ou cliente de um sistema de aprendizado.


Este conceito consagra o direito do usuário acerca do controle sobre seus dados e trata também sobre o valor que os dados podem gerar para empresas que o possuem. Ou seja, além de revogar o acesso aos dados, o usuário teria o direito de impedir que a empresa tenha qualquer lucro com esses dados a partir dali.


O trabalho de captar, armazenar e processar dados tem um custo, em alguns casos um custo alto, e a preocupação aqui é não perder todo o investimento feito, tendo que reiniciar o treinamento de máquina desde o zero por conta da exclusão de dados dentro do sistema.


O grande desafio, então, é conseguir remover um traço do aprendizado sem prejudicar todo o aprendizado em si. Mas, ainda assim, chegar a técnicas aplicáveis de desaprendizado é particularmente urgente, por vários motivos além da privacidade, como segurança e usabilidade.


Esta discussão ainda caminha a passos curtos e muitas lacunas precisam ser preenchidas. No entanto, a inteligência artificial e o machine learning são realidades presentes no dia a dia de todos, é fundamental aprender a usá-los com qualidade.


Para que a atuação de um sistema de análise seja realizada de forma segura e eficaz é fundamental contar com o auxílio de ferramentas que descompliquem os conceitos de big data e estejam de acordo com as normas vigentes. Conheça as soluções nxt.demand e nxt.operations da Dom Rock e entenda como inseri-las dentro dos desafios de negócio da sua empresa.

15 visualizações0 comentário

Posts recentes

Ver tudo

As tecnologias de dados estão evoluindo para se adaptarem às novas realidades de negócios. Ampliar os resultados de vendas e marketing num ano de retomada de crescimento, como é o de 2022, se apresent