IA no WhatsApp facilita controle parental. Conheça a ferramenta desenvolvida por doutora em engenharia e mãe brasileira

Uma iniciativa desenvolvida por uma empresária brasileira que vive em Paris propõe um caminho diferente do controle parental tradicional. Em vez de bloquear aplicativos ou exigir que os responsáveis leiam todas as conversas dos filhos, a ferramenta utiliza inteligência artificial para identificar sinais de risco nas mensagens trocadas pelo WhatsApp e avisar a família apenas quando encontra conteúdos potencialmente preocupantes.

A tecnologia, batizada de Diana, ainda está em fase de testes, mas já reúne mais de 150 crianças e adolescentes no projeto piloto. A idealizadora é Karen Salim, doutora em Engenharia e CEO da KMS Hub, empresa especializada em inteligência artificial. Segundo ela, a ideia nasceu de uma experiência pessoal.

“Somos uma empresa que trabalha com inteligência artificial há muitos anos, principalmente para a área da saúde. Mas recentemente resolvi usar uma IA, que já utilizo com os meus filhos há mais de três anos, para ajudar outras mães. A proposta é permitir que a criança tenha liberdade para usar o dispositivo sem que os pais precisem ler todas as conversas ou criar uma sensação de invasão de privacidade.”

Karen conta que a decisão de transformar a solução em produto foi motivada por um episódio envolvendo a filha de uma amiga. “Ela sofreu muito bullying em grupos de WhatsApp e chegou a tentar fazer coisas contra ela mesma. Naquele momento percebi que eu já tinha uma ferramenta funcionando na minha casa e resolvi disponibilizá la para outras famílias.”

Segundo a executiva, a IA não envia aos pais um histórico completo das conversas. O sistema monitora padrões considerados sensíveis e gera alertas quando identifica situações que merecem atenção. “O que ela monitora são sinais de predadores, aliciamento, pedidos impróprios, bullying, agressões, intimidação, saúde emocional, tristeza, depressão, golpes, fraudes e extorsão.”

De acordo com Karen, a tecnologia também procura identificar relações de poder entre crianças e adolescentes, situações em que um jovem exerce influência excessiva sobre outro. “Às vezes existe uma relação em que uma criança passa a fazer tudo o que a outra quer. Nem sempre isso é evidente para os adultos, mas a inteligência artificial consegue identificar esse padrão.”

Quando um comportamento é sinalizado, os responsáveis recebem um aviso por e-mail ou mensagem. Além do alerta, a plataforma informa por que aquele conteúdo foi considerado sensível e oferece orientações sobre como abordar o assunto com a criança.

“A ideia não é substituir a conversa entre pais e filhos. Pelo contrário. É justamente abrir esse diálogo.”

A criação da Diana também reflete os desafios enfrentados pela própria desenvolvedora. Mãe de Helena, de 10 anos, e Carlos, de 13, Karen vive em Paris há sete anos e conta que a rotina familiar tornou inviável acompanhar manualmente todas as conversas dos filhos.

“Meu filho está entrando na pré adolescência e minha filha começou a usar o celular há alguns meses. Como eles também se relacionam com crianças de diferentes países e idiomas, fica muito difícil chegar todas as noites e ler tudo o que acontece no WhatsApp.”

Ela afirma que o sistema já ajudou a identificar situações delicadas antes que se agravassem. “Uma amiga da minha filha, que havia se mudado, escreveu que queria fugir de casa. A inteligência artificial me notificou e eu liguei para a mãe da criança. Em outra ocasião, ela identificou uma briga em um grupo do meu filho, em que meninas estavam se xingando, e também consegui avisar as famílias.”

Disponível atualmente em português, inglês, francês, espanhol e alemão, a ferramenta já é utilizada por famílias de diferentes países. A expectativa é ampliar o monitoramento para outras plataformas, como Roblox, YouTube e Snapchat. A ferramenta é instalada no WhatsApp da criança e está disponível aqui. 

Embora a tecnologia represente um novo recurso para a proteção digital, especialistas em infância e desenvolvimento infantil costumam reforçar que nenhuma ferramenta substitui a construção de confiança entre pais e filhos. “Em períodos como as férias, quando o tempo de exposição às telas tende a aumentar, manter o diálogo aberto sobre o que acontece no ambiente digital continua sendo uma das estratégias mais importantes para identificar mudanças de comportamento e garantir que crianças e adolescentes saibam que podem pedir ajuda sempre que necessário”, conclui.