Tecnologia desenvolvida na USP usa IA para identificar riscos no conteúdo digital acessado por crianças e adolescentes
Conteudo
TLDR;
Desenvolvida pela Embrapii ICMC‑USP em parceria com a startup Infantia e coordenada pelo professor Luís Gustavo Nonato, a solução está disponível como o aplicativo gratuito Infantia Online para download. A tecnologia usa grandes modelos de linguagem (LLMs) para analisar textos produzidos e consumidos por crianças e adolescentes, identificando temas sensíveis como bullying, assédio, violência, automutilação, uso de drogas, mudanças de padrão linguístico e sinais de isolamento ou pedidos indiretos de ajuda. Os dados são coletados diretamente no dispositivo da criança ou adolescente, anonimizados e processados em ambiente seguro, e o sistema envia alertas aos pais ou responsáveis quando detecta situações potencialmente preocupantes.
Resumo
A parceria entre a Embrapii ICMC-USP e a startup Infantia resultou no aplicativo Infantia Online, que utiliza modelos de linguagem (LLMs) para analisar textos produzidos e consumidos por crianças e adolescentes em dispositivos móveis, identificando sinais de risco como bullying, assédio, violência, automutilação, uso de drogas e mensagens de teor sexual, além de mudanças de padrão linguístico, isolamento ou pedidos indiretos de ajuda. Motivado por dados do TIC Kids Online Brasil 2025 — 92% das pessoas entre 9 e 17 anos usam internet, 28% tiveram primeiro contato antes dos seis anos e um em cada cinco jovens de 11 a 17 recebeu conteúdo sexual online — o projeto, coordenado pelo professor Luís Gustavo Nonato, processa dados coletados no aparelho da criança de forma anonimizada e segura, gerando alertas para pais e responsáveis e oferecendo orientações práticas com apoio de psicólogos da UFES. Diferente de soluções que apenas monitoram links, a tecnologia analisa mensagens e postagens lidas ou enviadas, buscando proteger sem invadir a privacidade ou romper vínculos. Disponível gratuitamente, o aplicativo exemplifica o modelo Embrapii de inovação que aproxima universidade e empresa para acelerar soluções sociais. O download gratuito facilita a adoção por famílias e escolas, ampliando o alcance e impacto preventivo.