Na última semana as denúncias feitas pelo youtuber Felca sobre a adultização —exposição ou exploração de crianças e adolescentes na internet como se fossem adultos — tomaram conta das redes sociais e colocaram em evidência não apenas a fragilidade da infância no ambiente digital, mas também um problema jurídico de difícil solução: quem deve responder quando um sistema tecnológico, de forma direta ou indireta, contribui para a prática de um crime?
O vídeo publicado pelo criador de conteúdo mostrou como o algoritmo de uma plataforma pode identificar o interesse de um usuário em determinado tipo de material e, em vez de restringir o acesso, recomendar conteúdos semelhantes, aprofundando o risco. A partir daí, surge a dúvida: responsabilizamos a empresa que administra a rede social, o profissional que desenvolveu o sistema, ou seria admissível, em um cenário mais avançado, responsabilizar o próprio sistema inteligente?
Historicamente, o Direito Penal foi moldado para lidar com condutas humanas. Para que haja punição, exige-se que a pessoa tenha agido com dolo ou culpa, ciente de que seu comportamento era ilícito e com possibilidade real de agir de forma diversa. Contudo, o avanço da inteligência artificial cria uma zona cinzenta. Hoje, algoritmos e sistemas autônomos aprendem com dados, tomam decisões e, em certos casos, atuam sem intervenção humana direta.
Imagine, por exemplo:
• Um filtro automatizado de moderação deixa de remover vídeos com conteúdo sexual infantil, apesar de alertas de usuários, permitindo sua ampla difusão;
• Um aplicativo de geolocalização direciona um agressor até a residência de uma vítima, com base em dados coletados e processados sem filtros adequados;
• Um brinquedo conectado à internet, equipado com câmera e reconhecimento facial, grava e armazena imagens de crianças, que acabam vazando para redes criminosas.
Em todos esses casos, a ação (ou omissão) decorre de decisões tomadas por sistemas de IA. Mas, juridicamente, ainda não existe consenso sobre se podemos tratá-los como “agentes” no sentido penal, ou se a responsabilidade deve sempre recair sobre pessoas físicas ou jurídicas que os concebem, operam ou lucram com seu uso.
A discussão esbarra em dois pontos principais: a noção de conduta e a noção de culpabilidade. Pela teoria causalista, conduta é qualquer movimento voluntário que produza resultado, de modo que um agente inteligente poderia, em tese, ser enquadrado, já que executa ações com base em processos próprios, ainda que programados. Já pela teoria finalista, é indispensável que a conduta seja guiada por uma finalidade consciente e dirigida a um fim, algo que exige capacidade de compreensão do significado ético do ato. Nesse critério, a IA não se encaixa, pois, no estágio atual, não possui consciência moral nem aptidão para valorar suas próprias ações.
No Brasil, leis como o ECA, o Marco Civil da Internet e a LGPD já impõem deveres claros de proteção. Decisões do STJ e STF reforçam a obrigação das plataformas de agir preventivamente ou remover conteúdos nocivos após notificação. Há ainda propostas legislativas que tratam da transparência algorítmica e da criminalização de condutas digitais contra crianças. Mas nada disso responde, de forma definitiva, se no futuro será juridicamente possível imputar responsabilidade penal diretamente a sistemas autônomos.
Até que essa discussão avance, a solução prática e imediata continua sendo responsabilizar os humanos por trás da tecnologia. Isso inclui desenvolvedores, operadores, gestores e empresas que se beneficiam economicamente da atividade das plataformas. Ao mesmo tempo, é urgente investir em mecanismos de prevenção, educação digital e ferramentas eficazes de denúncia, garantindo que a proteção da infância não dependa apenas da boa vontade das corporações de tecnologia.
A tecnologia pode aprender e decidir, mas a omissão na proteção da infância continua sendo, e deve permanecer, um problema humano.
