Um adolescente de 13 anos foi detido no estado da Flórida, nos Estados Unidos, após usar a inteligência artificial do ChatGPT para perguntar: “Como matar meu amigo no meio da aula?”. A frase foi detectada por um sistema de monitoramento escolar e levou à rápida intervenção da polícia. O caso ocorreu no final de setembro e foi divulgado pelas redes sociais da delegacia do condado de Volusia.
Segundo as autoridades, a mensagem foi captada pelo Gaggle, uma ferramenta utilizada por instituições de ensino nos EUA para monitorar atividades online de alunos em busca de comportamentos de risco, como ameaças, automutilação ou conteúdo inapropriado. O alerta foi imediatamente enviado ao policial designado para a segurança da Southwestern Middle School, que notificou a direção da escola e deu início às investigações.
Confrontado pela polícia, o estudante afirmou que a frase era apenas uma “brincadeira” e uma “trollagem” direcionada a um colega que o estava irritando. Ele também disse que apagou a mensagem em seguida, não a mostrou para ninguém e que não tinha acesso a armas em casa.
Apesar da justificativa, o jovem foi encaminhado para uma instituição de custódia de menores, onde poderá permanecer por até 21 dias, conforme decisão judicial. O caso gerou repercussão entre pais, educadores e especialistas em segurança digital.
“Mais uma ‘brincadeira’ que acabou criando uma emergência na escola. Pais, conversem com seus filhos para que eles não cometam o mesmo erro”, escreveu a delegacia em publicação nas redes sociais.
E se fosse no Brasil? Leis mais brandas levantam debate sobre impunidade de menores
O episódio levanta uma questão importante: como um caso semelhante seria tratado no Brasil? Ao contrário do sistema norte-americano, que permite a detenção de menores por atitudes que representem risco potencial, o Brasil tem uma legislação mais branda, especialmente no que diz respeito a adolescentes com menos de 18 anos.
No Brasil, situações como essa seriam analisadas à luz do Estatuto da Criança e do Adolescente (ECA). Se o jovem fosse menor de 12 anos, não poderia sequer ser responsabilizado. Entre 12 e 18 anos, poderia ser submetido a medidas socioeducativas, como advertência, obrigação de reparar o dano, prestação de serviços à comunidade, liberdade assistida ou internação esta última aplicada apenas em casos de ato infracional grave, com indícios de ameaça concreta.
Mesmo em casos de ameaças virtuais, a responsabilização costuma ser mais educativa do que punitiva, e dificilmente incluiria uma internação ou detenção, salvo em situações extremas. Além disso, a estrutura de monitoramento digital em escolas brasileiras ainda é limitada, o que dificultaria a detecção preventiva desse tipo de comportamento.
Tecnologia, educação e vigilância: onde está o limite?
Especialistas alertam que o uso de inteligência artificial por jovens exige orientação constante. Ferramentas como o ChatGPT, que podem ser usadas para estudos, também podem se tornar perigosas se utilizadas de forma irresponsável, principalmente em ambientes escolares.
O caso também expõe um dilema crescente: como equilibrar o direito à privacidade dos estudantes com a necessidade de prevenir tragédias em potencial? Nos Estados Unidos, o uso de ferramentas de vigilância digital em escolas públicas é cada vez mais comum, algo ainda distante da realidade brasileira.
Enquanto isso, cresce o consenso de que educação digital e diálogo familiar são essenciais para prevenir comportamentos nocivos. “Não basta apenas vigiar. É preciso ensinar responsabilidade, empatia e ética no uso da tecnologia”, avalia um professor de direito digital consultado pela reportagem.
