REGISTRO DOI: 10.69849/revistaft/pa10202505251118
Camilla Barros Durães1; Gilberto Da Silva Borges2; Kailany Rodrigues Pego3; Antônio Ítalo Hardman Vasconcelos Almeida4
RESUMO
O presente artigo propõe uma análise da responsabilidade criminal de plataformas digitais, com foco na aplicação da legislação brasileira ao caso da plataforma Discord, diante da ocorrência de crimes de apologia ao crime e associação criminosa em suas comunidades virtuais. O estudo parte da análise do Marco Civil da Internet (Lei 12.965/2014), relacionando-o com precedentes do Supremo Tribunal Federal (RE 1037396 e RE 1057258) e do Superior Tribunal de Justiça (REsp 1.660.168/SP), que definem os limites da responsabilidade das plataformas digitais pela omissão no combate a conteúdos ilícitos. Além disso, fundamenta-se na teoria da Sociedade de Risco de Ulrich Beck, que contextualiza os crimes cibernéticos em uma era marcada pela vulnerabilidade digital e pela expansão dos riscos globais. A metodologia utilizada é qualitativa, de natureza exploratória, baseada em pesquisa documental e bibliográfica, buscando compreender como as plataformas, mesmo sem uma previsão penal explícita, podem ser responsabilizadas diante de falhas graves em seus sistemas de moderação.
Palavras chaves: Responsabilidade criminal; Discord; Marco Civil da Internet; Apologia ao crime; Associação criminosa.
ABSTRACT
This article proposes an analysis of the criminal liability of digital platforms, focusing on the application of Brazilian legislation to the case of the Discord platform, given the occurrence of crimes of apology for crime and criminal association in its virtual communities. The study is based on the analysis of the Brazilian Internet Civil Rights Framework (Law 12.965/2014), relating it to precedents of the Brazilian Supreme Court (RE 1037396 and RE 1057258) and the Superior Court of Justice (REsp 1.660.168/SP), which define the limits of the liability of digital platforms for failure to combat illegal content. In addition, it is based on Ulrich Beck’s theory of the Risk Society, which contextualizes cybercrimes in an era marked by digital vulnerability and the expansion of global risks. The methodology used is qualitative, exploratory in nature, based on documentary and bibliographical research, seeking to understand how platforms, even without an explicit criminal provision, can be held responsible for serious failures in their moderation systems.
Keywords: Criminal liability; Discord; Internet Civil Rights Framework; Apology for crime; Criminal association.
1 INTRODUÇÃO
A plataforma Discord foi criada em 2015 pelos amigos Jason Citron e Stan Vishnevskiy, com a finalidade de facilitar a comunicação de jovens de comunidades gamers. Desde então, a plataforma cresceu significativamente e vem sendo usada para diversos outros objetivos, incluindo a educação, criação de servidores, chamada de vídeo individual ou em grupo. (Magalhães & Ciriaco 2023)
No entanto, o crescimento dessa plataforma também trouxe desafios significativos, especialmente em relação à moderação de conteúdo e à proteção de usuários vulneráveis. Há preocupações crescentes sobre o uso da plataformas Discord para várias atividades ilícitas como o recrutamento de jovens para participarem de associações criminosas, crime tipificado no artigo 288 do Código Penal assim como, a disseminação de informações podem incitar comportamentos perigosos tipificando assim o crime previsto no artigo 286 do Código Penal. (Brasil, 1940).
A presente pesquisa tem como objetivo analisar a responsabilidade criminal da plataforma Discord por crimes de apologia ao crime e associação criminosa praticados em comunidades virtuais hospedadas em sua interface. O estudo se apoia na legislação brasileira, com destaque para o Marco Civil da Internet (Lei nº 12.965/2014), que estabelece as bases para a responsabilização dos provedores de aplicação, e nas decisões recentes do Supremo Tribunal Federal, como os Recursos Extraordinários nº 1037396 e 1057258, que tratam da responsabilização de plataformas digitais por atos ilícitos de terceiros. Ademais, o Recurso Especial nº 1.660.168/SP, julgado pelo Superior Tribunal de Justiça, reforça que a responsabilidade dos provedores pode ultrapassar a esfera civil quando há indícios de conivência com atividades ilícitas, ampliando a discussão sobre a segurança e a responsabilidade no ambiente virtual. Também será utilizado o aporte teórico da Sociedade do Risco, proposto por Ulrich Beck, para entender como as novas tecnologias geram riscos e demandam novas formas de regulação e controle. (Beck, 2006)
O objetivo geral do trabalho é verificar se há possibilidade jurídica para a responsabilização criminal da plataforma Discord, com base na jurisprudência do Supremo Tribunal Federal (STF) e do Superior Tribunal de Justiça (STJ), diante da prática de crimes por terceiros em seu ambiente virtual. Como objetivos específicos, pretende-se: a) examinar o Marco Civil da Internet e seus dispositivos sobre responsabilização penal das plataformas digitais; b) analisar os precedentes do STF e do STJ sobre o tema; e, c) discutir os tipos penais de apologia ao crime e de associação criminosa no ambiente virtual.
2 MATERIAL E MÉTODOS
A metodologia adotada para realizar a análise a fim de identificar qual a responsabilidade criminal da plataforma Discord na indução de jovens a práticas criminosas no qual a partir de uma hipótese inicial sobre a responsabilidade da plataforma Discord no incentivo ao crime, serão levantados argumentos e evidências, buscando comprovar ou refutar essa premissa. Os estudos se concentram em verificar se a atuação da plataforma contribui ou não para a indução de jovens ao crime, com base nas leis vigentes e em casos concretos.
A pesquisa será de caráter exploratório e descritivo,uma vez que aborda um assunto ainda pouco explorado quando se trata da responsabilidade criminal da plataforma Discord no que diz respeito ao aliciamento de jovens para atividades ilícitas. A abordagem exploratória é necessária devido à escassez de estudos acadêmicos sobre o tema, o que abre espaço para novas descobertas a partir da análise dos casos e das políticas da plataforma. Essa perspectiva permite um mergulho mais profundo na questão, visando identificar lacunas nas legislações e nas práticas de moderação da plataforma, além de suscitar questões que poderão servir de fundamento para investigações e debates jurídicos futuros. Dessa forma, utilizará uma abordagem secundária e qualitativa, baseada em análise documental e revisão bibliográfica.
A pesquisa de caráter descritivo tem como foco esclarecer e analisar o funcionamento das políticas de moderação do Discord, além de avaliar sua conformidade com as legislações em vigor, como o Marco Civil da Internet (Lei nº 12.965/2014). A meta é retratar o contexto atual das práticas de moderação e os instrumentos jurídicos, buscando determinar se as estratégias implementadas pela plataforma são eficientes na prevenção de delitos e na salvaguarda dos jovens.
A opção por uma metodologia qualitativa é fundamentada no fato de que a investigação abrange a avaliação de elementos subjetivos e complexos, como as opiniões acerca da eficácia das políticas de moderação e as lacunas legais que envolvem as plataformas digitais. A pesquisa qualitativa possibilita uma exploração aprofundada desses elementos, proporcionando uma compreensão mais abrangente e minuciosa sobre as práticas da plataforma e seus efeitos.
No que diz respeito à análise de documentos e à revisão de literatura, a pesquisa escolhe utilizar dados secundários, incluindo legislações, casos práticos, decisões judiciais e publicações acadêmicas, como base para a investigação. Essa escolha está relacionada à essência do tema, que exige a análise de documentos jurídicos e normativos, além de artigos acadêmicos que já discutiram temas vinculados aos crimes digitais e à responsabilidade das plataformas. A revisão da literatura é fundamental para criar o contexto teórico e prático necessário para compreender o fenômeno e analisar as políticas do Discord.
A fundamentação desta pesquisa se apoiará em uma revisão abrangente da literatura, contemplando doutrinas jurídicas, artigos acadêmicos, relatórios institucionais e notícias pertinentes ao tema de crimes cibernéticos e plataformas digitais, com ênfase no Discord. Serão usadas legislações pertinentes, como o Marco Civil da Internet (Lei n.º 12.965/2014), que disciplina o uso da internet no Brasil, o Código Penal e os julgados do STF e STJ, no que se refere à responsabilização por crimes virtuais.
Serão investigados documentos e relatórios de instituições como o G1, que abordam crimes digitais perpetrados através do Discord. Essa investigação possibilitará entender a utilização da plataforma para práticas ilegais e a forma como as autoridades têm respondido a essas situações. A ênfase estará em avaliar a eficácia das políticas de moderação e os obstáculos que as autoridades enfrentam na aplicação da legislação vigente.
Será realizada uma avaliação minuciosa da legislação atual para determinar se as políticas de moderação e prevenção de crimes no Discord estão alinhadas com os requisitos legais. A pesquisa procurará identificar falhas jurídicas que possam prejudicar a eficácia das investigações e a repressão aos crimes ocorridos em plataformas digitais.
Através dessas metodologias, o estudo pretende apresentar uma análise abrangente e minuciosa das consequências legais e práticas ligadas à responsabilidade do Discord na incitação de jovens à prática de delitos, trazendo uma contribuição significativa para a área do direito e para o desenvolvimento de políticas públicas que tratam de delitos digitais.
3 RESULTADOS
O Discord é uma plataforma digital criada inicialmente para a comunidade gamer, que se expandiu para múltiplos usos sociais, educacionais e profissionais. Os usuários se organizam em “servidores”, que funcionam como fóruns de discussão privados, com canais de texto e voz. Embora o Discord disponha de políticas de uso e diretrizes da comunidade, a moderação é majoritariamente delegada aos administradores de cada servidor, o que dificulta o controle sobre a disseminação de conteúdos ilícitos. (Magalhães & Ciriaco, 2023)
No Brasil, reportagens como Rede Sem Lei, exibida no programa Fantástico, revelaram o uso da plataforma por grupos extremistas para disseminar ódio, planejar ataques e compartilhar pornografia infantil. Um dos casos mais alarmantes foi o do jovem português de 17 anos que, por meio de um servidor no Discord, recrutava e orientava brasileiros com o objetivo de realizar atentados violentos. O grupo promovia a automutilação, o incentivo a massacres escolares e a venda de conteúdo ilegal. Um desses atentados resultou na morte de uma adolescente na zona leste de São Paulo. (Lusa, 2024)
A análise dos Recursos Extraordinários nº 1037396 e 1057258 permite compreender que o Supremo Tribunal Federal estabelece, como regra, a necessidade de ordem judicial para que haja responsabilidade dos provedores por conteúdos de terceiros. Contudo, há brechas interpretativas quanto à responsabilização em casos de omissão dolosa ou culposa, quando a plataforma tem ciência da ilicitude e nada faz para impedir a propagação. (Supremo Tribunal Federal, 2023)
Doutrinadores como Rogério Greco sustentam que a responsabilização penal de plataformas depende da comprovação de vínculo subjetivo (dolo ou culpa), bem como da análise do dever de cuidado. A falta de mecanismos preventivos eficazes ou a negligência diante de denúncias pode configurar responsabilidade penal, especialmente quando se trata de crimes de alto potencial ofensivo como os que envolvem a apologia ao crime e a associação criminosa. (Greco, 2020)
4 DISCUSSÃO
Estamos vivenciando a evolução dos meios digitais e eletrônicos. Com essa evolução, acabamos introduzindo cada vez mais essas ferramentas digitais no nosso dia a dia. Uma das ferramentas mais utilizadas são os aplicativos de comunicação como o Discord. No entanto, é preciso ter cautela cada vez que fazemos uso desse meio virtual, seja para conversar ou para publicar algo, pois o seu uso inadequado pode acarretar responsabilidades penais, além de indenizações. A evolução tecnológica e da internet trouxe consigo vários desafios. Nesse contexto, a Lei nº 12.965/2014, também conhecida como Lei Marco Civil da Internet, tem um papel central na regulamentação das atividades online no Brasil. Esta legislação, que foi sancionada em 2014, estabelece os princípios, garantias, direitos e deveres para o uso da internet. (Dias, 2010)
A plataforma Discord foi criada em 2015 pelos amigos Jason Citron e Stan Vishnevskiy, com a finalidade de facilitar a comunicação de jovens de comunidades gamers. Desde então, a plataforma cresceu significativamente e vem sendo usada para diversos outros objetivos, incluindo a educação, criação de servidores, chamada de vídeo individual ou em grupo. (Magalhães & Ciriaco, 2023)
No entanto, o crescimento dessa plataforma também trouxe desafios significativos, especialmente em relação à moderação de conteúdo e à proteção de usuários vulneráveis. Há preocupações crescentes sobre o uso da plataformas Discord para várias atividades ilícitas como o recrutamento de jovens para participarem de associações criminosas, crime tipificado no artigo 288 do Código
Penal assim como, a disseminação de informações podem incitar comportamentos perigosos tipificando assim o crime previsto no artigo 287 do Código Penal. (Brasil, 1940)
Os membros dessas associações criminosas utilizam os servidores da plataforma, cujo propósito é facilitar a comunicação por meio de mensagens de texto, voz e chamadas de vídeo, para perpetrar atos de extrema violência contra animais e adolescentes. Além disso, promovem a disseminação de material relacionado à pedofilia e zoofilia, bem como incitam o racismo, o nazismo e a misoginia. Esse tipo de conduta criminosa na esfera digital revela a complexidade de lidar com crimes cibernéticos. (Fantástico, 2023)
Segundo Dias (2010, p. 74, grifo nosso):
São apontados como principais problemas na investigação a falta de legislação adequada, a falta de metodologia no tratamento da especificidade deste crime, a interoperatividade dos sistemas, e a lentidão da cooperação e falta de partilha de informações tanto entre entidades nacionais diferentes como ao nível internacional. A elevada tecnicidade e especialidade destes crimes, aliada ao crescente elevado número de processos e de dados a rastrear, leva a uma elevada morosidade e a encargos económicos e de gestão insustentáveis. Investigações em crimes, como o tráfico de pornografia infantil na internet, esbarram com a falta de recursos técnicos e humanos necessários à vasta análise, despistagem, descodificação dos dados, nomeadamente de fotografias e vídeos que estão encriptados ou dissimulados e à identificaçãoe localização tanto dos criminosos como das vítimas.
É ostensivo a gravidade do problema e a necessidade urgente de aprimoramento das políticas de segurança e das legislações aplicáveis ao ambiente digital.
Insta salientar que atualmente o Brasil conta com a Lei n.º 12.965/14, conhecida como Marco Civil da Internet (2014), que não apenas regula e estabelece direitos, deveres e responsabilidades de empresas, provedores e usuários, mas também se apresenta como uma ferramenta de desenvolvimento social, ao promover a liberdade de expressão, o sigilo e a privacidade das comunicações no ambiente virtual. (Dias, 2010)
Os crimes cibernéticos destacam-se por sua complexidade singular, tanto pela vasta diversidade de modalidades quanto pela rapidez com que podem ser praticados. No ambiente virtual, as ações criminosas transcendem fronteiras, desafiando as limitações geográficas tradicionais e complicando a cooperação internacional e a aplicação uniforme das leis. Além disso, o uso de criptografia e redes anônimas agrava a dificuldade em identificar os responsáveis por essas práticas ilícitas. Diante disso, torna-se evidente que os criminosos, as vítimas e a infraestrutura técnica frequentemente envolvem múltiplas jurisdições, o que impõe desafios significativos às investigações e ao processamento penal. (Interpol, 2023)
4.1 A sociedade do risco e os crimes cibernéticos: a contribuição de ulrich beck
A obra de Ulrich Beck oferece um referencial teórico essencial para a compreensão dos riscos contemporâneos, especialmente no que tange aos crimes cibernéticos. Na chamada “sociedade do risco”, os perigos gerados pelo próprio processo de modernização – notadamente os vinculados ao avanço tecnológico e à globalização – tornam-se crescentemente difíceis de controlar, delimitar ou conter. Como aponta o autor, os riscos modernos deixam de respeitar fronteiras físicas, políticas ou jurídicas, e passam a assumir uma feição global, descontrolada e invisível, sendo muitas vezes fabricados pela própria ciência e tecnologia (Beck, 2006, p. 5-6).
Os crimes cibernéticos configuram-se como expressões concretas dessa nova configuração social de risco: são transnacionais, intangíveis, de difícil rastreabilidade e altamente dinâmicos. Inserem-se no que Beck denomina de “modernização reflexiva”, momento em que os sistemas sociais passam a refletir criticamente sobre os riscos por eles próprios produzidos. A criminalidade no ambiente digital revela, assim, a fragilidade das estruturas jurídicas tradicionais diante de ameaças que não se limitam ao espaço físico nem às soberanias estatais (Beck, 2006, p. 8).
Beck enfatiza que, “na sociedade do risco, os perigos podem escapar a qualquer tentativa de delimitação jurídica e política”, o que revela a insuficiência dos modelos normativos clássicos para lidar com crimes digitais cometidos em plataformas como o Discord. Isso evidencia a urgência de se repensar os mecanismos legais e institucionais, adequando-os à complexidade dos riscos modernos (Beck, 2006, p. 8).
Além disso, o autor aponta que “os riscos tornaram-se democráticos. Ninguém pode escapar deles, todos são afetados – mas de forma desigual” (Beck,
2006, p. 11). Essa observação permite compreender como as consequências dos crimes virtuais se espalham em diferentes intensidades por toda a sociedade: desde usuários vulneráveis, até empresas e o próprio Estado, exigindo uma abordagem corresponsável entre os agentes envolvidos.
4.2 A responsabilidade penal das pessoas jurídicas no âmbito digital
A responsabilidade penal da pessoa jurídica é um tema que, embora tradicionalmente restrito a infrações ambientais, nos termos do art. 225, §3º, da Constituição Federal (Brasil, 1988), contudo, a evolução das relações sociais e o avanço das tecnologias digitais têm motivado a doutrina e a jurisprudência a expandirem essa responsabilização para outras áreas do Direito Penal, especialmente no tocante aos crimes cometidos em ambientes virtuais.
O Código Penal brasileiro não prevê, de forma expressa, a responsabilização penal de plataformas de internet. No entanto, a doutrina tem sustentado a possibilidade de imputação penal às pessoas jurídicas quando presentes os elementos da culpabilidade institucional, ou seja, quando a conduta criminosa decorre de falhas estruturais e omissões graves no dever de vigilância ou controle. Autores como Greco (2020) sustentam que a responsabilização penal de plataformas depende da comprovação de vínculo subjetivo (dolo ou culpa), bem como da análise do dever de cuidado. A falta de mecanismos preventivos eficazes ou a negligência diante de denúncias pode configurar responsabilidade penal, especialmente quando se trata de crimes de alto potencial ofensivo, como os que envolvem a apologia ao crime e a associação criminosa.
Além disso, o avanço legislativo e o amadurecimento da jurisprudência sobre crimes cibernéticos têm permitido a interpretação extensiva da responsabilidade penal da pessoa jurídica, especialmente diante de condutas altamente ofensivas que afetam a coletividade, como ocorre com crimes digitais em plataformas de grande alcance, como o Discord.
Nesse sentido, o Supremo Tribunal Federal tem se posicionado, especialmente nos julgamentos dos REs 1.037.396 e 1.057.258, no sentido de que não se admite uma responsabilidade objetiva das plataformas, mas sim uma responsabilidade condicionada à omissão injustificada diante de conteúdo manifestamente ilícito, desde que haja ciência inequívoca do fato. Ou seja, a conduta omissiva da plataforma pode se revestir de relevância penal, sobretudo quando evidenciada a negligência no dever de impedir, remover ou denunciar conteúdos criminosos, como apologia ao crime, associação criminosa ou incitação à violência. Tal interpretação reforça a necessidade de mecanismos preventivos eficazes e de atuação diligente diante de denúncias, sob pena de imputação de responsabilidade criminal pela omissão dolosa ou culposa. (Supremo Tribunal Federal, 1988)
Assim, a responsabilização penal das plataformas digitais não apenas é debatida nos meios acadêmicos e jurídicos como também se mostra compatível com os princípios da proteção aos bens jurídicos e da intervenção mínima, sobretudo quando restar configurada a inércia dolosa ou culposa da empresa diante de riscos concretos e evitáveis.
4.3 Marco Civil da Internet
A Lei nº 12.965/2014 (Marco Civil da Internet) estabelece princípios, garantias, direitos e deveres para o uso da internet no Brasil. Seu art. 18 prevê que o provedor de conexão à internet não será responsabilizado civilmente por conteúdos gerados por terceiros. Já o art. 19 condiciona a responsabilidade dos provedores de aplicações à existência de ordem judicial específica para a remoção de conteúdo, salvo em casos de conteúdo relacionado à nudez ou atos sexuais de caráter privado, conforme o §1º. (Brasil, 2014)
Embora o Marco Civil da Internet (Lei nº 12.965/2014) trate predominantemente da responsabilidade civil dos provedores de aplicação, como é o caso do Discord, a discussão sobre a sua eventual responsabilização penal por crimes praticados em seus ambientes virtuais tem ganhado relevância. O artigo 19 do referido diploma legal estabelece que o provedor só poderá ser responsabilizado civilmente por danos decorrentes de conteúdos de terceiros se, após ordem judicial específica, não tomar as providências para a retirada do conteúdo ilícito. No entanto, o silêncio do Marco Civil quanto à esfera penal não afasta a possibilidade de responsabilização criminal da plataforma, especialmente diante de condutas omissivas reiteradas e conscientes. Conforme ensina Nucci (2020, p. 59), “se o provedor, ciente da prática criminosa, se omite de forma dolosa, há que se cogitar de sua responsabilização penal como partícipe”.
Nesse sentido, Amaro (2021, p. 112) destaca que, quando há negligência sistemática na moderação ou omissão diante de denúncias concretas, as plataformas podem ser responsabilizadas, sobretudo se os crimes envolvem menores de idade ou se revelam estruturados, como nos casos de associação criminosa.
A jurisprudência brasileira ainda é incipiente, mas há julgados que sinalizam essa possibilidade. No julgamento do Habeas Corpus nº 168.493/SP, o Supremo Tribunal Federal reconheceu que intermediários digitais podem ser compelidos a colaborar com investigações criminais e que a omissão injustificada pode configurar, em tese, crime de desobediência ou favorecimento pessoal, a depender do caso concreto. (Supremo Tribunal Federal, 2019)
Portanto, mesmo sem previsão expressa no Marco Civil da Internet, a responsabilidade penal das plataformas digitais pode ser discutida à luz do Código Penal, do Estatuto da Criança e do Adolescente e da jurisprudência constitucional, sobretudo quando há omissão dolosa ou negligência na fiscalização de espaços virtuais utilizados reiteradamente para a prática de crimes, como apologia ao crime e associação criminosa.
4.4 Jurisprudência do STF e STJ e a responsabilização de provedores
Os Recursos Extraordinários nº 1037396 e 1057258, julgados pelo Supremo Tribunal Federal (STF), representam marcos relevantes na definição dos limites da responsabilidade civil das plataformas digitais pela veiculação de conteúdo gerado por terceiros. Ambos os julgados tratam do alcance da proteção à liberdade de expressão no ambiente virtual e do papel dos provedores de aplicações de internet quanto ao monitoramento e à remoção de conteúdos considerados ilícitos. (Supremo Tribunal Federal, 2020)
No RE 1037396, o STF discutiu a possibilidade de responsabilização civil de um provedor por conteúdo ofensivo publicado por um usuário, sem prévia ordem judicial determinando a remoção. A tese fixada foi a de que os provedores de aplicações de internet somente podem ser responsabilizados civilmente por conteúdos gerados por terceiros se, após ordem judicial específica, não tomarem as providências para tornar indisponível o conteúdo apontado como infringente. Esse entendimento, que deu origem ao Tema 987 da Repercussão Geral, reforça a proteção à liberdade de expressão e evita a adoção de práticas privadas de censura prévia pelas plataformas.
Já no RE 1057258, o Supremo reafirmou esse entendimento, mas também trouxe reflexões importantes sobre a responsabilidade decorrente da omissão das plataformas, especialmente quando há ciência inequívoca da ilicitude do conteúdo e mesmo assim não há a remoção voluntária ou adoção de medidas de contenção. O relator, Ministro Luiz Fux, destacou que o dever de agir com diligência decorre não apenas da notificação judicial, mas pode também ser inferido a partir do conhecimento prévio e da gravidade do conteúdo hospedado. (Supremo Tribunal Federal, 2020)
Ambos os precedentes sustentam a ideia de que a responsabilidade das plataformas não é automática, mas condicionada a determinados requisitos. No entanto, há uma abertura para a responsabilização em casos de omissão deliberada, especialmente quando se trata de conteúdos que envolvem riscos graves à vida, à integridade física ou a direitos fundamentais.
Transposta à esfera penal, essa compreensão jurisprudencial não implica responsabilização penal direta e imediata das plataformas por condutas de seus usuários, mas abre margem para a discussão sobre omissão penalmente relevante, nos moldes do art. 13, §2º, do Código Penal, sobretudo se restar comprovado que a empresa tinha o dever jurídico de agir para evitar o resultado e se absteve de fazê-lo. Em outras palavras, se a plataforma, mesmo diante de reiteradas notificações, denúncias e conhecimento claro de condutas criminosas em seus servidores, nada faz para removê-las ou prevenir sua ocorrência, pode-se cogitar a responsabilização penal por omissão imprópria. (Brasil, 1940).
Autores como Pierpaolo Bottini (2014) e Luiz Regis Prado (2011) discutem os limites dessa responsabilização, destacando que ela deve ocorrer quando houver falha estrutural na empresa que permita ou estimule a prática de crimes. No caso do Discord, a ausência de mecanismos eficazes de controle e moderação pode ser entendida como uma forma de omissão dolosa, caracterizando a chamada “cegueira deliberada”.
Alicerçado na doutrina penal, é possível argumentar que a plataforma, ao se omitir no controle de conteúdos sabidamente perigosos, contribui de forma relevante para o resultado criminoso, podendo ser responsabilizada penalmente em um contexto de coautoria omissiva ou até por concorrência culposa, dependendo da análise do caso concreto.
Além disso, de acordo com o julgamento do Recurso Especial nº 1.660.168/SP, o Superior Tribunal de Justiça reconheceu que a responsabilidade dos provedores pode se estender além da esfera civil quando há indícios de conivência com atividades ilícitas, especialmente em ambientes fechados e de difícil monitoramento, como os servidores do Discord. Nesse contexto, a corte ressaltou que os provedores não devem apenas reagir a denúncias, mas também adotar medidas preventivas para evitar que suas plataformas sejam usadas para práticas criminosas, reforçando a necessidade de mecanismos eficazes de moderação e controle. (Supremo Tribunal de Justiça, 2017)
4.5 Entre a regulação e a realidade: uma análise dos termos de uso do discord
No Brasil, o fenômeno do induzimento de jovens ao crime através de plataformas digitais está se intensificando, especialmente por meio de algoritmos que expõem os jovens a conteúdos violentos e de ódio. Um estudo realizado pela Unicamp apontou que, entre 2011 e 2023, 71,8% dos ataques em escolas tinham indícios de radicalização online. As redes sociais e plataformas de jogos desempenham um papel importante, fornecendo um espaço para interação em grupos extremistas, que incentivam a violência e promovem discursos de ódio. Além disso, a falta de moderação de conteúdo nas plataformas digitais amplifica esse problema. (Ribeiro, 2023)
Insta Salientar que o Discord atualizou seus Termos de Serviço em abril de 2024 com o objetivo de detalhar melhor seus serviços e as regras de conduta, incluindo ferramentas para promover um ambiente mais seguro. Entre as medidas, estão o sistema de avisos para usuários infratores, a exigência de regras claras em servidores públicos, e a limitação de acesso a conteúdo adulto, que deve estar em canais com restrição de idade. (Discord, 2024)
Apesar dessas políticas, casos reais revelam que a moderação da plataforma é ineficiente em conter crimes organizados. Um exemplo é o caso de Pedro Ricardo Conceição da Rocha, preso por liderar um grupo no Discord onde adolescentes eram coagidas, abusadas e exibidas em transmissões ao vivo com pornografia infantil e violência sexual. (O Globo, 2023)
Outro caso grave foi a transmissão ao vivo, em fevereiro de 2025, de um ataque com coquetel molotov contra uma pessoa em situação de rua. O crime foi cometido por um adolescente que fazia parte de uma comunidade no Discord voltada à apologia de violência. O Discord só baniu as contas envolvidas após o caso ganhar repercussão na mídia. (Metrópoles, 2025.)
Ainda, em abril de 2025, a Polícia Civil de São Paulo iniciou investigação contra a plataforma Discord, por não cumprir ordem judicial emergencial de remoção de conteúdos envolvendo estupro digital e apologia à violência contra menores. A polícia apontou que a plataforma ignorou a requisição das autoridades, sendo omissa diante da gravidade dos fatos. (O Globo, 2025).
Esses casos demonstram que, embora o Discord tenha regras e diretrizes formais, há falhas significativas na moderação e na resposta a condutas criminosas. A omissão diante de denúncias e a lentidão em agir, mesmo após requisições judiciais, evidenciam uma negligência incompatível com o dever de cuidado exigido de plataformas que lidam com públicos vulneráveis, como adolescentes. Tal comportamento pode, inclusive, configurar omissão penalmente relevante, nos termos do art. 13, §2º, do Código Penal Brasileiro.
5 CONSIDERAÇÕES FINAIS
Diante da crescente utilização de plataformas digitais como o Discord para a prática de crimes graves, como apologia ao crime e associação criminosa, torna-se imperativa a reflexão sobre a possibilidade de responsabilização penal dessas ferramentas tecnológicas. A análise do Marco Civil da Internet e dos julgados paradigmáticos do Supremo Tribunal Federal e do Supremo Tribunal de Justiça revelaram que, embora a legislação brasileira trate prioritariamente da responsabilidade civil, não se exclui a hipótese de imputação penal nos casos em que a omissão da plataforma seja dolosa ou culposa.
A complexidade dos crimes virtuais, a dificuldade de investigação e a elevada tecnicidade envolvida demonstram que o atual arcabouço jurídico necessita de constante atualização para acompanhar os riscos inerentes à sociedade digital. A doutrina penal, ao admitir a possibilidade de responsabilização criminal da pessoa jurídica diante de falhas estruturais e omissões reiteradas, reforça a importância de se repensar o papel das plataformas na prevenção e repressão a condutas ilícitas em seus ambientes.
A responsabilização do Discord, nesse contexto, não deve ser encarada como uma tentativa de transferir ao provedor os atos praticados por terceiros, mas como uma exigência legítima de corresponsabilidade diante da omissão consciente frente à ilicitude. A omissão reiterada, diante de denúncias e da ciência de que sua plataforma é utilizada como meio para fomentar atividades criminosas, pode configurar, em determinadas hipóteses, verdadeira participação penal.
Assim, conclui-se que, embora não exista previsão legal específica quanto à responsabilização criminal de plataformas como o Discord, é juridicamente possível, à luz dos princípios constitucionais e penais, sustentar tal responsabilização em casos de omissão dolosa e consciente, especialmente quando configurado o dever legal de agir para impedir o resultado. O desafio que se impõe, portanto, é equilibrar a liberdade de expressão e o livre desenvolvimento tecnológico com a proteção da dignidade humana, da segurança pública e da ordem jurídica.
REFERÊNCIAS
AMARO, Luciano. Responsabilidade penal de provedores por omissão: limites e possibilidades no ordenamento jurídico brasileiro. São Paulo: Revista dos Tribunais, 2021. Disponível em: https://www.jusbrasil.com.br/autor/luciano-amaro, Acesso em: 20 abr. 2025.
BECK, Ulrich. Sociedade do risco: rumo a uma outra modernidade. 2. ed. São Leopoldo: Editora 34, 2006, Disponível em: https://www.ihuonline.unisinos.br/media/pdf/IHUOnlineEdicao181.pdf. Acesso em 18 abr. 2025
BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Disponível em: https://www.planalto.gov.br/ccivil_03/Constituicao/Constituicao.htm. Acesso em 08 abr 2025.
BRASIL, Código Penal. Decreto-Lei nº 2.848, de 7 de dezembro de 1940. Disponível em: https://www.planalto.gov.br/ccivil_03/decreto-lei/del2848compilado.htm. Acesso em: 29 ago 2024.
BRASIL. Supremo Tribunal Federal. Habeas Corpus n° 168.493/SP, Rel. Min. Gilmar Mendes, Segunda Turma, julgado em 23 out. 2019, DJe 07 nov. 2019. Disponível em: https://portal.stf.jus.br/jurisprudencia/listarJurisprudencia/doc.asp?s1=168493&b=AC OR&p=true&t=&l= .Acesso em: 20 abr 2025
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Marco Civil da Internet. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em 05 mai 2025.
BRASIL. Superior Tribunal de Justiça. Recurso Especial n° 1.660.168/SP, Rel. Min. Paulo de Tarso Sanseverino, Terceira Turma, julgado em 22 ago. 2017, DJe 31 ago. 2017. Disponível em: https://www.jusbrasil.com.br/jurisprudencia/stj/1560811309.Acesso em: 20 abr 2025
DIAS, Vera Marques. A problemática da investigação do cibercrime. Datavenia, p. 63-88, 2023. Disponível em: https://www.datavenia.pt/ficheiros/edicao01/datavenia01_p063-088.pdf. Acesso em 29 ago 2024.
DISCORD. Atualizações dos Termos de Serviço.Disponível em: https://support.discord.com/hc/pt-br/articles/4469963531415-Atualiza%C3%A7%C3%B5es-dos-Termos-de-Servi%C3%A7o. Acesso em: 5 maio 2025.
FANTÁSTICO. Rede sem lei. Programa exibido pela TV Globo. Rio de Janeiro, 2023. Disponível em: https://g1.globo.com/fantastico/noticia/2023/06/25/rede-sem-lei-no-discord-criminoso s-violentam-e-humilham-meninas-menores-de-idade.ghtml. Acesso em: 05 set 2024.
GRECO, Rogério. Curso de direito penal: parte geral. 20. ed. Niterói: Impetus, 2020. Disponível em: https://direitouniversitarioblog.wordpress.com/wp-content/uploads/2017/02/greco-rog c3a9rio-curso-de-direito-penal-vol-1.pdf. Acesso em 20 abr 2025.
INTERPOL. Cybercrime. INTERPOL, [s.d.]. Disponível em: https://www.interpol.int/Crimes/Cybercrime. Acesso em: 17 nov. 2024.
LUSA. Detido jovem de 17 anos suspeito de incentivar homicídio através da plataforma Discord. Público, 2 maio 2024. Disponível em: https://www.publico.pt/2024/05/02/sociedade/noticia/detido-jovem-17-anos-suspeito-i ncentivado-homicidio-atraves-plataforma-discord-2089042. Acesso em: 16 nov. 2024.
MAGALHÃES, André Lourenti. O que é o Discord?. Editado por Douglas Ciriaco. Canaltech, jun. 2023. Disponível em: https://canaltech.com.br/software/o-que-e-o-discord/. Acesso em 29 ago 2024.
Metrópoles. Discord se pronuncia após adolescente transmitir crime em comunidade. Disponível em: https://www.metropoles.com/brasil/discord-se-pronuncia-apos-adolescente-transmitir- crime-em-comunidade. Acesso em: 5 maio 2025.
NUCCI, Guilherme de Souza. Crimes cibernéticos e a responsabilidade penal dos provedores de internet. 2. ed. São Paulo: Forense, 2020. Disponível em: https://www.editorabrasport.com.br/crimes-ciberneticos-ebook-epub. Acesso em: 05 maio 2025
O GLOBO. Jovem suspeito de criar grupo no Discord para atos de extrema violência é indiciado pela polícia. Disponível em: https://oglobo.globo.com/rio/noticia/2023/07/14/jovem-suspeito-de-criar-grupo-no-dis cord-para-atos-de-extrema-violencia-e-indiciado-pela-policia.g. Acesso em: 5 maio 2025.
O GLOBO. Discord é alvo de inquérito da Polícia Civil de SP por apologia à violência digita. Disponível em: https://oglobo.globo.com/brasil/noticia/2025/04/07/discord-e-alvo-de-inquerito-da-poli cia-civil-de-sp-por-apologia-a-violencia-digital.ghtml. Acesso em: 5 maio 2025.
RIBEIRO, Raphaela. Algoritmos e redes de ódio nos ataques em escolas. Controvérsia, 30 out. 2023. Disponível em: https://controversia.com.br/2023/10/30/algoritmos-e-redes-de-odio-nos-ataques-em- escolas/. Acesso em 10 nov 2024.
SUPREMO TRIBUNAL FEDERAL (STF). Recurso Extraordinário nº 1037396. Rel. Min. Dias Toffoli, julgado em 18 dez 2025. Disponível em: https://portal.stf.jus.br/processos/detalhe.asp?incidente=5160549. Acesso em: 20 abr 2025.
SUPREMO TRIBUNAL FEDERAL (STF). Recurso Extraordinário nº 1057258. Rel. Min. Min. Luiz Fux, julgado em 18 dez 2024. Disponível em: https://portal.stf.jus.br/processos/detalhe.asp?incidente=5217273. Acesso em: 20 abr 2025.
1 Acadêmica de Direito. E-mail: camillabarrosduraes1617@gmail.com. Artigo apresentado ao Centro Universitário Aparício Carvalho FIMCA, como requisito para obtenção do título de Bacharel em Direito, Porto Velho/RO, 2025.
2 Acadêmico de Direito. E-mail: gs6864459@gmail.com. Artigo apresentado ao Centro Universitário Aparício Carvalho FIMCA, como requisito para obtenção do título de Bacharel em Direito, Porto Velho/RO, 2025.
3 Acadêmica de Direito. E-mail: kailanypego48@gmail.com.Artigo apresentado ao Centro Universitário Aparício Carvalho FIMCA, como requisito para obtenção do título de Bacharel em Direito, Porto Velho/RO, 2025.
4 Professor Orientador. Professor Me. do curso de Direito. E-mail: antoniohardman7@gmail.co