O preço de uma criança - resenha crítica

Em mil novecentos e noventa e seis, a internet era um bebê. Poucas casas nos Estados Unidos tinham conexão. O modem discado chiava, a página demorava minutos para abrir, e ninguém fazia ideia do que aquilo tudo ia virar. Foi nesse cenário, quando o mundo online ainda engatinhava, que o Congresso americano aprovou uma lei chamada Seção duzentos e trinta do Ato de Decência nas Comunicações. A ideia era simples e, na época, fazia todo o sentido... se alguém publica algo numa plataforma digital, a responsabilidade é de quem publicou, não da plataforma. Pense num mural de recados num café. Se alguém cola um bilhete ofensivo no mural, o dono do café não é processado por isso. Ele só ofereceu a parede. Essa lógica funcionou por quase trinta anos. Graças a ela, empresas como Google, Facebook, YouTube e tantas outras puderam crescer sem o medo constante de serem processadas por tudo o que seus bilhões de usuários postavam. Sem essa proteção, a internet como conhecemos provavelmente não existiria. Cada comentário, cada vídeo, cada foto poderia gerar um processo judicial contra a empresa que hospedou o conteúdo. Mas o que acontece quando a plataforma deixa de ser apenas a parede e começa a escolher quais bilhetes ficam no topo, quais são empurrados para mais gente, e quais grudam na sua cabeça de um jeito que você não consegue parar de ler?

Essa é a pergunta que dois júris americanos responderam em menos de quarenta e oito horas, na última semana de março de dois mil e vinte e seis.

No Novo México, um júri condenou a Meta, dona do Facebook e do Instagram, a pagar trezentos e setenta e cinco milhões de dólares ao estado. A acusação foi direta... a empresa enganou consumidores sobre a segurança de suas plataformas e falhou em proteger crianças de predadores sexuais. O procurador geral do estado, Raúl Torrez, havia entrado com a ação em dois mil e vinte e três depois que uma operação disfarçada criou um perfil falso de uma menina de treze anos. O perfil foi inundado por abordagens de predadores. Os jurados encontraram milhares de violações da lei de proteção ao consumidor do estado e aplicaram a penalidade máxima de cinco mil dólares por violação. Mesmo assim, o valor ficou bem abaixo dos dois bilhões que os promotores pediam. Para dar perspectiva, a Meta vale cerca de um trilhão e meio de dólares. Suas ações subiram cinco por cento após o veredito, um sinal claro de que o mercado financeiro, ao menos por enquanto, não viu essa conta como uma ameaça real ao negócio.

Um dia depois, em Los Angeles, outro júri decidiu algo ainda mais profundo. Uma jovem de vinte anos, identificada apenas pelas iniciais K.G.M., processou a Meta e o YouTube da Google alegando que ficou viciada nas plataformas durante a adolescência e que esse vício agravou gravemente sua saúde mental, incluindo depressão. O júri concordou. Considerou ambas as empresas negligentes no design de seus produtos e determinou que essa negligência foi um fator substancial nos danos sofridos pela jovem. A indenização foi de seis milhões de dólares, sendo três milhões em danos compensatórios, dos quais a Meta ficou com setenta por cento da responsabilidade e o YouTube com os trinta restantes. O júri também recomendou três milhões adicionais em danos punitivos, por concluir que as empresas agiram com malícia.

Agora, o que torna esses dois casos tão importantes não é o valor das multas. É a porta que eles abriram.

Durante décadas, processos contra plataformas digitais batiam na muralha da Seção duzentos e trinta e voltavam. A lei protegia as empresas de responsabilidade sobre conteúdo de terceiros, e os tribunais quase sempre concordavam. Mas os advogados desses dois casos usaram uma estratégia diferente. Em vez de dizer que o conteúdo nas plataformas causou dano, eles argumentaram que o design das plataformas em si era o problema. Não era o que os usuários postavam. Era como a arquitetura do produto funcionava... rolagem infinita, notificações constantes, vídeos que começam a tocar sozinhos, filtros de beleza, algoritmos que priorizam conteúdo que gera mais engajamento, mesmo quando esse conteúdo é prejudicial. Os advogados trataram Instagram e YouTube como produtos defeituosos, do mesmo jeito que alguém processa uma montadora por um carro com freio que falha.

Essa mudança de enquadramento, do conteúdo para a conduta, foi o que permitiu que os casos passassem pela barreira da Seção duzentos e trinta. Os juízes de ambos os casos rejeitaram os pedidos da Meta e do Google para encerrar os processos com base nessa proteção legal. E os júris, depois de semanas ouvindo depoimentos e analisando documentos internos das empresas, concordaram com os acusadores. Gregory Dickinson, professor de Direito da Universidade de Nebraska, observou que os tribunais estão cada vez mais distinguindo casos sobre funcionalidade da plataforma de casos que simplesmente imporiam responsabilidade por discurso de terceiros.

O julgamento de Los Angeles teve momentos dramáticos. Mark Zuckerberg, presidente da Meta, testemunhou pessoalmente diante do júri em fevereiro. Documentos internos da empresa foram apresentados durante o processo e revelaram discussões internas sobre como atrair e reter usuários jovens. Um desses documentos estimava que o valor vitalício de um adolescente de treze anos para a empresa girava em torno de duzentos e setenta dólares. Outro dizia que quanto mais jovem o usuário começa, maior a chance de ele continuar usando a plataforma. Funcionários compararam o Instagram a drogas e caça níqueis em trocas internas de mensagens. A defesa da Meta argumentou que não existem provas científicas definitivas de que redes sociais causem problemas de saúde mental, e que a empresa tem investido em funcionalidades de segurança para usuários jovens. Zuckerberg disse ao júri que proteger jovens sempre foi prioridade da empresa.

Esse caso foi escolhido como um caso teste, ou bellwether, dentro de um pacote de cerca de dois mil processos semelhantes movidos por pais e distritos escolares na Califórnia. Outros milhares tramitam em tribunais federais pelo país. TikTok e Snapchat, que também eram réus no caso de Los Angeles, fizeram acordos com a autora antes do julgamento começar. A Meta e o Google disseram que vão recorrer de ambos os vereditos.

E é nos recursos que a verdadeira batalha vai acontecer. Até agora, nenhum tribunal de apelação nos Estados Unidos se pronunciou sobre se decisões de design de plataformas estão ou não protegidas pela Seção duzentos e trinta. Vários tribunais de primeira instância já disseram que não estão, mas são as cortes de apelação que criam jurisprudência vinculante, aquela que obriga outros tribunais a seguir a mesma interpretação. Se uma corte de apelação confirmar os vereditos, isso pode abrir caminho para uma avalanche de condenações em casos semelhantes. A Roblox, por exemplo, enfrenta mais de cento e trinta processos federais acusando a plataforma de jogos de não proteger seus usuários de exploração sexual. Eric Goldman, codiretor do Instituto de Direito de Alta Tecnologia da Universidade de Santa Clara, foi direto... é a internet que está sendo julgada, não apenas as redes sociais.

A Suprema Corte dos Estados Unidos já mostrou interesse no tema. Em dois mil e vinte e três, ouviu um caso envolvendo o YouTube, mas acabou não decidindo sobre os limites da Seção duzentos e trinta. Em dois mil e vinte e quatro, recusou ouvir o recurso de um adolescente do Texas que processava o Snapchat. Dois juízes conservadores, Clarence Thomas e Neil Gorsuch, discordaram dessa recusa e escreveram que plataformas de redes sociais têm usado cada vez mais a Seção duzentos e trinta como um passe livre. Meetali Jain, diretora do Tech Justice Law Project, acredita que a Suprema Corte pode estar pronta para receber um caso como esse.

A comparação que muitos analistas estão fazendo é com a indústria do tabaco nos anos noventa. Naquela época, as empresas de cigarro sabiam que a nicotina causava dependência e que o tabaco matava, mas negavam tudo publicamente. Quando documentos internos vieram à tona e executivos foram flagrados mentindo sob juramento, a indústria perdeu nos tribunais e acabou pagando duzentos e seis bilhões de dólares em acordos com mais de quarenta estados americanos. Isso transformou completamente o setor, que foi obrigado a parar de fazer propaganda para menores de idade e a incluir alertas de saúde em seus produtos. Os mesmos escritórios de advocacia que lideraram aqueles processos contra as fabricantes de cigarro, como Lieff Cabraser e Motley Rice, estão agora conduzindo os casos contra Meta, TikTok, YouTube e Snap.

Mas a comparação tem limites. Diferente do tabaco, redes sociais são plataformas de expressão, o que traz para a mesa a Primeira Emenda da Constituição americana, que protege a liberdade de expressão. Além disso, o vício em tabaco é um fenômeno físico e químico causado pela nicotina, enquanto o chamado vício em redes sociais é comportamental, e os cientistas ainda debatem a natureza e a gravidade desse problema. A Associação Americana de Psiquiatria não reconhece o vício em redes sociais como diagnóstico oficial. As empresas argumentam que são usadas como bode expiatório para problemas multifatoriais que envolvem dinâmicas familiares, predisposições genéticas e questões socioeconômicas.

Mesmo assim, o cenário regulatório está mudando rápido. Ao menos vinte estados americanos aprovaram leis no último ano sobre o uso de redes sociais por crianças. A Austrália proibiu menores de dezesseis anos de usar redes sociais. França e Reino Unido estão propondo medidas semelhantes. O cirurgião geral dos Estados Unidos pediu que as plataformas incluam alertas de saúde parecidos com os de embalagens de cigarro.

Para empresas de tecnologia, os vereditos trazem uma mensagem clara... o design das plataformas agora pode ser auditado por júris, e decisões internas sobre engajamento podem virar provas de design defeituoso em tribunais. Isso vale não só para redes sociais. Qualquer empresa que construa um sistema preditivo, de um aplicativo financeiro a um assistente virtual, precisa considerar que seus algoritmos podem ser tratados como produtos sujeitos a responsabilidade civil.

O que fazer com essa informação

Existem cenários diferentes dependendo de quem você é e do que faz com tecnologia.

Se você é pai ou mãe, o momento pede atenção redobrada. Não se trata de tirar o celular da mão dos filhos da noite para o dia, mas de entender que as plataformas foram desenhadas para prender atenção, especialmente de jovens. Explore os controles parentais que já existem. Converse sobre tempo de tela. E acompanhe como o cenário legal avança, porque mudanças nas plataformas podem vir por força de decisões judiciais nos próximos meses.

Se você trabalha com tecnologia, o recado é prático. Decisões de design que priorizem engajamento sobre segurança agora podem ser questionadas em tribunais. Documentos internos, debates em chats corporativos, testes que revelam riscos e são ignorados, tudo isso pode virar evidência num processo. Se a sua empresa desenvolve produtos digitais usados por menores, o caminho mais seguro é tratar segurança como parte do design desde o primeiro dia, não como um problema a resolver quando o processo chegar.

Se você é investidor, os números ainda não assustam o mercado, como mostrou a alta das ações da Meta após o veredito no Novo México. Mas a tendência é clara. São milhares de processos consolidados, com julgamentos de teste acontecendo ao longo de dois mil e vinte e seis. Se os recursos nas cortes de apelação confirmarem esses vereditos e estreitarem o alcance da Seção duzentos e trinta, o risco jurídico das big techs pode mudar de patamar. Vale monitorar com atenção.

Se você é apenas um usuário de redes sociais, a informação mais útil é esta... aquela sensação de não conseguir largar o celular pode não ser só falta de disciplina. As plataformas foram projetadas para funcionar assim. Saber disso já muda a forma como você negocia consigo mesmo o tempo que passa online.

E para todos, independentemente do papel que ocupam nessa história... o escudo que protegeu a internet por trinta anos está rachando. Ele não caiu ainda. As empresas vão recorrer, os tribunais superiores vão se manifestar, e o desfecho pode levar anos. Mas a direção ficou mais clara esta semana. A pergunta já não é se as big techs serão responsabilizadas pelo design dos seus produtos. É quando, em que escala, e quem vai pagar a conta.