No início de 2020, o TikTok tornou-se o aplicativo mais baixado do mundo, o que levou a rede social a ultrapassar 1 bilhão de usuários mensais nesse ano. Uma investigação do New York Times (NYT) mostrou detalhes do funcionamento desse aplicativo que, apesar de ser considerado tão divertido, foi construído com o propósito de viciar seus usuários através da criação de valor para os diferentes atores envolvidos.
O documento intitulado “TikTok Algo 101”, produzido pela equipe de engenharia da empresa em Pequim, oferece um novo nível de detalhes sobre o aplicativo de vídeo tanto do núcleo matemático quanto do que a empresa considera sobre o ser humano. Nossas tendências para o tédio e a sensibilidade culturais, por exemplo, ajudam a dar pistas para o aplicativo criar esse ambiente viciante.
Segundo a reportagem, o aplicativo lista quatro objetivos principais para o algoritmo do TikTok: “valor do usuário”, “valor do usuário de longo prazo”, “valor do criador” e “valor da plataforma”. O sucesso da plataforma é atribuído à praticidade dada aos usuários, que têm música de fundo para criar vídeos de dança ou memes para encenar, em vez de forçá-los a preencher um espaço vazio, como funciona em outras redes sociais. Um analista examinou o documento a pedido do NYT e ficou surpreso sobre como o aplicativo impulsiona usuários em direção a um conteúdo “triste” que poderia induzir, por exemplo, a automutilação, confirmando que recomendações algorítmicas são uma ameaça social.
Valor para o usuário
Esses objetivos (atribuídos ao algoritmo) estão alinhados com a meta final da empresa de adicionar novos usuários diariamente através de duas métricas: retenção e tempo gasto. A plataforma é extraordinariamente eficiente em ler os interesses dos usuários e direcioná-los para suas preferências, criando dessa forma câmaras de eco, ferramenta fundamental para atingir essas métricas. Em outras palavras, o aplicativo faz um raio-X das vidas interiores dos usuários para oferecer-lhes conteúdo alinhado com os seus gostos, limitando a exposição a conteúdo divergente.
A ByteDance, dona do aplicativo, compartilhou previamente, em linhas gerais, como funciona seu sistema de recomendação. De acordo com a empresa, o aplicativo leva em consideração fatores como curtidas e comentários, assim como informações de vídeo como legendas, sons e hashtags. Porém uma investigação recente do Wall Street Journal demonstrou como o TikTok é dependente do tempo gasto assistindo a cada vídeo para então direcioná-lo a conteúdos similares, que farão usuários continuarem rolando os vídeos da plataforma. A reportagem ainda apontou como esse processo pode levar a situações perigosas, em particular para conteúdo que promove suicídio ou automutilação. Em resposta, o TikTok disse estar trabalhando para impedir a inclusão de conteúdo que viola seus termos de serviço.
Segundo o documento a que o NYT teve acesso, o tempo de exibição não é o único fator que o TikTok considera. Existe uma equação aproximada de como os vídeos são pontuados, em que algoritmos de inteligência artificial junto com o comportamento real do usuário são somados para criar esse sistema de recomendação, ou seja, curtidas, comentários e tempo de reprodução, bem como uma indicação do tempo gasto assistindo o vídeo para então definirem a pontuação do conteúdo. Assim, o aplicativo mostra apenas os vídeos com pontuações mais altas para determinado usuário.
Valor para o criador
No documento também havia indicação de que a “monetização do criador” é um dos objetivos e, para isso, o TikTok deve favorecer vídeos que sejam mais lucrativos e não apenas divertidos.
Segundo a reportagem, o documento desmistifica o sistema de recomendação do TikTok, mostrando que são usados recursos simples, que qualquer usuário comum pode entender e não há nada tenebroso ou incompreensível sobre o algoritmo do TikTok. Pesquisadores indicaram que o bom desempenho se deve à combinação de grande volume de dados e uso de inteligência artificial. “Não existe nenhuma mágica algorítmica,” lembrou Julian McAuley, professor de Ciência da Computação na Universidade da Califórnia em San Diego, ao NYT.
Valor da plataforma
A reportagem também lembra que o TikTok tem acesso à vida de seus usuários além do conteúdo público. Os moderadores de conteúdo têm acesso, por exemplo, ao conteúdo enviado a amigos ou carregado no sistema, mas não compartilhado publicamente. Isso é uma diferença em relação aos aplicativos WhatsApp e Signal, por exemplo, que fornecem criptografia ponta a ponta. Apesar de criar um ambiente que permite melhor moderação, essa abertura traz riscos de segurança digital aos usuários.
Uma porta-voz da empresa, Hilary McQuaide, confirmou a autenticidade e disse que esse documento foi escrito para explicar a funcionários não técnicos como o algoritmo funciona. McQuaide também disse ao NYT que “o TikTok nunca forneceu dados do usuário ao governo chinês, nem faríamos se solicitados”.