TikTok destripado: cómo usa la IA y los sensores del móvil para que no salgas de la aplicación jamás
Aunque hay un vídeo original de Ayo Omolewa que resume esto en 90 segundos, me quedo con la versión sumamente hilarante de BaityBait, más profunda y, por supuesto, graciosa. Así que si puedes reservarte algo más de 20 minutos para verlo, verás que merece la pena. Es un destripe integral de TikTok, sus interioridades y qué datos personales capturan. La lista es larga y jodida.
En los vídeos se explica cómo destriparon la app de TikTok mediante ingeniería inversa y encontraron que hay más de 25 modelos de inteligencia artificial corriendo en tu propio móvil. Con ellos TikTok exprime los datos procedentes de todos los sensores del móvil para enviar más de 50 señales a los servidores principales, con los que el famoso algoritmo te prepara la siguiente hornada de vídeos que te va a mostrar.
El algoritmo lo analiza todo, menos si estás «sentado en el trono» (que se sepa)
Los ingenieros de ByteDance (la empresa que está detrás de TikTok) ya superan con nota eso de saber que eres un señor de Murcia mediante la IP para mostrarte restaurantes de la zona. La lista completa de todo lo que saben es bastante alucinante para un app de ver vídeos chorras: desde la postura detectada por acelerómetro y el giroscopio (si estás de pie, tumbado, caminando…) hasta el porcentaje de batería, si estás cargando el móvil y cuál es el brillo de pantalla o el volumen.
El caso es que además de toda esa información básica la app sabe si te vas moviendo en metro o en coche (y si eres el conductor o un pasajero), y ajusta los chorrazos de vídeos en consecuencia para que no sueltes el teléfono: si estás relajado, vídeos más largos y pausados, que enganchen en profundidad; si vas andando o en coche, aquellos que no necesiten que mires continuamente sino que se puedan simplemente escuchar.
Cuando usas el dedazo para darle, darle, darle y saltarte varios vídeos en plan rápido se activa una variable llamada pérdida del foco de atención, así que el algoritmo afina de nuevo; en las ocasiones apropiadas mete un empujón directo a los vídeos que «generan pasta» o te saca un vídeo que es un Live (en vivo), porque engancha más. Hay un detector de sueño que baja el brillo un 30% si te quedas dormido con el móvil en la mano (y hasta lo pausa, qué generosos). Sólo le falta saber si estás mirando al móvil mientras «resuelves asuntos internos» en el inodoro.
Una app «sólo para gente guapa»
Lo más inquietante es tal vez un modelo de belleza facial que puntúa tu cara a través de lo que ve en la cámara, calcula tu edad, género y estado de ánimo. En función de eso el algoritmo puede no solo orientarte a ver cierto tipos de vídeos, sino también hacer que tus propios vídeos se vean más o menos. Baity menciona que han visto al algoritmo filtrar los vídeos para ignorar a la gente fea y promocionar a los influencers guaperas; ByteDance dijo que era «para evitar que hicieran bulling a los feos». Ya, claro. Y lo mismo para el entorno en el que está rodado el vídeo: ¿quién quiere ver una casa pobre de fondo pudiendo ver algo parecido en un casoplón de ensueño?
Por cierto que Omolewa tiene esta página llamada TikTok Face donde puedes hacerte una idea de cómo funciona el detector de guaperismo (las fotos se quedan en tu ordenador).
Otras cosas divertidas, o no tanto, incluyen una que es la detección de cuál es la mano dominante (si eres diestro o zurdo). Lo cual no está muy claro para qué puede servirles, aunque a Baity le sugieren desde el chat que puede tener aplicación en las (ejem) prácticas onanistas si el móvil detecta que al ver ciertos vídeos cambias de mano. Hay sólo un paso de ahí a descubrir lo que te pone… que por cierto es la bala que usan como último recurso si todo lo anterior no funciona para engancharte.
A mi me ha dejado alucinado tanto la aplicación de toda esa información como que la app pueda captarla sin haber pedido tropecientosmil permisos a través del móvil para cada función: cámara, giroscopio, batería… (y sin que Apple ni Google lo impidan). Incluso me ha hecho investigar sobre cómo Omolewa ha conseguido hacer esa ingeniería inversa, que es algo posible técnicamente: investigadores de Interface (antigua Stiftung Neue Verantwortung) ya lo hicieron hace tiempo interceptando el tráfico de la app en móviles reales modificados con LineageOS. Otro tanto hicieron en la Northeastern University con técnicas de ingeniería inversa muy hackeriles. Además de eso los de ByteDance tuvieron que enviar un informe de 31 páginas a las autoridades de privacidad de Canadá cuando investigaban a TikTok, confesando sus pecadillos.
En fin, según parece el algoritmo de TikTok no sólo te «recomienda vídeos»: es que te mide el cuerpo, pone precio a tu casa y analiza hasta los mensajes que escribes y borras para mantenerte dentro su particular corralito. Su objetivo es que no salgas de la app ni sueltes el móvil así te maten.
Relacionados:
