La Prensa de Colorado Buscando la información para las páginas anteriores, me encontre con este artículo que crei que es de mucho interes para los lectores, especialmente aquellos que tienen hijos pequeños y adolescentes, y creo que este artículo puede alertarles.
Se los traigo tal y como esta publicado en la página de wired.com solo que lo traduje al Español para su entendimiento para los de habla hispana. Se que esta muy largo este artículo pero creame que se quedara impactada de todo lo que dice de como esta plataforma esta induciendo a los adolescentes para que se vayan por el mal camino.
Dando crédito a las personas Lara Putnam y aquien haya participado en este artículo, bueno aquí esta y espero sea de sus interes.
Facebook tiene un problema de depredación de niños
La plataforma puede ser más rápida para recomendar grupos creados en torno a la depredación de niños que para eliminarlos.
MIENTRAS TRATABA de mapear el alcance y el impacto de los grupos de Facebook basados en lugares donde QAnon y sus aliados difundían la desinformación, busqué grupos de Facebook con nombres que incluían 10, 11 o 12. Esto era parte de mi trabajo con el Laboratorio de Desinformación de Pitt, y Estaba pensando en los distritos 10, 11 o 12 de la ciudad de Pittsburgh. Lo que apareció en cambio fue un grupo llamado “Buscando novi@ de 9,10,11,12,13 años”. ¿Buscas novia de 9 años? ¿Qué?
La estética de la página era de dibujos animados lindos: ojos de gran tamaño con pestañas largas, corazones y pasteles. Las publicaciones que hacían referencias explícitas a los genitales fotografiados fueron gamificadas y adornadas con emoticonos: “¿Ves tu edad en esta lista? Escríbelo en las respuestas y te lo mostraré”.
La mayoría de las veces, las publicaciones eran solo puertas de conexión, el verdadero peligro fuera del escenario. “Buscando una novia pervertida de 11”, decía una publicación, con fondo morado y emojis de corazón. Las respuestas solicitaban solicitudes de amistad para continuar a través de Messenger, u ofrecían acceso a grupos privados o chats de WhatsApp, lejos de los ojos incluso de un transeúnte digital.
Este no era un tablero de mensajes fuera de la ley de 8Chan. Se podía encontrar alegremente en Facebook. Y comencé a descubrir alarmado que no era el único. De hecho, en enero de 2022, tres meses después de mis esfuerzos para que se tomaran medidas contra ellos, si buscaba 11, 12, 13 en la plataforma, 23 de los primeros 30 resultados eran grupos dirigidos a niños de esas edades, con nombres de grupos que incluían las palabras boyfriend/girlfriend, novio/a, o niños/niñas, a veces junto con ‘pervertidos’, ‘hot’, etc. Totalizaron más de 81.000 miembros.
Es posible que haya asumido que 18 años después, Facebook (ahora parte de Meta) tendría controles básicos establecidos para que la creación de un grupo cuyo nombre anuncie el objetivo de buscar niños para contacto íntimo desencadene el escrutinio. Sobre todo porque, según las propias políticas de Facebook, se supone que nadie menor de 13 años debe estar en la plataforma. Todos los que interactúan en un grupo de este tipo son, por definición, un niño que viola las políticas de Facebook al estar en Facebook, un adulto que viola las políticas de Facebook al hacerse pasar por un niño o un adulto que actúa abiertamente como un adulto al violar la política de Facebook (y varias leyes estatales e internacionales) buscando contacto sexualizado con niños
Seguramente, la debida diligencia dictaría pasos proactivos para evitar la creación de tales grupos, respaldados por una acción rápida para eliminar cualquiera que ingrese una vez que se marquen y se informen. lo habría pensado. Hasta que me topé con estos grupos y comencé, con creciente incredulidad, a encontrar imposible eliminarlos.
Los niños comparten imágenes personales e información de contacto en un espacio digital sexualizado y son inducidos a unirse a grupos o chats privados donde se solicitarán e intercambiarán más imágenes y acciones.
Incluso cuando el debate sobre la Ley Earn It del Congreso llama la atención sobre el uso de canales digitales para distribuir materiales sexualmente explícitos, estamos fallando en lidiar con un cambio sísmico en la forma en que se generan los materiales de abuso sexual infantil. Cuarenta y cinco por ciento de los niños estadounidenses de 9 a 12 años informan que usan Facebook todos los días. (Ese solo hecho se burla de la afirmación de Facebook de que trabajan activamente para mantener a los niños menores de 13 años fuera de la plataforma). Según una investigación reciente, más de una cuarta parte de los niños de 9 a 12 años informan haber experimentado solicitación sexual en línea. Uno de cada ocho informa que se le ha pedido que envíe una foto o un video desnudo; uno de cada 10 informa que se le ha pedido unirse a una transmisión en vivo sexualmente explícita. Los teléfonos inteligentes, el acceso a Internet y Facebook juntos ahora llegan a las manos y los hogares de los niños y crean nuevos espacios para la depredación activa. A escala.
POR SUPUESTO que informé del grupo que había descubierto accidentalmente. Usé el sistema en la plataforma de Facebook y lo etiqueté como que contenía “desnudez o actividad sexual” que (menú siguiente) “involucra a un niño”. Una respuesta automática llegó días después. El grupo había sido revisado y no violó ningún “estándar comunitario específico”. Si sigo encontrando contenido “ofensivo o desagradable para usted”, ¿fue mi gusto el problema aquí? Debo informar ese contenido específico, no el grupo en su conjunto.
“Buscando novi@ de 9,10,11,12,13 años” tenía 7,900 miembros cuando lo reporté. Cuando Facebook respondió que no violaba los estándares de la comunidad, tenía 9.000.
Así que tuiteé en Facebook y en la sala de redacción de Facebook. Envié DM a personas que no conocía pero que pensé que podrían tener acceso a personas dentro de Facebook. Etiqueté a los periodistas. E informé a través del protocolo de la plataforma sobre una docena de grupos más, algunos con miles de usuarios: grupos que no encontré a través de términos de búsqueda sexualmente explícitos, sino simplemente escribiendo “11 12 13” en la barra de búsqueda de Grupos.
Lo que quedó cada vez más claro mientras luchaba por actuar es que los límites de la tecnología no eran el problema. Se mostró todo el poder de los algoritmos impulsados por IA, pero estaba trabajando para expandir, no reducir, el peligro para los niños. Porque incluso cuando una respuesta tras otra llegaba a mi bandeja de entrada negando los motivos para la acción, comenzaron a recomendarme nuevos grupos de sexualización infantil como “Grupos que te pueden gustar”.
Cada nuevo grupo que me recomendaron tenía la misma combinación de comentarios llenos de dibujos animados, preparación emocional e invitaciones gamificadas para compartir material sexual que los grupos que había informado. Algunos estaban en español, algunos en inglés, otros en tagalo. Cuando busqué una traducción de “hanap jowa”, el nombre de una serie de grupos, me llevó a un artículo de Filipinas que informa sobre los esfuerzos de los usuarios de Reddit para eliminar los grupos de Facebook que ponen en peligro a los niños allí.
Si su centro comercial local tuviera toda una sección de escaparates que anunciaran “Niños y niñas de 10, 11, 12 años, vengan a encontrar su romance sexy aquí”, con puertas abiertas que conducen a un laberinto de fotomatones ocultos, y los propietarios del centro comercial instalaron un servicio de transporte gratuito a pedido para recoger a cualquier niño en cualquier momento: ¿nos encogeríamos de hombros y diríamos, bueno, no hay nada que hacer? ¿Culpar a los padres, mirar hacia otro lado?
El problema es que las plataformas de redes sociales que están dando forma a nuestra conectividad ampliada (y, a veces, subvencionándola, como lo ha hecho Facebook al proporcionar un servicio de Internet gratuito limitado en algunos mercados en desarrollo) crean exactamente el tipo de espacios semipúblicos y semiprivados donde sabemos que los niños están en peligro. . Alrededor del 10 por ciento de los niños que son víctimas de abuso sexual son abusados por extraños, otro 30 por ciento por miembros de la familia.
Sin embargo, la mayoría son abusados por conocidos: personas que tienen ocasión de contacto repetido que genera confianza y fuerza emocional, que pueden crear oportunidades para pasar del ojo público a puertas cerradas.
Los grupos de Facebook, y el ecosistema de chats privados y canales en los que se alimentan, permiten que extraños se conozcan, a escala, con salas privadas a solo un clic de distancia.
Las recomendaciones mostraron que la IA alimentada por datos internos reconoció exactamente las características del grupo que yo había reconocido, capturando patrones de depredación en todo el idioma y la región para un impulso sin fricciones.
Mientras tanto, mientras los motores de recomendación de Facebook funcionan como un Uber perfecto para los abusadores, el lado de la seguridad funciona como el DMV alrededor de 1990: ingreso manual de datos, inacción por defecto.
El alcance de backchannel a una persona con conexiones dentro de Facebook fue el único paso que pareció generar acción. Esa persona tomó mi preocupación en serio. Una semana después, los grupos más grandes comenzaron a desaparecer. Pero en cuestión de meses, otros nuevos del mismo tamaño los habían reemplazado.
Más recientemente, el más grande de esta última ola de grupos ha desaparecido, ya sea eliminado o llevado al estado de “grupo secreto”, es imposible saber cuál. Volvemos a un número menor de grupos: contenido idéntico al anterior, y de nuevo creciendo de manera constante a pesar de mis repetidos informes de ellos a través de la herramienta de “seguridad” de Facebook.
Es posible que mis esfuerzos no hayan tenido nada que ver ni siquiera con los derribos limitados que se han producido. ¿Quién sabe? Hay cero transparencia, que es parte del problema.
Las capturas de pantalla que tomé pueden ser la única evidencia externa de docenas de grupos con miles de miembros y cientos de interacciones diarias que florecieron en Facebook durante meses sin abordar. (“No toleramos la explotación infantil, incluido el material de abuso sexual infantil o las interacciones inapropiadas entre adultos y menores, en nuestras plataformas”, escribió un portavoz de Meta en un comunicado a WIRED. “Animamos a cualquiera que vea contenido que crea que infringe nuestras reglas a repórtalo usando nuestras herramientas de reporte integradas en la aplicación”).
Como investigador externo, no solo no tengo acceso a los vastos flujos de datos o especificaciones algorítmicas de Facebook. La empresa ni siquiera comparte la información más básica sobre el ritmo de creación, escala o eliminación de grupos públicos, privados o secretos.
Además, como académicos nos regimos por una ética y reglas que limitan a qué materiales pueden estar expuestos nuestros asistentes de investigación: o qué imágenes identificables podemos almacenar, más aún cuando se trata de niños, que se consideran categóricamente incapaces de dar su consentimiento informado a investigadores
Decir que las interacciones de Facebook con los niños no se rigen por tales sutilezas es quedarse corto.
Incluso aquí, en lo que no debería ser un caso extremo en lo más mínimo: grupos creados en torno al acoso sexual de niños demasiado pequeños para estar en la plataforma, Facebook no está configurado de manera proactiva para prevenir daños ni actúa de manera consistente cuando se marca. Eso nos dice más que cualquier comunicado de prensa sobre cómo funciona en la práctica el equilibrio entre la ingeniería para la protección y la ingeniería para la expansión, y debería asustarnos mucho.
Facebook está desesperado por atraer a más usuarios jóvenes. No puede darse el lujo de perder a la nueva generación por TikTok. La visión de Mark Zuckerberg de Meta como un emporio de realidad virtual se apoya en el atractivo de los juegos multijugador.
La facilidad con la que la gamificación atrae a los niños se muestra repugnante en los grupos que he visto. ¿Cómo sabrán los ojos externos cuán peligroso se vuelve el metaverso?
Propuestas recientes como la Ley de Transparencia y Responsabilidad de la Plataforma, basándose en marcos Brookings y otros, exigirían cierto acceso a la información básica que sería el primer paso hacia la responsabilidad. Pero dada la complejidad entrelazada de los algoritmos mutables y las opciones de políticas internas apiladas que determinan cómo funcionan realmente las plataformas, la regulación externa efectiva parece mucho menos alcanzable que la revuelta desde adentro. (Esta parece ser la intuición detrás de nuevas iniciativas como el Integrity Institute).
Si la vergüenza pública es la mejor ruta disponible, será mejor que descubramos cómo acelerarla rápidamente. Soy un académico de los EE. UU. con respaldo institucional, tiempo para gastar y alguna plataforma pública, y me resultó imposible lograr una acción sostenida contra estos grupos. ¿Cómo van a conseguir los padres en Tamaulipas o en el sur de Texas que los depredadores se metan en la vida de sus hijos o la empresa sin la cual estas oportunidades de daño no existirían?
Descubrí que si hablas sobre la depredación sexual de niños por parte de extraños en Internet lo suficientemente alto, los amigos preocupados comenzarán a decirte que suenas como un creyente de QAnon. Vale la pena detenerse a pensar. Los pánicos colectivos sobre los niños en peligro se repiten repetidamente en la historia: he escrito sobre el aumento de los temores a la brujería y el sacrificio de sangre infantil en el Caribe de principios del siglo XX. Los detalles específicos de estos pánicos no carecen de sentido.
Más bien, reflejan temores genuinos, a menudo proyectando sobre un solo grupo de supuestos malhechores lo que en realidad es un patrón de vulnerabilidad mucho más difuso.
Creer en enemigos contra los que puedes actuar puede ser al menos una sensación de empoderamiento. Sentarse con el conocimiento de que nadie sabe cómo detener el centro comercial del infierno al lado es simplemente aterrador.
Gracias a las personas que esvribieron este artículo y ojala logremos que menos niños sean arrastrados a este mal camino…
