Instagram usa IA para proteger a adolescentes de contenido explícito

Meta, la empresa matriz de Facebook e Instagram, ha intensificado sus medidas de protección para adolescentes en sus plataformas para combatir la sextorsión y el grooming. Una de las principales novedades es el uso de inteligencia artificial para detectar y difuminar automáticamente imágenes íntimas o desnudos en mensajes privados de Instagram, lo que ayuda a los jóvenes a evitar el contenido explícito no deseado.

La función está diseñada para proteger a los menores de 18 años, quienes tendrán la protección activada automáticamente. Los adultos recibirán notificaciones animándolos a activar esta herramienta de seguridad. Además, se aconseja a los usuarios ser cautelosos al enviar fotos sensibles y se les anima a denunciar cualquier imagen inapropiada.

Meta también ha intensificado sus esfuerzos para desmantelar redes de estafadores y cuentas que practican sextorsión. La compañía colabora con el Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) y Lantern para compartir señales sobre comportamientos sospechosos que violan las políticas de seguridad infantil.

Las redes sociales de Meta, especialmente Instagram, han añadido protecciones para evitar que los adolescentes sean contactados por adultos desconocidos, como impedir que los adultos envíen mensajes directos a menores que no los siguen y ocultar perfiles de menores en los resultados de búsqueda de cuentas sospechosas.

Estas iniciativas buscan crear un entorno más seguro para los adolescentes en línea, limitando la exposición a contenido explícito y protegiéndolos de estafadores y delincuentes que buscan explotarlos. Además, Meta recomienda a los usuarios revisar los perfiles de los contactos con detenimiento para evitar interacciones con personas malintencionadas.

Meta, también conocida como Facebook, toma medidas enérgicas contra cuentas de sextorsión y las denuncia a las autoridades correspondientes para evitar su actividad. La empresa trabaja estrechamente con expertos y agencias de seguridad para identificar y detener a los delincuentes cibernéticos que buscan explotar a los jóvenes en línea.

El sistema Take It Down es una herramienta que ayuda a los jóvenes a eliminar sus imágenes íntimas de internet, evitando que sean compartidas sin su consentimiento. Meta también ofrece recursos como el Centro de Seguridad y StopNCII.org para brindar apoyo a las personas que enfrentan amenazas de sextorsión.

Estas medidas de protección no solo buscan prevenir situaciones de abuso en línea, sino también empoderar a los jóvenes para tomar decisiones informadas y seguras al interactuar en el entorno digital. A medida que la tecnología avanza, Meta se compromete a continuar innovando y fortaleciendo las medidas de seguridad para proteger a sus usuarios más jóvenes.

Advertisement

Leer Anterior

Empresas peruanas innovadoras: así están revolucionando el país con la impresión 3D en el Día del Emprendimiento

Leer Siguiente

Emprendimiento: startups destacadas en el ámbito de la salud