El rápido avance tecnológico en las herramientas de Inteligencia Artificial (IA) las ha permitido ser capaces de generar imágenes realistas, lo que ha dado lugar a una preocupante proliferación de pornografía infantil y casos de extorsión a niños y adolescentes, según un experto en seguridad digital entrevistado por el canal Fox News.
Yaron Litwin, director de marketing de Canopy, platicó acerca de cómo algunas personas sin escrúpulos han logrado aprovechar las fotografías públicas de redes sociales y, por medio de la edición y la IA, las manipulan para crear material pornográfico.
El resultado, no solo es distribuido en Internet, sino que también se usa para extorsionar a quienes aparecen en ellas. "Alguien puede tomar una imagen normal de un adolescente vestido, editarla y convertirla en un desnudo, e intentar chantajear a ese adolescente", detalló Litwin.
Litwin comentó que actualmente es muy fácil producir este tipo de material, y conforme los algoritmos de los modelos generativos de la IA procesan más imágenes, estos mejoran más. "Hay un aumento del 200 % en imágenes de IA fotorrealistas de pornografía infantil".
Un informe publicado por el The Washington Post señaló que, en Estados Unidos, el contenido realista de explotación sexual infantil producido por IA podría socavar los sistemas de seguimiento en línea diseñados para detener la difusión de materiales de abuso sexual infantil (CSAM). Estos sistemas están configurados para detectar imágenes conocidas de abuso, pero tienen dificultades para identificar las imágenes recién generadas por IA, lo que podría requerir que las autoridades dediquen más tiempo a determinar si son reales o falsas.
Los pedófilos comenzaron a utilizar navegadores especiales para participar en foros donde comparten guías detalladas sobre cómo crear nuevas imágenes realistas con facilidad. Estos materiales luego son utilizados para crear identidades falsas en línea, conversar con niños y ganarse su confianza. A pesar de que los sistemas de IA más populares tienen ciertas restricciones, los delincuentes están recurriendo a algoritmos de código abierto en la Internet oscura para eludir las restricciones.
Esta situación está planteando diversos interrogantes legales en Estados Unidos respecto a qué viola o no las leyes estatales y federales de protección infantil. Aunque este tipo de material es considerado ilegal, incluso si las imágenes son generadas completamente por IA, aún no se ha juzgado ningún caso de este tipo en los tribunales, lo que pone de manifiesto un vacío legal en cuanto a la legislación contra la pornografía infantil virtual.
"A medida que esto se vuelve tan abundante, se hace muy, muy difícil de bloquear, se hace muy difícil de filtrar. Es muy difícil luchar contra eso. La legislación no está totalmente en su lugar todavía", omentó Litwin.
