Google Play publicó el 25 de agosto de 2026 nuevas orientaciones sobre apps de IA generativa que pueden facilitar imágenes íntimas no consentidas. El cambio importante es operativo: la seguridad no puede reducirse a la revisión inicial de la tienda porque el comportamiento del modelo, los prompts y los patrones de abuso pueden cambiar tras el lanzamiento.
Qué dice hacer Google
En el artículo de Android Developers, Google afirma que prueba repetidamente apps de IA durante su ciclo de vida y que ha revisado miles para detectar controles débiles o abuso. También dice que puede retirar aplicaciones infractoras y bloquear su publicidad o monetización en sus sistemas.
Google describe cooperación con organizaciones especializadas y grupos de seguridad de IA mediante Priority Flagger. Puede mejorar los avisos, pero no ha publicado una tasa completa de detección, falsos positivos o tiempo de respuesta. La escala declarada no equivale a eficacia demostrada.
La política de contenido generado por IA exige cumplir las normas de contenido restringido y ofrecer un mecanismo interno para denunciar resultados ofensivos sin salir de la app. Los desarrolladores deben usar esos avisos para mejorar filtros y moderación. Otra página identifica expresamente el material sexual deepfake no consentido como infracción.
Por qué importa el control continuo
Un sistema generativo no es un catálogo fijo. Su salida depende del modelo, prompts, archivos, instrucciones, filtros y herramientas externas. Un control puede bloquear una petición directa y fallar ante otra formulación o edición de imagen. Cambiar el modelo o el servicio de moderación también puede alterar el comportamiento sin rediseñar la aplicación.
Por eso, las pruebas deberían ir más allá del lanzamiento: evaluación adversaria antes de versiones, seguimiento tras cambios, escalado claro de avisos, límites ante patrones sospechosos y datos de auditoría suficientes para investigar sin recopilar información sensible innecesaria. Son prácticas derivadas del riesgo; Google no prescribe una implementación universal.
También hay que separar prevención y respuesta. Los filtros reducen generación dañina, pero el usuario necesita una vía rápida cuando fallan. Retirar un resultado no basta si puede volver a generarse o publicarse.
El contexto legal avanza en la misma dirección
Las reglas de Play son distintas de las obligaciones legales. La guía de la FTC sobre Take It Down indica que las plataformas cubiertas deben ofrecer un proceso para retirar imágenes íntimas no consentidas, incluidas falsificaciones digitales creadas o alteradas con IA. Tras una solicitud válida, deben eliminar el contenido y hacer esfuerzos razonables para retirar copias idénticas conocidas en 48 horas.
La FTC también sugiere usar hashes para evitar reapariciones y compartirlos con NCMEC cuando hay menores o StopNCII.org para adultos. Se aplica a material ya identificado; no sustituye controles del modelo ni elimina todos los errores de coincidencia.
Para los desarrolladores, revisión, generación, alojamiento y denuncias pueden implicar responsabilidades diferentes. Superar la revisión no demuestra cumplimiento continuo y la aplicación de Google no traslada a Google los deberes legales del desarrollador.
Qué evidencia falta
La dirección es más clara, pero faltan métricas públicas: frecuencia de regresiones, tiempos de respuesta, criterios de restitución y datos sobre reincidentes. También sería útil saber cómo evalúa Google las garantías de proveedores de modelos que el desarrollador no controla.
Aun así, el mensaje es concreto: la seguridad de IA generativa en Android se convierte en una tarea operativa continua. Controles, denuncias y monetización se juzgarán por el comportamiento real después del lanzamiento.
Fuentes y metodología
El artículo usa el anuncio original de Google, sus políticas de IA y contenido inapropiado, y la guía de la FTC. No describe técnicas para producir material abusivo.