A student and teacher engage in an English lesson on a whiteboard. Indoor educational setting.
← Divagaciones

¿Tu Aplicación Hecha con IA Filtra Datos de Clientes?

2026-09-17 · Clara F. & agents

En algún rincón de tu negocio probablemente hay una pequeña herramienta que nadie recuerda haber construido con cuidado. Un formulario de reservas. Una hoja de inscripción para un curso. Un pequeño portal donde un cliente sube un documento. Alguien, puede que tú, le pidió a una IA que la creara: describes lo que quieres, aparece ante tus ojos, publicas el enlace y sigues con tu día. Funcionó a la primera, lo cual pareció un pequeño milagro. Nadie se hizo la pregunta obvia después: ¿quién más puede ver lo que hay dentro?

Esa pregunta importa mucho más de lo que parece, y la respuesta, para muchas herramientas construidas así, es "cualquiera que tenga el enlace". Esto es lo que está pasando en realidad, explicado sin tecnicismos, y lo que conviene revisar esta semana en tus propias herramientas.

Lo que encontró un análisis real

En mayo de 2026, la empresa de ciberseguridad RedAccess analizó unas 380.000 aplicaciones construidas con plataformas populares de creación de apps con IA, entre ellas Lovable, Base44, Replit y Netlify. Cuatro de cada diez, en palabras de los propios investigadores, no tenían prácticamente ninguna seguridad ni pantalla de acceso. No una seguridad débil. Ninguna. Cualquiera que tuviera la dirección web, no el propietario, no un cliente registrado, cualquiera, podía abrir los datos que había detrás. Las filtraciones que verificaron los investigadores no eran abstractas: los horarios de barcos de una naviera, el estado interno de ensayos clínicos de una empresa sanitaria, registros financieros de un banco, conversaciones reales de atención al cliente de una tienda de muebles. Negocios reales, construidos por personas que intentaban avanzar rápido, igual que podrías hacerlo tú.

Por qué pasa esto, y no es descuido

Esto no es una historia sobre un puñado de personas poco cuidadosas. Veracode, una empresa de seguridad que prueba código escrito por IA en más de cien modelos distintos, descubrió que alrededor del 45 por ciento del código generado por IA contiene un fallo de seguridad real, más del doble que el código escrito a mano por una persona. El motivo es mecánico, no es culpa de nadie. Cuando le pides a una IA que construya un formulario de inscripción, describes lo que debe hacer: recoger un nombre, un correo, guardarlo en algún sitio. Casi nunca especificas quién no debería poder ver esa lista, así que el modelo no tiene ninguna instrucción que le diga que debe protegerla. Muchas de estas plataformas, además, publican por defecto cualquier proyecto nuevo en una dirección web pública, sin pantalla de contraseña, porque toda la propuesta consiste en tener algo funcionando delante de ti en treinta segundos. Protegerlo bien requiere una instrucción más que casi nadie piensa en dar, porque nada en el proceso te invita a hacerlo.

Un formulario de inscripción, seis meses después

Imagina una academia de idiomas. La propietaria le pide a una IA un formulario sencillo: nombre, correo, teléfono, qué curso, lo incrusta en la web de la academia y se siente legítimamente orgullosa de haberlo hecho ella sola, sin contratar a nadie. Funciona perfectamente. Nadie vuelve a tocarlo. Nada anuncia que esa misma dirección web, todavía activa, sigue recogiendo silenciosamente nombres de un curso que terminó en primavera, y que entregará toda esa lista a quien la abra: un competidor curioso, un desconocido aburrido, un rastreador automático que nunca deja de buscar. El formulario no tiene mala pinta. Le funciona bien a ella y le funciona exactamente igual de bien a cualquier otra persona, y precisamente eso es lo que hace tan fácil que este tipo de brecha pase meses sin notarse.

Límites honestos

Nada de esto es un argumento para volver a las hojas de papel y las hojas de cálculo enviadas por correo, que tienen su propio historial, normalmente peor, con este mismo problema. Los desarrolladores profesionales cometen el mismo error, los propios datos de Veracode lo confirman, solo que con menos frecuencia, porque comprobar quién puede ver qué forma parte de cómo se les enseñó a pensar un proyecto, no porque las herramientas de IA sean especialmente descuidadas. Y no puedes delegar esta comprobación a la misma IA que construyó la herramienta: preguntarle "¿esto es seguro?" suele producir un párrafo seguro de sí mismo y tranquilizador, no una prueba real, por la misma razón que no se planteó la pregunta por su cuenta la primera vez.

Qué revisar hoy

Abre lo que construiste, o lo que te construyeron, en una ventana de navegación privada, completamente desconectada de cualquier sesión. Si puedes ver los envíos de otras personas, no solo la entrada de prueba que escribiste tú, eso es exactamente el hueco que describe el análisis de RedAccess, se llame como se llame la herramienta que usaste. Si de verdad no sabes distinguirlo, hazle a quien lo construyó una pregunta directa: "si envío este enlace a un desconocido, ¿puede ver la información de otras personas, no solo añadir la suya?". Un sí merece un arreglo esa misma tarde antes que cualquier otra cosa de la lista de esta semana.

Es una pregunta justa también en el sentido contrario: ¿Está la IA Entrenándose con los Datos de tu Negocio? Mecanismo distinto, mismo instinto: pregunta, no des nada por hecho.