Cada vez más gente me cuenta lo mismo: «Hice una aplicación con inteligencia artificial, la estoy usando hace unos días y funciona». Y está buenísimo. Poder armar una app sin depender de un equipo de desarrollo es algo que hace unos años parecía ciencia ficción.
Pero hay una pregunta que casi nadie se está haciendo: ¿cómo sabés que tu aplicación realmente funciona bien? No solo cuando todo sale como esperabas, sino también cuando algo sale mal.
La mayoría de las personas que arman apps con IA prueban lo que en desarrollo de software se llama el camino feliz (en inglés, happy path): cargan un dato, ven que se guarda, ven que aparece en el reporte y lo dan por bueno. El problema es que una app que funciona en el camino feliz no es lo mismo que una app robusta.
En este episodio del podcast hablamos de eso: de los riesgos que no se ven, de la seguridad que nadie tiene en cuenta y de las pruebas que separan una app que parece funcionar de una que funciona de verdad. La idea no es que le tengas miedo a construir, sino que sepas qué mirar.
El riesgo que no ves: los errores silenciosos
Arranquemos por lo más importante. Si tu aplicación falla y te aparece un cartel rojo que dice «Error al guardar los datos», en algún punto es una buena noticia. Lo viste. Sabés que algo pasó y podés hacer algo al respecto.
El problema de verdad es cuando la app falla y no te avisa.
Cuando los datos cambian sin que te des cuenta
Pensá en estas situaciones:
- Estás guardando datos y algo no se guarda, pero no aparece ningún mensaje.
- Por alguna razón se borran todos los registros.
- Los datos se modifican de una forma que no esperabas y no te enterás.
Y después, cuando sacás el reporte para tomar una decisión, la información está alterada. Estás decidiendo sobre datos que no son reales y ni siquiera lo sabés.
Eso es un error silencioso, y es de las cosas más peligrosas que te puede pasar con una app hecha con IA. Por eso una app robusta no es solo una que funciona: es una que te avisa cuando algo no está funcionando.
Cuando la app ya no es un juego
Acá está el punto que más me preocupa. Mucha de la gente con la que hablo no está haciendo apps para jugar o por hobby. Las están usando en el trabajo, para operar su negocio o el de la empresa donde trabajan.
Me pasó de hablar con alguien que armó una aplicación espectacular. Sus compañeros la empezaron a usar, la amaban porque les resolvía un montón de problemas. Y un día la app dejó de funcionar. Lo llamaron: «Che, la aplicación no anda, no podemos operar».
¿Y qué hizo en ese momento? No sabía qué hacer. Nunca había pensado que eso podía pasar. Lo agarró totalmente desprevenido.
Cuando una app se vuelve parte del día a día de un equipo, deja de ser un experimento. Y ahí tenemos que pensarla distinto.
La seguridad: el tema más olvidado
De todo lo que veo, la seguridad es lo que menos se tiene en cuenta. Y es el tema que más problemas puede traer.
Apps publicadas sin login
Es muy común que alguien arme una app y la publique en Netlify (la gente de Netlify hizo muy bien su trabajo de posicionamiento, porque las IA la suelen sugerir para publicar). Hasta ahí, todo bien.
El problema es que muchas de esas apps no tienen login. No te piden usuario ni contraseña. Cualquiera que tenga la dirección puede entrar y usarla.
La respuesta que escucho siempre es: «Bueno, total la URL es rara, ¿quién la va a encontrar?». Quedate tranquilo que la encuentran.
«¿Y por qué alguien entraría a romper mi app?»
Es la segunda pregunta que me hacen. Y la respuesta es que las razones son muchísimas, pero lo importante es que pasa. Hay gente que se dedica a eso. Y encima, eso ya lo puede hacer una inteligencia artificial: alguien manda un agente a recorrer sitios buscando este tipo de agujeros.
¿Qué puede pasar si alguien entra?
- Te modifica todos los datos. Todo lo que estuviste cargando durante días o semanas se convierte en basura.
- Te borra la información. Directamente, desaparece.
- Te llena la base de datos con millones de registros falsos.
Ese último caso es menos obvio y te pega en el bolsillo. Esos registros ocupan espacio y consumen recursos del servicio en la nube. Y un día te llega un resumen de la tarjeta con un gasto que vos no hiciste. ¿Cómo puede ser? Porque alguien usó tu servidor o tu base de datos.
Logins que existen, pero no protegen nada
Otro caso que me encontré: apps que sí tienen login, pero mal hecho. Por ejemplo, un login donde en el código HTML de la página (lo que se ve en el navegador) estaban escondidos todos los usuarios y contraseñas.
¿Qué significa eso? Que cualquiera con un poco de conocimiento hace clic derecho, «Ver código fuente», y tiene todas las credenciales. Le pusiste un login, sí, pero es una puerta con la llave pegada al lado.
Este tipo de cosas pasan porque nadie le preguntó a la IA por la seguridad. Y si no lo pedís, muchas veces no aparece.
Si estás armando herramientas con IA para tu trabajo y querés hacerlo con criterio, no solo rápido, en Pioneros IA trabajamos justamente eso: cómo llevar la inteligencia artificial a tus procesos con aplicaciones bien hechas, seguras y que aguanten el uso real.
Backups: tu red de seguridad
Una cosa muy simple que casi nadie hace: tener backup. Es decir, una copia de seguridad de tus datos que se haga de forma periódica y automática.
Si algo sale mal (alguien entra, se borran los datos, un cambio rompe algo), el backup es lo que te permite volver atrás. Sin backup, lo que perdiste lo perdiste.
Es de esas cosas que parecen innecesarias hasta el día que las necesitás.
Cuando arreglás algo y rompés otra cosa
Este es un clásico del desarrollo de software y le pasa a todo el mundo, también a los que programamos hace años.
Las apps se construyen de forma iterativa. Un día se te ocurre: «Uy, le podríamos agregar esto». Se lo pedís a la IA, lo hace, probás lo nuevo, funciona, y lo das por bueno. Todos a usar la app.
¿Qué pasa? Cuando se construye un sistema, muchas partes se reutilizan. Entonces agregar algo nuevo puede haber afectado algo que antes funcionaba perfecto. Y como solo probaste lo nuevo, no te diste cuenta. Otro error silencioso.
Las pruebas que existen hace años (y casi nadie usa)
Para esto, en ingeniería de software existen herramientas que se usan hace mucho tiempo. Mucha gente que arma apps con IA no las conoce, y por eso no las pide:
- Pruebas unitarias: verifican que cada pieza chica de la app haga lo que tiene que hacer.
- Pruebas de regresión: confirman que lo que antes funcionaba sigue funcionando después de un cambio.
- Casos de prueba (test cases): situaciones concretas que la app tiene que resolver bien, escritas de antemano.
- Pruebas end to end: prueban el recorrido completo, como lo haría un usuario real.
No necesitás ser experto en esto. Podés hablarlo con la misma IA: pedile que arme un set de pruebas para tu app y que las corra cada vez que hacés un cambio.
Más allá del camino feliz: los casos de borde
Las pruebas también tienen que salir del camino feliz. Hay que pensar en las condiciones de borde:
- ¿Qué pasa si alguien pone un número muy grande? ¿Y uno muy chico?
- ¿Qué pasa si deja un campo vacío?
- ¿Qué pasa con datos distintos a los que usaste para probar?
- ¿Qué pasa si se cumplen condiciones de lógica que no tenías en cuenta?
Preguntarte si funciona no alcanza. Lo que tenés que poder responder es «¿cómo voy a saber que va a funcionar siempre, en las buenas y en las malas?».
La IA no lo hace bien a la primera
Acá va algo que quiero que te lleves. La inteligencia artificial nos permite hacer cosas que antes no podíamos o que nos llevaban meses. Eso es real. Pero no es que le decís «haceme una app y hacela bien» y la hace bien. Eso no pasa.
Lo que funciona es iterar. No quedarte con lo que te dio la primera vez.
El bucle de revisión
Una cosa que noto siempre: cuando le pedís a una IA que revise el trabajo que hizo otra, encuentra cosas para mejorar. Siempre.
Entonces la forma de trabajar es en bucle:
- La IA construye.
- Otra IA (o la misma, con otro pedido) revisa.
- Corrés las pruebas.
- Ajustás.
- Volvés a empezar.
Puede que tengas que hacerlo 2, 3 o 10 veces. Es normal. Pero no te quedes con lo primero, porque casi seguro lo primero no es lo mejor.
Conclusiones
Armar apps con inteligencia artificial es una de las cosas más potentes que tenemos a mano. Pero que una app parezca funcionar no quiere decir que esté bien hecha.
Si tuviera que quedarme con dos cosas, serían estas:
- La seguridad tiene que estar desde el principio, no como algo que se agrega después. Login bien hecho, datos protegidos y nada expuesto en el código.
- Las pruebas tienen que repetirse en cada cambio. Un set de pruebas que cubra el camino feliz, los casos de borde y todo lo que ya funcionaba.
Y sumale un backup periódico, por las dudas.
Hay mucho más para decir, pero con esto ya tenés una base para revisar lo que estás construyendo. La próxima vez que termines una app, no te preguntes solo si funciona. Preguntate qué pasa cuando algo sale mal, y si te vas a enterar.
Si querés que te acompañemos a llevar todo esto a la práctica, con aplicaciones seguras y robustas dentro de tus procesos de trabajo, pasate por Pioneros IA. Ese es el método que aplicamos con profesionales y empresas.