Samsung, Apple, BBVA, Telefónica, Amazon. ¿Qué tienen en común estas empresas?
Todas prohibieron el uso de ChatGPT a sus empleados.
No es que sean anticuadas ni que le tengan miedo a la tecnología. Es algo más simple: no quieren que los datos confidenciales de su empresa terminen en servidores externos que ellos no controlan.
Y acá aparece una pregunta que cada vez más empresas y profesionales se están haciendo: ¿existe una alternativa para usar inteligencia artificial sin que nada salga de tu máquina?
La respuesta es sí. Se llama inteligencia artificial local y privada. Y en este episodio del podcast de Pioneros IA hablamos de eso: qué es, cómo funciona, qué hardware necesitás y qué herramientas podés usar hoy mismo.
¿Por Qué las Empresas Están Prohibiendo ChatGPT?
El problema es concreto: cuando usás una herramienta como ChatGPT, Google Gemini o cualquier otro modelo en la nube, todo lo que escribís va a servidores externos.
Si eso que escribís incluye contratos, datos de clientes, información médica o financiera, básicamente estás sacando información confidencial de tu empresa y enviándola a otra parte.
Eso es exactamente lo que pasó en el caso de Samsung, donde empleados subieron código fuente confidencial a ChatGPT sin darse cuenta del riesgo. A partir de ese momento, muchas empresas decidieron directamente prohibir el uso de estas herramientas.
En España, por ejemplo, muchas compañías prohíben a sus empleados usar cualquier herramienta de IA externa por temas de privacidad y cumplimiento normativo.
Entonces, ¿qué hacen las empresas que necesitan usar IA pero no quieren correr ese riesgo? Se van para el lado de la IA local y privada.
¿Qué Es la Inteligencia Artificial Local?
Cuando hablamos de IA local, hablamos de correr un modelo de inteligencia artificial directamente en tu propia máquina o en un servidor que vos controlás, sin necesidad de conexión a internet.
¿Cómo funciona? Hay empresas como Meta (la de Facebook), Google, Alibaba o DeepSeek que entrenan modelos de IA y después los publican de manera gratuita en internet. Vos te descargás ese modelo, queda guardado como un archivo en tu computadora, y a través de ciertas aplicaciones podés usarlo tal como usarías ChatGPT, pero sin salir de tu red.
Una vez que lo descargás, ese modelo es tuyo. Lo corrés vos.
Las Tres Ventajas Principales de Tener IA Privada
Privacidad total. Nada sale de tu máquina. Contratos, datos de clientes, información sensible, todo queda guardado en tu disco local. Esa es la razón número uno por la que las empresas eligen esta opción.
Sin costos de suscripción. Una vez que descargás el modelo, no pagás más. Sin mensualidades, sin costo por tokens, sin límites de uso. Solo necesitás que tu máquina esté encendida y consumiendo electricidad.
Independencia total. Podés usarlo en el medio de la nada, sin conexión a internet, en un avión, en una zona sin señal. El modelo corre en tu hardware y no depende de ningún servidor externo.
La contrapartida honesta es esta: la calidad de los modelos locales no es la misma que la de los modelos en la nube como el último ChatGPT o Claude. Dependiendo del hardware que tengas, la velocidad también puede ser menor. Eso hay que tenerlo en cuenta. La IA local no es gratis ni mágica. Es una alternativa con ventajas claras pero también con limitaciones reales.
¿Qué Hardware Necesitás para Correr IA Local?
Acá está la parte que más preguntas genera: ¿mi computadora sirve?
La respuesta depende de qué tipo de uso querés hacer y qué nivel de calidad esperás. Los modelos de IA se miden por la cantidad de parámetros que tienen. Más parámetros generalmente significa mejor calidad, pero también más demanda de hardware.
Modelos Pequeños (1 a 4 mil millones de parámetros)
Podés correrlos con apenas 8 GB de RAM. El problema es que el uso es muy acotado. Sirven para tareas muy simples y específicas, no para el trabajo diario con el que estamos acostumbrados a usar la IA.
Modelos Medianos (7 a 14 mil millones de parámetros)
Acá ya empezás a tener resultados bastante más decentes. Para esto necesitás una máquina con 16 GB de RAM o más. Por ejemplo, una MacBook Pro con procesador M3 y 20 GB de RAM puede correr este tipo de modelos sin problemas.
Modelos Más Grandes (30 a 70 mil millones de parámetros)
Para este rango necesitás entre 48 y 64 GB de RAM. Esto explica el boom que tuvieron las Mac Mini en los últimos tiempos: muchos profesionales las compraron específicamente para correr modelos de IA local de esta categoría. En algunos momentos se agotaron en varios países porque la demanda explotó.
Modelos de Alta Gama (más de 120 mil millones de parámetros)
Acá ya estamos hablando de calidad cercana a los modelos en la nube. Para esto necesitás 128 GB de memoria. Son equipos de alto rendimiento, no la laptop promedio.
¿Qué Es la Cuantización y Por Qué Importa?
Hay un concepto que vale la pena entender antes de ir a buscar modelos para descargar: la cuantización.
La cuantización es una forma de comprimir estos modelos para que ocupen menos memoria, sacrificando un poco de calidad. Si querés una analogía, es como el MP3 para la música: podés tener buena calidad de audio en un archivo mucho más liviano. Así fue como explotó la descarga y el streaming de música, y con los modelos de IA funciona de manera similar.
Cuando busques modelos para descargar, los que tienen una «Q» en el nombre (Q4, Q5, Q6, Q8) son modelos comprimidos. Q4 es la compresión más fuerte, Q8 es casi sin pérdida de calidad.
Antes de ponerte a descargar cualquier cosa, existe una herramienta llamada LLM Checker que podés instalar en tu máquina. Le mostrás tu hardware y te dice cuáles son los mejores modelos que podés correr en tu caso específico. Es el primer paso recomendado antes de empezar a explorar esto.
Si estás pensando en cómo aplicar herramientas de IA en tu trabajo con criterio y sin enredarte en tecnicismos, en Pioneros IA acompañamos a profesionales para que puedan avanzar con un plan concreto.
Las Herramientas Para Usar IA Local Hoy
Hay tres aplicaciones principales que podés usar para correr modelos de IA en tu propia máquina:
GPT4All
Es la opción más conocida y la más sencilla para empezar. Funciona como una interfaz similar a ChatGPT, pero corriendo todo de manera local. Podés abrir distintos chats, cargar documentos, apuntar a carpetas de tu computadora para que lea archivos, y todo eso usando uno de los modelos que te hayas descargado. Nada sale de tu máquina.
LM Studio
Una alternativa más moderna y actualizada. La interfaz es más cuidada, tiene más opciones de configuración y un catálogo más grande de modelos disponibles para descargar. Se actualiza con más frecuencia. Si querés algo con más control y opciones, LM Studio puede ser mejor alternativa.
Ollama
Esta es la más técnica de las tres. Corre en la terminal y no tiene interfaz gráfica. Se usa cuando querés hacer automatizaciones dentro de un entorno local: por ejemplo, si descargás la versión comunitaria de n8n para correrla en tu propia máquina, podés conectarla con Ollama para que tus flujos de automatización también usen IA de manera completamente privada.
Las Nuevas Máquinas Pensadas para IA Local
En los últimos meses, dos de los eventos tecnológicos más importantes del mundo pusieron a la IA local en el centro de la escena.
NVIDIA presentó las máquinas RTX Spark: computadoras de escritorio con 128 GB de memoria unificada, capaces de correr modelos de más de 120 mil millones de parámetros. Los precios estimados van de 1.500 a 3.000 dólares, y van a estar disponibles en marcas como HP, Lenovo, ASUS, MSI y Microsoft Surface. Son precios estimados, todavía no oficiales, pero dan una idea clara de hacia dónde va el mercado.
Microsoft, en su evento Microsoft Build, también habló del tema. El CEO de la empresa dijo que el objetivo es entregar inteligencia sin medidor: que cada hogar o escritorio pueda usar IA de manera ilimitada, sin pagar por tokens ni tener límites de uso. Surface también va a tener su propia versión de estas máquinas.
Las Mac con procesadores M ya vienen preparadas para esto desde hace tiempo. El resto del mercado está siguiendo ese camino. Lo que viene es bastante claro: los próximos sistemas operativos y el hardware que los acompañe van a tener IA local integrada de fábrica, como hoy tiene cámara o micrófono.
IA Privada en Servidores: La Opción Para Empresas
No todo tiene que pasar en la computadora de cada empleado. Hay otra opción que se adapta mejor a empresas medianas o grandes: servidores privados.
Podés tener un servidor físico dentro de tu empresa donde se corran los modelos. Todo queda dentro de tu red, nada sale. O podés alquilar un servidor privado en la nube. En este caso, es una nube donde solo vos tenés acceso y corrés tus propios modelos, sin que estén mezclados con los datos de nadie más.
La ventaja de la nube privada es que no necesitás hacer una inversión inicial en hardware. Pagás por hora de uso: encendés el servidor cuando lo necesitás y lo apagás cuando terminás. Hay varias empresas que ofrecen alquilar capacidad de GPU por el tiempo que necesites.
¿Cuál Es la Mejor Opción para Vos?
Tres caminos posibles según tu situación:
IA local en tu máquina: Si trabajás con datos sensibles de manera frecuente y querés privacidad total en el día a día. Empezá por instalar LLM Checker para saber qué modelos podés correr en tu hardware actual.
Nube privada (servidor alquilado): Si necesitás usar modelos grandes de manera esporádica, o si lo vas a poner en marcha a nivel empresa sin querer comprar hardware propio. Pagás solo por las horas que usás.
Seguir con ChatGPT, Claude o Gemini: Si no tenés restricciones de privacidad en tu empresa y te funciona bien lo que estás usando ahora, estas herramientas siguen siendo la opción más accesible y práctica para la mayoría. No tiene sentido complicarse si no es necesario.
Conclusión
La inteligencia artificial local y privada ya no es solo territorio de técnicos o grandes corporaciones. Hoy cualquier profesional puede empezar a explorar esta opción con herramientas gratuitas y hardware que quizás ya tiene en su escritorio.
El movimiento es claro: Microsoft, NVIDIA, Apple, todas las grandes empresas tecnológicas están empujando hacia un futuro donde la IA corre directamente en tu máquina, sin depender de la nube, sin costos de suscripción y sin que tus datos salgan de tu control.
Todavía hay una brecha de calidad respecto a ChatGPT o Claude. Eso es real y hay que decirlo. Pero para ciertos usos, especialmente donde la privacidad no es negociable, la IA local ya es una opción muy viable.
Y a medida que el hardware avance y los modelos se hagan más eficientes, esa brecha se va a ir cerrando sola. Lo que hoy requiere una Mac Mini de 64 GB, mañana va a correr en cualquier laptop de oficina.