En corto
Un modelo de IA de pesos abiertos publica sus parámetros para descargarlo y ejecutarlo donde elijas. En 2026 una pyme puede usar en un equipo de oficina Gemma 4, Qwen3.8-27B, Muse Glimmer 30B, ALIA 40B o Salamandra 7B (de 5 a 25 GB de memoria a 4 bits), y Muse Spark Open, GLM-5.3 o DeepSeek V4.1 a través de un servidor o proveedor. Compensan con volumen constante y datos sensibles.
- Un modelo de IA de pesos abiertos es un modelo cuyos parámetros entrenados se pueden descargar y ejecutar en el equipo o servidor que elijas, según lo que permita su licencia.
- Gemma 4, Qwen3.8-27B, Muse Glimmer 30B, Mistral Small 4, ALIA y Salamandra usan licencia Apache 2.0; Muse Spark Open, publicado por Meta el 15 de octubre de 2026, usa una licencia propia con condiciones añadidas.
- La memoria se calcula multiplicando los parámetros por los bytes de cada uno: ALIA 40B ocupa unos 81 GB a 16 bits y unos 24 GB cuantizado a 4 bits.
- Según el artículo 50.1 del Reglamento (UE) 2024/1689, el aviso de que se habla con una IA corresponde al proveedor del sistema, y una pyme que pone en marcha un chatbot propio con su nombre sería en general su proveedor (artículo 3.3).
- Un modelo abierto no compensa con uso esporádico, datos públicos, tareas que exigen la máxima capacidad o sin nadie que mantenga el equipo.
Los modelos de IA de pesos abiertos son modelos cuyos parámetros entrenados (los «pesos») se pueden descargar y ejecutar donde tú decidas, con una licencia que fija qué puedes hacer con ellos. En octubre de 2026 una pyme tiene a mano opciones concretas: Gemma 4 de Google, Qwen3.8-27B de Alibaba, Muse Glimmer 30B y Muse Spark Open de Meta, Mistral Small 4, GLM-5.3 de Z.ai, DeepSeek V4.1 y los modelos ALIA y Salamandra del Barcelona Supercomputing Center. Compensan con volumen constante de tareas acotadas (clasificar correos, resumir, sacar datos de documentos), datos que no conviene sacar fuera y alguien que mantenga el sistema; no, con uso esporádico.
Aquí vamos a los modelos en sí: cuáles hay, su licencia, la memoria que piden y con qué se ejecutan. Dónde acaban los datos lo tratamos aparte en IA local frente a la nube: dónde acaban los datos de tu empresa.
¿Qué es un modelo de IA de pesos abiertos?
Un modelo de IA de pesos abiertos es un modelo cuyo fichero de parámetros se publica para que cualquiera lo descargue, lo ejecute y, si la licencia lo permite, lo adapte. Con los pesos y un programa para ejecutarlos, funciona sin depender de quien lo creó.
«Abierto» no siempre significa lo mismo. Según el análisis de la OCDE sobre innovación, transparencia y riesgo en los modelos de pesos abiertos (agosto de 2025), la apertura es un abanico que incluye también código, documentación y datos. El mismo análisis recoge que más de la mitad de los modelos fundacionales disponibles comercialmente en 2025 eran de pesos abiertos. Un modelo cerrado, en cambio, solo se usa a través del servicio de su proveedor, que decide cuándo cambia o se retira.
Pesos abiertos tampoco es lo mismo que IA local: el modelo se puede ejecutar en la oficina, en un servidor alquilado o con un proveedor que lo ofrece como servicio. Lo que cambia es que eliges tú dónde.
¿Qué modelos de pesos abiertos puede usar una pyme en 2026?
Los modelos de pesos abiertos que una pyme puede usar hoy son de dos tipos: los que caben en un equipo de oficina y los muy grandes, para servidor o proveedor. Los datos salen de la ficha oficial de cada modelo en Hugging Face, donde los publican sus desarrolladores. La memoria es orientativa: el tamaño de la versión por defecto en Ollama (unos 4 bits) cuando existe y, si no, un cálculo propio que explicamos más abajo.
| Modelo | Tamaño | Licencia | Memoria aproximada | Para qué sirve |
|---|---|---|---|---|
| Gemma 4 E4B (Google) | 4.500 millones efectivos | Apache 2.0 | Unos 6,6 GB | Clasificar y resumir en un portátil |
| Gemma 4 12B (Google) | 11.950 millones | Apache 2.0 | Unos 7,7 GB | Correos, resúmenes y extracción de datos |
| Gemma 4 26B A4B (Google) | 25.200 millones, 3.800 activos | Apache 2.0 | Unos 16 GB | Respuestas rápidas con más conocimiento |
| Gemma 4 31B (Google) | 30.700 millones | Apache 2.0 | Unos 19 GB | Redacción y análisis exigentes |
| Qwen3.8-27B (Alibaba) | 27.000 millones, denso | Apache 2.0 | Unos 18 GB | Texto, imágenes y documentos largos |
| Muse Glimmer 30B (Meta) | 29.600 millones | Apache 2.0 | Menos de 20 GB | Asistente general con texto e imágenes |
| Salamandra 7B instruct (BSC) | 7.800 millones | Apache 2.0 | Unos 5 GB (cálculo propio) | Textos cortos en lenguas de España |
| ALIA-40b-instruct (BSC) | 40.400 millones | Apache 2.0 | Unos 24 GB (cálculo propio) | Asistente en las lenguas oficiales de España |
| Mistral Small 4 (Mistral AI) | 119.000 millones, unos 6.500 activos | Apache 2.0 | Unos 70 GB (cálculo propio) | Asistente en 24 idiomas |
| Llama 4 Scout (Meta, 2025) | 109.000 millones, 17.000 activos | Licencia propia Llama 4 | Unos 65 GB (cálculo propio) | Asistente general con texto e imágenes |
| GLM-5.3-Flash (Z.ai) | 320.000 millones, 18.000 activos | MIT | Unos 190 GB (cálculo propio) | Programación y agentes, en servidor |
| DeepSeek-V4.1-Flash (DeepSeek) | 763.000 millones en total | MIT | Varios cientos de GB | Razonamiento y contextos largos, en servidor |
| Muse Spark Open (Meta) | 816.000 millones, 42.000 activos | Muse Model License | Unos 530 GB en NVFP4 | Uso general, en servidor o proveedor |
Los modelos de mezcla de expertos (Gemma 4 26B A4B, Mistral Small 4, GLM, DeepSeek, Muse Spark Open) solo usan una parte de sus parámetros en cada palabra: ocupan memoria por el total y responden a la velocidad de la parte activa. Y la fecha importa: casi todos son de 2026 (la ficha de Qwen3.8-27B lo fecha en agosto y Muse Spark Open es del 15 de octubre). Llama 4 Scout es de 2025 y sigue disponible; los modelos de Meta publicados en 2026 llevan la marca Muse.
Qué trae Muse Spark Open, la novedad de Meta de octubre
Muse Spark Open es la versión de pesos abiertos del modelo Muse Spark de Meta, publicada el 15 de octubre de 2026. Según el anuncio de Meta para desarrolladores, tiene 816.000 millones de parámetros (activa unos 42.000 millones por palabra), admite texto, imagen, vídeo y audio y un contexto de un millón de tokens.
Para una pyme, el dato que cuenta es la memoria: según el mismo anuncio, los pesos a 16 bits ocupan unos 1,6 TB y la versión NVFP4 unos 530 GB, para servidores con cuatro u ocho tarjetas de centro de datos. No es un modelo para la oficina, sino para un servidor dedicado o un proveedor que lo ofrezca.
Según su ficha en Hugging Face, la Muse Model License permite usarlo, modificarlo y venderlo, pide mostrar «Built with Muse Spark Open», incluye una política de usos prohibidos y exige un acuerdo aparte para ofrecerlo como servicio a terceros a partir de cierta facturación.
Para la oficina, Meta publicó en agosto de 2026 Muse Glimmer 30B, con licencia Apache 2.0: según su ficha, a unos 4 bits baja de 20 GB y cabe en 24 o 32 GB con el contexto.
Modelos en español: ALIA y Salamandra del BSC
ALIA y Salamandra son las familias de modelos del Barcelona Supercomputing Center (BSC), entrenadas con especial atención al castellano, el catalán, el euskera y el gallego. En diciembre de 2025 el Ministerio para la Transformación Digital anunció la disponibilidad de ALIA 40B Instruido, un modelo de 40.000 millones de parámetros de la infraestructura pública ALIA, con capacidades en las lenguas oficiales y cooficiales.
La versión actual, ALIA-40b-instruct-2606, tiene según su ficha técnica 40.433 millones de parámetros, licencia Apache 2.0, 163.840 tokens de contexto y un ajuste centrado en castellano, catalán, euskera, gallego e inglés. Hay versiones cuantizadas en formato GGUF; el BSC recomienda ejecutarlas con llama.cpp. También recomienda supervisión humana y pruebas antes de usarlo en aplicaciones críticas.
Para equipos modestos está Salamandra 7B instruct, también con licencia Apache 2.0 y el mismo foco en las lenguas de España. Su ficha avisa de que no llama a herramientas externas y no garantiza buen razonamiento. Para resumir o traducir textos cortos puede encajar; para un chatbot con IA que consulte vuestros programas conviene un modelo con llamada a funciones, como la variante «fc» de ALIA.
¿Cuánta memoria pide cada modelo?
Cada modelo pide, como mínimo, la memoria que ocupan sus pesos más un margen para el texto que procesa: número de parámetros por los bytes de cada uno. A 16 bits son 2 bytes; con la cuantización, que reduce la precisión, se baja a 1 byte (8 bits) o algo más de medio byte (4 bits), con una pérdida de calidad que depende del modelo y la tarea.
Con esa regla, ALIA-40b-instruct ocupa unos 81 GB a 16 bits y unos 24 GB a 4 bits. Las cifras de la biblioteca de Ollama encajan con la cuenta: Qwen3.8-27B figura con 18 GB en su versión por defecto y 56 GB a 16 bits, y Gemma 4 31B con 19 GB y 63 GB. A eso se suma el contexto, que crece con la longitud de los documentos. Tabla orientativa (cálculo propio, solo pesos):
| Tamaño del modelo | Ejemplos | Memoria a 16 bits | Memoria a 4 bits | Dónde suele caber |
|---|---|---|---|---|
| Pequeño (2.000-8.000 millones) | Gemma 4 E4B, Salamandra 7B | 4-16 GB | 2-7 GB | Un portátil reciente con 16 GB |
| Mediano (12.000-14.000 millones) | Gemma 4 12B | 24-28 GB | 7-9 GB | Tarjeta gráfica de 12-16 GB o equipo con 16-24 GB de memoria unificada |
| Grande (26.000-40.000 millones) | Qwen3.8-27B, Muse Glimmer 30B, Gemma 4 31B, ALIA 40B | 52-81 GB | 16-25 GB | Tarjeta de 24-32 GB o equipo con 32-64 GB de memoria unificada |
| Muy grande (100.000-120.000 millones) | Llama 4 Scout, Mistral Small 4 | 200-240 GB | 65-70 GB | Equipo con 96-128 GB de memoria unificada o varias tarjetas |
| Servidor (300.000 millones o más) | GLM-5.3-Flash, DeepSeek-V4.1-Flash, Muse Spark Open | 640 GB o más | 190 GB o más | Servidor con varias tarjetas o un proveedor |
La memoria decide qué modelo cabe; la velocidad depende del ancho de banda de esa memoria y de los parámetros activos. Para clasificar correos o sacar datos de facturas, un modelo mediano suele bastar.
¿Cómo se ejecuta un modelo abierto: Ollama, llama.cpp o LM Studio?
Un modelo abierto se ejecuta con un programa que carga los pesos y responde a las peticiones; en equipos de oficina los habituales son Ollama, llama.cpp y LM Studio. Los tres trabajan con versiones cuantizadas y pueden ofrecer una API compatible con la de OpenAI, de modo que una aplicación puede cambiar de modelo sin reescribirse.
| Programa | Qué es | Cómo se usa | Encaja para |
|---|---|---|---|
| Ollama | Programa de código abierto con biblioteca de modelos preparados | Una orden descarga y arranca el modelo | Probar modelos rápido y servir a una aplicación interna |
| llama.cpp | Motor de código abierto para modelos en formato GGUF | Línea de órdenes o servidor, con muchos ajustes | Controlar cada parámetro o usar modelos como ALIA |
| LM Studio | Aplicación de escritorio con interfaz gráfica | Buscar, descargar y conversar desde ventanas; también hace de servidor | Probar modelos sin terminal |
Para servidores con muchos usuarios, las fichas de los modelos grandes recomiendan vLLM o SGLang. Y descarga siempre los pesos del repositorio oficial o de la biblioteca del programa, no de copias de origen desconocido.
¿Qué hay que mirar en la licencia antes de usar un modelo abierto?
Antes de usar un modelo abierto hay que leer su licencia y su ficha, porque «descargable» no significa «sin condiciones». En la tabla hay licencias permisivas (Apache 2.0 en Gemma 4, Qwen3.8-27B, Muse Glimmer, Mistral Small 4, ALIA y Salamandra; MIT en GLM-5.3-Flash y DeepSeek-V4.1-Flash) y licencias propias del desarrollador (Llama 4, Muse Model License) que añaden condiciones. Incluso dentro de una familia cambia: en Qwen3.8, el 27B es Apache 2.0, pero otras variantes tienen licencia propia. Cinco cosas a comprobar:
- Si permite el uso comercial y si exige citar el modelo o mantener avisos al redistribuirlo.
- Si tiene una política de usos prohibidos y si alguno roza lo que queréis hacer.
- Si hay condiciones por tamaño o por servicio, como acuerdos aparte a partir de cierto número de usuarios o de facturación.
- Qué dice la ficha sobre uso previsto, idiomas y limitaciones.
- Si el proveedor publica el resumen del contenido de entrenamiento que pide el Reglamento europeo de IA (lo vemos en la sección siguiente).
Si vais a redistribuir el modelo o integrarlo en un producto que vendéis y dudáis de la licencia, consultadlo con un profesional antes.
¿Qué obligaciones del Reglamento de IA afectan a quien usa un modelo abierto?
Usar un modelo abierto no cambia el reparto de obligaciones del Reglamento (UE) 2024/1689: depende de si eres proveedor del modelo, proveedor de un sistema construido con él o responsable del despliegue que lo usa en su actividad. Según el artículo 3 del Reglamento de IA en el servicio de ayuda de la Comisión Europea, proveedor es quien desarrolla un sistema o un modelo, o lo encarga, y lo comercializa o lo pone en servicio con su propio nombre o marca, de pago o gratis; responsable del despliegue es quien usa un sistema de IA bajo su autoridad en una actividad profesional.
Quien publica el modelo. El artículo 53 del Reglamento de IA (versión consolidada a 27 de julio de 2026) obliga a los proveedores de modelos de uso general a tener una política de derechos de autor y a publicar un resumen suficientemente detallado del contenido de entrenamiento. Con licencia libre y de código abierto quedan exentos de la documentación técnica de las letras a) y b), pero no de esas dos obligaciones, y nunca si el modelo tiene riesgo sistémico. Según las preguntas y respuestas de la Comisión sobre modelos de uso general, se aplican desde el 2 de agosto de 2025.
Quien monta un sistema con el modelo. El artículo 50 del Reglamento de IA reparte las obligaciones de transparencia. El aviso de que una persona está hablando con una IA (apartado 1) corresponde al proveedor del sistema, que debe diseñarlo para que se sepa, salvo que resulte evidente; también le toca marcar como artificial el contenido sintético que genere (apartado 2). A los responsables del despliegue les asigna otras: informar a quien esté expuesto a un sistema de reconocimiento de emociones o de categorización biométrica (apartado 3) y avisar de que un contenido ultrafalso es artificial, o de que un texto publicado para informar al público sobre asuntos de interés general lo ha generado una IA, salvo revisión humana con responsable editorial (apartado 4).
Un matiz para muchas pymes: si montáis vuestro propio chatbot con un modelo abierto y lo ponéis en marcha con vuestro nombre, en general seríais proveedores de ese sistema según el artículo 3, y el aviso del artículo 50.1 os tocaría a vosotros. Si modificáis el modelo, las preguntas y respuestas de la Comisión dan un criterio orientativo: se pasaría a ser su proveedor cuando el cálculo usado en la modificación supera un tercio del empleado en entrenar el original, un umbral del que un ajuste fino de una pyme suele quedar lejos. El resto lo repasamos en Ley de IA en Europa: qué obliga ya a tu pyme.
Esto es información general; para tu caso concreto, consulta con un profesional (tu asesoría, un abogado o tu delegado de protección de datos), sobre todo si el modelo va a tratar datos personales o vais a comercializar el sistema.
¿Sale más barato que un modelo cerrado por consumo?
Un modelo abierto sale más barato solo con volumen constante: en equipo propio se paga hardware, electricidad y mantenimiento, uses el modelo diez veces o diez mil; con un servicio por consumo, cada consulta suma. No hay una cifra general: el punto en que compensa depende del volumen real, y además alguien tiene que mantener el equipo. Los costes de un proyecto completo los tratamos en cuánto cuesta implantar inteligencia artificial en una empresa.
Un ejemplo hipotético: una distribuidora que clasifica cientos de correos al día tiene volumen constante; una gestoría que resume un contrato a la semana, no. La versión fija también cuenta: en una automatización de procesos que lleva meses funcionando, un modelo que no cambia evita revisar respuestas que antes salían bien.
Qué equipo hace falta según el modelo
El equipo se elige por la memoria del modelo que ha superado vuestras pruebas, no al revés. Hay tres caminos habituales.
Si tenéis un sobremesa con ranura libre y fuente suficiente, una tarjeta de 16 GB mueve modelos como Gemma 4 12B (unos 7,7 GB en Ollama) con margen para el contexto.
ASUS Dual GeForce RTX 5060 Ti 16GB GDDR7 OC Edition
Tarjeta gráfica de 16 GB que se instala en un ordenador de sobremesa con ranura PCIe.
- 16 GB de memoria GDDR7 con conexión PCIe 5.0.
- Arquitectura Blackwell de NVIDIA; el fabricante declara 759 AI TOPS de rendimiento en IA.
- Ocupa 2,5 ranuras y está pensada también para cajas compactas (SFF).
Para modelos como ALIA 40B a 16 bits o Mistral Small 4 cuantizado, la alternativa a varias tarjetas es un equipo compacto con mucha memoria unificada.
MINISFORUM MS-S1 MAX
Mini PC con 128 GB de memoria unificada orientado a ejecutar modelos de IA en local.
- Procesador AMD Ryzen AI Max+ 395 (16 núcleos, 32 hilos) con gráfica RDNA 3.5 y NPU de hasta 50 TOPS.
- 128 GB de LPDDR5x-8000 que comparten procesador y gráfica.
- Dos puertos de red de 10 GbE, USB4 V2 y una ranura PCIe x16 para ampliar.
Para un modelo mediano que usará un equipo reducido, un ordenador compacto con 24 GB de memoria unificada puede servir como primer servidor; un modelo grande cuantizado cabría, pero con poco margen.
Apple Mac Mini con Chip M5 Pro
Ordenador de sobremesa de 12,7 cm de ancho con 24 GB de memoria unificada.
- Chip M5 Pro con CPU de 15 núcleos y GPU de 16 núcleos.
- Según el fabricante, 24 GB de memoria unificada con un ancho de banda de 307 GB/s, y 512 GB de almacenamiento.
- Detrás, tres puertos Thunderbolt 5, uno HDMI y Ethernet de 2,5 Gb.
GLM-5.3-Flash, DeepSeek-V4.1-Flash y Muse Spark Open no caben en un equipo de oficina: si una tarea los necesita, se usan a través de un proveedor, revisando dónde trata los datos.
¿Cuándo no compensa un modelo de pesos abiertos?
Un modelo de pesos abiertos no compensa con uso esporádico, con tareas que piden la máxima capacidad o sin nadie que lo mantenga; ahí un servicio externo es más simple.
- Uso esporádico. Unas pocas consultas al día no justifican un equipo encendido.
- Tareas que piden el máximo. En razonamientos muy complejos, los modelos que caben en la oficina pueden quedarse cortos.
- Sin mantenimiento. Un equipo sin actualizaciones de seguridad ni copias es un riesgo, no una ventaja.
- Datos sin sensibilidad. Si lo que se procesa son textos públicos, el control extra aporta poco.
- Reglas que cambian cada semana o datos que no existen. Ningún modelo decide bien lo que no se le ha definido; antes toca preparar los datos de la empresa.
Errores frecuentes: elegir el modelo más grande que cabe en vez del más pequeño que cumple, dar por buena una versión cuantizada sin probarla y esperar que el modelo «aprenda solo» sin darle documentos ni reglas. Un modelo abierto no garantiza cero errores, igual que uno cerrado: donde equivocarse sale caro, revisa una persona. Si dudas entre algo ya hecho o un desarrollo propio, mira agente de IA a medida o herramienta de serie.
Por dónde empezar sin comprar nada todavía
Para saber si un modelo abierto te sirve no hace falta comprar hardware, sino probarlo con tus ejemplos:
- Elige una tarea acotada y repetitiva, como clasificar los correos de entrada.
- Reúne entre 30 y 50 ejemplos reales, sin datos personales o con ellos sustituidos. La política de uso de IA de la empresa debería decir qué datos se pueden usar en pruebas.
- Prueba dos o tres modelos de tamaños distintos (por ejemplo Gemma 4 12B, Qwen3.8-27B y ALIA 40B si trabajáis en catalán o gallego) con el programa que recomiende su ficha (para ALIA, llama.cpp), y compara con lo que hace hoy una persona.
- Quédate con el más pequeño que cumple, comprueba su licencia y mide su velocidad con el volumen de un día normal.
- Solo entonces dimensiona el equipo con la tabla de memoria de arriba.
Cuando el modelo da servicio a una automatización, un corte de luz la para. Un SAI con apagado automático da tiempo a cerrar el equipo sin perder trabajo.
EPYC NYTRO
Sistema de alimentación ininterrumpida (SAI) de 1500 VA / 900 W con onda sinusoidal pura.
- Onda sinusoidal pura, apta para estaciones de trabajo y fuentes con PFC activo.
- Programa de monitorización gratuito que permite configurar el apagado automático.
- Cinco tomas con batería: dos Schuko y tres IEC.
El modelo es la parte fácil de cambiar; lo que da trabajo es conectarlo con vuestros programas y decidir qué hace cuando duda. Un agente de IA bien montado para y avisa a una persona en esos casos. Qué puede y qué no puede hacer la IA lo resumimos en inteligencia artificial para empresas.
Si quieres ver si un modelo abierto encaja en tu caso, puedes contarnos qué tarea tenéis en mente y lo vemos en un diagnóstico gratuito de una hora, sin compromiso.
Este artículo contiene enlaces de afiliado a Amazon. En calidad de Afiliado de Amazon, NeuroFluxIA obtiene ingresos por las compras adscritas que cumplen los requisitos aplicables, sin coste adicional para ti. Elegimos los productos por su utilidad para una pyme y no por la comisión. No indicamos precios porque cambian: consúltalos en Amazon.
Preguntas frecuentes
- ¿Qué modelos de pesos abiertos caben en un ordenador de oficina?
- Caben los de hasta unos 40.000 millones de parámetros cuantizados a 4 bits: Gemma 4 (E4B, 12B, 26B A4B y 31B), Qwen3.8-27B, Muse Glimmer 30B de Meta, Salamandra 7B y ALIA 40B del BSC. Según su tamaño piden de unos 5 a unos 25 GB de memoria, más el margen para el contexto. Con 96-128 GB de memoria unificada entran también Mistral Small 4 o Llama 4 Scout.
- ¿Qué diferencia hay entre un modelo de pesos abiertos y uno de código abierto?
- Un modelo de pesos abiertos publica los parámetros entrenados para que se puedan descargar y ejecutar, pero no siempre publica los datos ni el proceso de entrenamiento. Un modelo abierto en sentido amplio añade el código, la documentación y los datos o su descripción. La OCDE describe la apertura como un abanico, por eso conviene mirar qué publica exactamente cada desarrollador.
- ¿Puedo usar cualquier modelo abierto con fines comerciales?
- No siempre, depende de su licencia. Gemma 4, Qwen3.8-27B, Muse Glimmer, Mistral Small 4, ALIA y Salamandra usan Apache 2.0, y GLM-5.3-Flash y DeepSeek-V4.1-Flash usan MIT, que permiten el uso comercial con pocas condiciones. Llama 4 y Muse Spark Open tienen licencias propias con condiciones añadidas. Antes de usarlo conviene leer la licencia y, si hay dudas sobre tu caso, consultarlo con un profesional.
- ¿Cuánta memoria necesita un modelo de IA abierto?
- Aproximadamente el número de parámetros por los bytes de cada uno: 2 bytes a 16 bits y algo más de medio byte a 4 bits. Por eso ALIA 40B ocupa unos 81 GB a 16 bits y unos 24 GB a 4 bits, y Qwen3.8-27B figura con 18 GB en la versión por defecto de Ollama. Hay que sumar memoria para el contexto, que crece con la longitud de los documentos.
- ¿Si adapto o uso un modelo abierto paso a tener obligaciones del Reglamento de IA?
- Podrías tenerlas, según el caso, y conviene revisarlo con un profesional. En general, quien pone en servicio un sistema con su propio nombre o marca sería su proveedor según el artículo 3.3 del Reglamento (UE) 2024/1689, y al proveedor le corresponde el aviso de que se habla con una IA del artículo 50.1; a quien solo lo usa en su actividad le tocarían otras obligaciones del artículo 50, como las de sus apartados 3 y 4. Si modificas el propio modelo, las preguntas y respuestas de la Comisión Europea sobre modelos de uso general dan como criterio orientativo que pasarías a ser su proveedor si el cálculo empleado supera un tercio del usado en entrenarlo. Es información general.
- ¿Cuándo no compensa usar un modelo de pesos abiertos en una pyme?
- No compensa cuando el uso es esporádico, cuando los datos procesados son públicos, cuando la tarea exige la máxima capacidad de razonamiento o cuando nadie puede mantener el equipo. En esos casos un servicio externo es más simple. Tampoco arregla procesos con reglas que cambian cada semana ni tareas sin datos detrás.