Hay una pregunta obvia cuando uno se sienta delante del ordenador más caro y potente que jamás ha probado: ¿para qué quiere nadie pagar más de 16.000 euros por un Mac Studio con 256 GB de memoria unificada? La respuesta corta es, cómo no, la de ejecutar modelos de IA locales. La larga es la que nos ocupa en este artículo. Porque lo que nos hemos propuesto es hacer una (laaarga) exposición de por qué un equipo así puede tener sentido y para quién.
Llevamos más de un mes analizando el Mac Studio M5 Ultra 256 GB y el objetivo era intentar exprimirlo al máximo y tratar de medir sus límites. Y de hacerlo específicamente en el ámbito para el que claramente esta máquina bestial ha sido creada: la ejecución de modelos locales de IA. En marcha. Ficha técnica del Mac Studio M5 Ultra Apple Mac Studio M5 Ultra PROCESADOR Apple M5 Ultra CPU de 36 núcleos (12 supernúcleos y 24 de rendimiento) GPU de hasta 80 núcleos Neural Engine de 32 núcleos MEMORIA UNIFICADA 256 GB 1,2 TB/s de ancho de banda ALMACENAMIENTO SSD de 8 TB SISTEMA OPERATIVO macOS 27 Golden Gate SONIDO Altavoz interno Toma de auriculares de 3,5 mm Puerto HDMI compatible con salida de audio multicanal CONECTIVIDAD Wi-Fi 7 (802.11be) Bluetooth 6 Puertos 6 x Thunderbolt 5 (USB-C) 2 x USB-A (USB 3.0 5 Gbps) HDMI 2.1 Ethernet 10 Gbps Ranura SDXC (UHS-II) DIMENSIONES Y PESO 19,7 x 19,7 x 9,5 centímetros 3,6 kg PRECIO 16.329 euros Mac Studio M5 Ultra PVP en Apple — 6.649,00 € El precio podría variar.
Obtenemos comisión por estos enlaces Mira mamá, sin centros de datos En estos últimos cuatro años si uno quería sacar partido de un modelo de IA, lo más normal era aprovechar no el suyo propio, sino el de otros. Todo este tiempo hemos estado escribiendo prompts en una web (la de ChatGPT, la de Claude, la de Gemini, etc) o en algún entorno de desarrollo, por ejemplo OpenCode. Algunas de las conclusiones de nuestras pruebas, al más puro estilo resumen de Apple. Imagen creada con ChatGPT.
Pero al hacerlo sabemos perfectamente que todo lo que escribimos llega a algún centro de datos que procesa nuestras peticiones y acaba devolviendo una respuesta cada vez más precisa y rápida. Eso tiene ventajas evidentes, pero también costes: cada consulta se paga y dependemos de servicios que obviamente no controlamos y pueden cambiar de un día para otro. Lo hemos visto en el pasado . La alternativa es ejecutar esos modelos de IA en tu propia máquina, algo que hasta hace no mucho era una curiosidad para entusiastas.
Sin embargo las cosas han avanzado de forma vertiginosa, y hoy hay modelos abiertos de IA estupendos que programan, resumen, traducen y razonan lo bastante bien como para trabajar con ellos sin demasiados problemas. El único problema es que esos modelos suelen ser enormes, y ahí es donde entra un equipo como el Mac Studio con chip M5 Ultra y con 256 GB de memoria unificada, que es como comentábamos el que hemos estado utilizando desde hace algo más de un mes. No lo hemos aprovechado para jugar o editar vídeo, aunque haga ambas cosas —lo contaron muy bien nuestros compañeros de Applesfera —, sino para responder a una pregunta concreta: ¿qué se puede hacer con IA local en la máquina más potente que vende Apple hoy en día... y cuánto de eso se puede conseguir con menos inversión? Para responder a dicha pregunta hemos montado un pequeño laboratorio de pruebas con decenas de horas de mediciones automatizadas, siete modelos distintos, siete motores de inferencia, sesiones de ocho horas ininterrumpidas, pruebas de programación real con agentes, y hasta un vatímetro en el enchufe.
Cómo funciona un modelo de IA (sea o no local) Para entender todas las cifras con las que iremos llenando este artículo conviene entender qué ocurre cuando le haces una pregunta a un modelo local "accesible" como Qwen3.8 27B o Gemma 4 31B. Hay dos fases muy distintas al usar un modelo de IA, sea no local, y casi todo lo que interesante que verás en este análisis sale de esa distinción. Y a ellas se les suma un concepto igualmente importante para la experiencia de usuario. Veamos los tres: Lectura ( prefill ) : en esta primera fase, el modelo recibe todo tu texto, tanto si es una pregunta de una línea como un documento de cien páginas, y lo procesa de golpe.
Aquí tenemos la ventaja de que esta tarea se puede paralelizar muy bien: todas las palabras del texto se pueden procesar a la vez, así que lo que manda en este caso es la potencia de cálculo bruta de la GPU, que es muy, muy buena en este tipo de ámbitos. Aquí medimos el rendimiento en número de tokens por segundo leídos, y como ya explicamos hace tiempo, un token es un trozo de una palabra , que usalmente se aproxima a tres cuartos de una palabra de media. Escritura ( decode ) : la segunda fase es la que produce la respuesta del modelo token a token, y aquí está lo importante de los modelos de IA generativa, que se comportan como loros estocásticos que eneran el siguiente token a partir de probabilidades: cada token nuevo depende del anterior. Lo malo es que para generar un token hay que leer toda la memoria previa, aunque aquí influyen otras cosas, como veremos más adelante.
Si el modelo ocupa 20 GB —Qwen3.8-27B ocupa más o menos eso—, para cada token es necesario leer de la memoria esos 20 GB. Por eso la velocidad de escritura o decodificación depende de los GB/s que puede mover el chip, y no tanto de su potencia de cálculo. El procesador gráfico no es aquí tan importante, pero sí lo es la memoria. Tiempo hasta el primer token : este es el tiempo que tardamos en ver la primera letra de la respuesta, y depende casi por completo de la primera fase de lectura.
Leer un prompt corto es inmediato, así que la respuesta comienza a generarse enseguida. Para un documento de 128.000 tokens, como verremos, esa espera puede acabar siendo de minutos. Por todo ello, verás que en nuestras pruebas hemos medido siempre esas tres magnitudes: lectura, primer token y escritura. Una cifra sola engaña, o al menos no nos da la foto completa: un equipo puede escribir muy rápido y tardar una eternidad en leer un documento, y viceversa.
La memoria importa, y mucho En un PC con tarjeta gráfica, esa GPU tiene siempre su propia memoria de vídeo (VRAM), que está separada del sistema. Si el modelo de IA local "cabe" en esa VRAM, irá rapidísimo, pero si no, habrá que repartirlo entre esa memoria gráfica o de vídeo y la memoria principal del sistema. Ahí surge un problema y el rendimiento se desploma, porque la conexión entre ambas es mucho más lenta que la memoria de vídeo de la GPU. Las tarjetas de consumo más potentes, como la Nvidia GeForce RTX 5090, tienen 32 GB de VRAM.
Eso significa que modelos como Qwen3.8-Flash-Next, que ocupa unos 90 GB, no "cabe" en ellas. Al menos, no directamente, porque hay motores que reparten modelos grandes con mucha habilidad, pero eso es materia para otro artícuo. Los chips de Apple funcionan de forma distinta a lo que vemos en un PC convencional. La CPU y la GPU comparten la misma memoria, la llamada memoria unificada .
En un Mac Studio con 256 GB, la GPU puede usar la gran mayoría de esos 256 GB para cargar modelos. No es una memoria tan rápida como la de una tarjeta gráfica de gama alta, pero sigue siendo enorme, lo que se une a todos esos gigabytes disponibles. Ahí está la clave de este equipo: puede ejecutar modelos que en un PC de consumo simplemente no caben. Al menos, no de serie.
Cuantización, o cómo "comprimir" modelos gigantes Los grandes modelos de lenguaje (LLMs) no son en el fondo más que colecciones gigantescas de números, los parámetros o pesos. Un modelo de 27.000 millones de parámetros como Qwen3.8-27B, guardado con la precisión con la que fue entrenado (16 bits por número), ocupa unos 54 GB. Pero casi nadie lo usa así en su casa. Lo habitual es cuantizarlo, o lo que es lo mismo: guardar cada número con menos bits, típicamente cuatro, a cambio de una pequeña pérdida de precisión.
Es algo parecido a lo que se hace con el formato JPEG : comprime las imágenes a cambio de introducir algo de ruido. A menos que las examinemos de forma exhaustiva, las imágenes JPEG son indistinguibles de las originales, pero hay diferencias. Pues con los modelos cuantizados, lo mismo. Lo qu epermite esta técnica es precisamente eso: "comprimir" grandes modelos de lenguaje para poder usarlos incluso en equipos domésticos.
Con Qwen3.8-27B, por ejemplo, esa cuantización a 4 bits hace que ocupe unos 17-18 GB normalmente. La pregunta obvia es cuánta precisión perdemos por el camino. Es algo que también queríamos tratar de averiguar, y una de nuestras pruebas, que veremos más adelante, nos da una buena pista. Pero antes, más conceptos importantes para entender cómo funcionan las cosas al usar modelos de IA locales.
Modelos densos y modelos MoE Otra de las distinciones que explica muchas de las cifras de este análisis es la que afecta al tipo de modelo que usaremos para las pruebas. Hay diversas formas de clasificarlos, pero una de las más importantes es la que divide a los modelos en dos grandes grupos: Modelos densos : al utilizarlos, estos modelos usan todos sus parámetros para generar cada token. Su entrenamiento y despliegue es más sencillo porque no hay balanceo de carga, enrutado de tokens y otras técnicas que son necesarias en el otro grupo de modelos. Además, ofrecen más calidad por parámetro, aunque necesitan más memoria de vídeo para poder ser utilizados.
Ejemplos: Qwen3.8-27B y Gemma 4 31B. Modelos Mixture-of-Experts (MoE) : en este segundo caso los modelos utilizan grupos de "expertos" con cierto número de parámetros cada uno, y para cada token activan solo unos pocos. Por ejemplo, en Qwen3.6 35B-A3B el modelo tiene 35.000 millones de parámetros, pero solo se usan unos 3.000 millones por token. La fase de escritura se beneficia mucho en velocidad, pero lo hace a costa de la precisión de las respuestas, que normalmente es peor a la de los modelos densos comparables.
Las consecuencias prácticas de usar unos u otros es notable. Como la escritura depende de cuántos datos hay que leer de memoria por cada token, un modelo MoE escribe casi a la velocidad de un modelo pequeño, aunque sí necesita memoria para guardar el modelo entero. Este tipo de modelos son los que mejor encajan con equipos que tienen mucha memoria pero con un ancho de banda limitado. El hardware: ahondando en el interior de la bestia La configuración de los Mac Studio con los M5 Ultra parte de sus chips "básicos" con 30 núcleos de CPU (10 supernúcleos, 20 de rendimiento), 64 núcleos de GPU, 96 GB de memoria y 1 TB de almacenamiento (6.659 euros en España).
Nosotros recibimos para nuestras pruebas casi la versión más cara del equipo, con la CPU de 36 núcleos (12 supernúcleos, 24 de rendimiento), 80 núcleos de GPU con un Neural Accelerator en cada uno, 256 GB de memoria unificada (1,2 TB/s de ancho de banda) y un SSD con nada menos que 8 TB de capacidad. Con esta configuración, el precio actual del equipo es de 16.329 euros , y solo lo supera la versión que salió hace pocas semanas con 512 GB de memoria unificada, a la que también podríamos sumar una unidad SSD aún mayor de 16 TB. Aquí las especificaciones son tan monstruosas como el precio: 33.379 euros. Por fuera, eso sí, el Mac Studio no ha cambiado en absoluto: 9,5 cm de alto, 19,7 cm de ancho y de fondo, y 3,6 kg de peso (la versión con el M5 Max pesa 2,7 kg, sobre todo por el disipador).
El equipo cuenta en su parte trasera con cuatro puertos Thunderbolt 5 (USB-C), Ethernet de 10 Gbps, dos puertos USB-A, HDMI 2.1 y una toma de auriculares. Delante contamos con dos puertos Thunderbolt 5 más, y una ranura SDXC. La conectividad la gestiona por primera vez en un Mac Studio el chip N1 de Apple, que ofrece tanto Wi-Fi 7 como Bluetooth 6. La fuente de alimentación interna admite un consumo máximo continuo de 480 W.
Cuatro chips que funcionan como uno Los chips Ultra de Apple siempre han sido en realidad dos chips Max unidos por un puente de silicio llamado UltraFusion. Dicha conexión es tan veloz que el sistema de hecho ve esos dos procesadores como uno solo: el M1 Ultra, el M2 Ultra y el M3 Ultra se construyeron así. El M5 Ultra va un paso más allá. Con el M5 Pro y el M5 Max Apple estrenó la llamada Fusion Architecture: cada uno de estos chips ya está formado de hecho por dos piezas de silicio ( dies ) unidas.
En el M5 Ultra lo que se unen son dos M5 Max, así que estamos ante el primer chip de Apple formado por cuatro piezas distintas de silicio . La conexión entre todas ellas alcanza según datos publicados por Apple más de 4,4 TB/s frente a los 2,5 TB/s del M3 Ultra, y aquí tenemos además seis veces ás densidad de conectores. Eso es especialmente importante porque los modelos de IA gigantes acaban repartiéndose en distintos rincones del chip, y con los datos distribuidos en diferentes sitios, la conexión entre esos componentes debe ser lo más veloz posible. Como veremos más adelante, Apple ha logrado que eso no sea un problema en absoluto en sus M5 Ultra.
Fabricación: tercera generación de 3 nanómetros El Apple M5 Ultra hace uso del proceso de fabricación de tercera generación de TSMC con fotolitografía de 3 nanómetros (N3P), que es el mismo que se ha usado en toda la familia de chips 5. En Xataka Apple M1: anatomía de una revolución Su predecesor, el M3 Ultra, usaba la primera generación de ese proceso (N3B). Se trataba de una versión más cara del proceso y que además tenía rendimientos de fabricación ( yields ) más discretos, lo que hizo que tanto Apple como TSMC lo abandonaran rápidamente. Cada nueva iteración del proceso ha permitido aprender algo importante, sobre todo en materia de eficiencia: el M5 Ultra ofrece más rendimiento con el mismo consumo, o el mismo rendimiento con menos, pero aquí Apple no ha dado cifras concretas para este chip.
Hay además un detalle curioso: Apple anunció el M5 Ultra en agosto de 2026 al mismo tiempo que lanzó el Apple M6 , su primer chip con fotolitografía de 2 nm. Estamos por tanto en una situación en la que el M5 Ultra está en realidad una geeneración por detrás del chip más moderno de la casa. En realidad esto es habitual: los chips Ultra son los más grandes y complejos de la familia, y siempre llegan los últimos. Tanto es así que Apple se saltó directamente los M4 Ultra: entre el M3 Ultra y el M5 Ultra no ha habido nada.
La memoria y esos maravillosos 1,2 TB/s Ya hemos comentado que la velocidad a la que un modelo "escribe" depende fundamentalmente del ancho de banda de la memoria. El M5 Ultra tiene 1,2 TB/s, un 50% más que los 819 GB/s de los M3 Ultra y los 800 GB/s de los M1 Ultra y M2 Ultra. Es el primer gran salto en este ámbito desde 2022: durante las tres generaciones anteriores los Ultra crecieron en núcleos y memoria, pero no en ancho de banda. Para que entiendas la relevancia de ese salto, hay una cuenta sencilla.
Qwen3.8-27B en 4 bits ocupa 16,8 GB. Si para escribir cada token hay que leer el modelo entero, el máximo téórica para la velocidad de escritura de unos 1.200 / 16,8 ≈ 71 tokens por segundo. En nuestras pruebas con textos cortos, el Mac Studio escribe a 52 tokens por segundo con llama.cpp y a 55 con MLX: entre un 73 y un 77% del máximo teórico, que es una cifra razonable. Siempre hay que leer algo más que los pesos, y ningún sistema alcanza los picos teóricos.
La misma cuenta demuestra por qué los modelos MoE vuelan. Qwen3.8 Flash-Next ocupa 88 GB y escribe a 64 tokens por segundo, algo que parece no tener sentido con ese tamaño. Sin embargo aqui el modelo no se lee entero, sino que activa tan solo parte de sus expertos en cada token, lo que permite evitar mucho trabajo y alcanzar una velocidad de escritura notable. Por cierto, ese ancho de banda de 1,2 TB/s está solo disponible en los M5 Ultra, y a medida que "descendemos" en la familia, también descendemos en cuanto a ancho de banda de las memorias incluidas en dichos chips.
En Xataka MacBook Pro M6, análisis: un portátil estupendo que exige responder dos preguntas antes de comprarlo En los M5 Max tenemos versiones (hay dos tipos de chips según configuración) de 460 y 614 GB/s. En los M5 Pro, 307 GB/s, y en los M5, 153 GB/s. Los M6 tienen memoria con un ancho de banda de 170 GB/s, una ligera mejora de algo más del 11% respecto a los M5. Por eso cuanto más modesto es el chip, menos velocidad obtendremos al tratar de usar un modelo de IA local.
De los 256 GB disponibles, macOS no deja asignarlo todo a la GPU por defecto , ya que reserva una parte para el sistema. Ese límite se puede subir con un ajuste del sistema operativo (iogpu.wired_limit_mb), pero en nuestras pruebas no hizo falta tocarlo en ningún momento. Aquí es interesante señalar que algunos lanzamientos recientes han acabado "copiando" a Apple en la idea de la memoria unificada. Los últimos chips de AMD (Ryzen AI Max+ 395 / PRO 395 / Max+ PRO 495), Intel (por ejemplo, los Core Ultra X9 388H) o de Nvidia (RTX Spark N1X) cuentan con un esquema en el que la memoria LPDDR5X que usan se puede asignar en gran parte al chip gráfico, comportándose así como memoria de vídeo para usar esos chips para modelos de IA local, aunque su ancho de banda es modesto y ronda los 300 GB/s.
Los Neural Accelerators corrigen uno de los grandes pecados de Apple Hay otro elemento más que Apple ha introducido en estos chips y que los hace especialmente interesantes para ejecutar modelos locales de IA. Se trata de los llamados Neural Accelerators , que son unidades especializadas en la multipilicación de matrices. Esa es la operación que se usa de forma masiva al manejar grandes modelos de lenguaje, y aunque Apple ya los había estrenado en el M5 básico, el M5 Ultra es el primer chip "Ultra" que los tiene. Eso no ayuda especialmente a la fase de escritura (decodificación), que está limitada por la memoria, pero sí lo hace, y mucho, a la lectura, que está limitada por la capacidad de cálculo.
Según Apple, el M5 Ultra multiplica por 4,5 la potencia de cálculo máxima para IA del M3 Ultra, y procesa los prompts de un modelo de lenguaje hasta cuatro veces más rápido en LM Studio (y seis veces más rápido que el M1 Ultra). No hemos podido verificar esas cifras porque no teníamos un Mac Studio M3 Ultra par comparar, pero sí hemos visto algo coherente con ello: MLX, el marco de ejecución de modelos de IA propio de Apple, lee entre 1,35 y casi 2 veces más rápido que llama.cpp con los mismos modelos. La eficiencia existe, pero la IA la pone a prueba Los responsables de Apple indican en su base de soporte que el Mac Studio M5 Ultra consume 9 W cuando está inactivo y que tiene un consumo máximo de 385 W en su versión máxima (512 GB de memoria unificada y SSD de 16 TB). Las cifras son superiores a los 9 y 270 W del M3 Ultra y los 13 y 215 W del M1 Ultra.
En Applesfera Mac Studio M5 Ultra, análisis: el Mac más potente de la historia tiene una nueva obsesión, la IA local Es evidente por tanto que el M5 Ultra tiene un margen más amplio de consumo energético que sus predecesores a plena carga, pero a cambio ganamos algo muy importante para la IA: capacidad de cómputo. Nuestras mediciones con el vatímetro, que detallaremos más adelante, confirman esos datos: en nuestras pruebas el Mac Studio consumía 11 W en reposo (con varios servicios de IA abiertos y esperando), y lecturas de hasta 349 W en los picos de nuestros tests. Los valores típicos estaban entre 154 y 335 W según la tarea Los motores también importan (y mucho) Para ejecutar modelos de IA locales no basta con descargar los modelos sin más: se necesitan programas que los carguen y hagan los cálculos. Esos programas son los llamados motores de inferencia, y en los Mac hay dos grandes familias. llama.cpp : es el proyecto de código abierto que popularizó el uso de modelo de IA locales.
Está escrito en C++ y funciona prácticamente en cuaquier tipo de máquina (Windows, Linux, macOS, con o sin GPU), y usa el formato de archivo GGUF. En el Mac usa Metal, la API gráfica de macOS. Este proyecto es la base sobre la que se sustentan muchas aplicaciones de gestión de modelos locales concoidas, como Ollama o LM Studio. MLX : es el framework de código abierto creado por Apple para ejecutar y entrenar modelos de IA, especialmente en sus chips Apple Silicon y específicamente preparado para aprovechar la memoria unificada de los Mac.
La heramienta oficial para ejecutar modelos de lenguaje con MLX es la llamada mlx_lm , aunque hay alternativas cada vez más populares como oMLX. Tenemos apps como LM Studio que en su versión de macOS también hace uso de este motor de inferencia. Que haya dos grandes formatos de ficheros de modelos de IA locales tiene, eso sí, una consecuencia incómoda a la hora de comparar dichos modelos. Un modelo GGUF de 4 bits y el mismo modelo MLX de 4 bits no son exactamente el mismo archivo.
En realidad MLX no tiene un formato de archivo propio equivalente a GGUF, y esos modelos se suelen distribuir en archivos Safetensors acompañados de su configuración. Cada formato cuantiza a su manera, así que cuando comparamos MLX con llama.cpp cambian dos cosas a la vez: el motor y la cuantización. En nuestras pruebas lo indicamos para que esté claro, eso sí. Además de probar estos modelos hemos probado MTPLX, basado en MLX, y Splash, en nuestro caso con modelos GGUF.
Ambos aprovechan la llamada decodificación especulativa, en la que ahondaremos más adelante. Con ella se logra algo de lo más llamativo: nuestros modelos de IA locales logran "escribir" mucho más rápido sus respuestas sin reducir la calidad del modelo ni aumentar sus errores. Cómo hemos medido (y por qué así) La fase de pruebas la realizamos con la ayuda de un modelo de IA (en este caso Opus 5.5) que permitió automatizar esas pruebas y diseñarlas e implementarlas con nuestra aprobación. Hermes a la izquierda con el célebre SVG del pelícano en bicicleta (Qwen3.8 Flash Next, esfuerzo máximo), ComfyUI con Qwen Image 2.1 a la derecha.
Antes de pasar a las pruebas como tales, conviene explicar qué cosas hemos tenido en cuenta a la hora de realizar dichas pruebas para que los datos realmente nos den las respuestas que buscamos. Versiones congeladas . Antes medir los modelos con distintas apps tomamos nota de la versión de cada programa e incluso la huella (SHA-256) de los archivos de lo smodelos, o la versión exacta del repositorio de los que salieron. Así tenemos pruebas reproducibles.
Mediana de cinco pasadas . Para tomar medidas se hacen cinco iteraciones, pero es que además la primera no se cuenta. La primera ejecución es más lenta porque hay que cargar datos en memoria y compilar código para la GPU. Aquí lo que hacemos es descartarla, repetir luego cinco veces las pruebas y nos quedamos con la mediana, menos sensible a un valor raro que la media.
De caché, nada .Los motores modernos guardan lo que ya han leído para no tener que leerlo otra vez. Pero claro, cuando repites el mismo documento, la lectura es casi instantánea, y eso inflaría la cifra de la prueba. Solución: emplear un texto distinto en cada pasada y así evitar esa "trampa". Una aguja en el pajar .
En cada uno de los documentos escondemos un dato concreto y le pedimos al modelo que lo encuentre. Si no lo hace, algo va mal, porque el motor por ejemplo ha podido recortar el texto. En todas las cifras publicadas esa "aguja en el pajar" siempre está detectada en las cinco pasadas realizadas. Razonamiento desactivado .
Muchos modelos actuales "piensan" antes de responder generando texto que puedes no ver porque lo esconden. Eso cambia por completo los tiempos y contamina las mediciones, así que en este caso preferimos desactivar ese razonamiento comprobando que efectivamente se desactivaba. No siempre fue así, por cierto. En Ollama la opción habitual para "apagarlo" no funcionaba, y tuvimos que repetir la prueba.
En las pruebas sintéticas fijamos la temperatura en cero (el modelo siempre elige el siguiente token más probable), lo que permitió reducir la variación entre ejecuciones. Nada más corriendo . Durante las pruebas, el Mac Studio se concentró solo en ellas, y solo ejecutaba esos procesos. Se vigiló además que el equipo no entrara en reposo y que no usara memoria de intercambio (swap) en el disco.
Vatios en el enchufe, no en el software . El sistema operativo macOS es capaz de estimar lo que consume el chip, pero esa cifra no incluye todo el equipo y no se puede comparar fácilmente con otras plataformas. Lo que hicimos fue usar un vatímetro colocado entre la toma de corriente y el enchufe del Mac Studio. La prueba importante: programar un proyecto de verdad Como veremos más adelante, las cifras de velocidad de inferencia en tokens/s son muy llamativas y permiten saber cómo de rápido funciona el modelo de IA.
Sin embargo la prueba fundamental de este análisis es TaskBench: le damos al popular agente de programación OpenCode un proyecto real en Python, una API de tareas con base de datos, y le pedimos que implemente todo lo que falta según la documentación. Los modelos de IA local ya programan realmente bien, y puedes dejarlos corriendo 24/7 porque una de las ventajas fundamentales es que la cuota es ilimitada. Debe además escribir sus propias pruebas de validación y comprobar que todo funciona. El agente trabaja de forma autónoma: lee archivos, escribe código, ejecuta comandos, se equivoca y corrige.
Al terminar lo que hacíamos era pasar un evaluador oculto con 13 pruebas que el agente no tenía controladas. A partir de ahí medimos dos cosas: cuánto tarda en ejecutarse TaskBench y cuántas de esas pruebas pasa. A diferencia de una prueba de velocidad, aquí hay mucha variabilidad, porque el agente puede tomar un camino más corto o acabar enredándose. Por eso también realizamos tres iteraciones en cada configuración y publicamos la mediana.
Si una de las ejecuciones no termina en 90 minutos, cuenta como no terminada. Primer intento: un poco de todo En la primera tanda de esas pruebas, Qwen3.8-27B con llama.cpp completó con una mediana de 13 minutos y 14 segundos y pasó las 13 pruebas en las tres ejecuciones. Con oMLX, el mismo modelo en formato MLX tardó una mediana de 41 minutos y una de sus ejecuciones se fue hasta los 70 minutos. Algo raro pasaba ahí.
Al revisar los registros detectamos el problema, y no era la velocidad del motor. oMLX escribe un 28% más despacio mlx_lm, pero eso no explica que tarde el triple. Lo que ocurría aquí es que el modelo trabajaba de otra manera: daba entre 111 y 395 pasos frente a los 23-81 de llama.cpp. En la ejecución de 70 minutos entró en un bucle en el que llegó a leer los archivos 243 veces y a ejecutar las pruebas 105 veces, 85 de ellas con fallos. La razón fue que el agente no fijaba la temperatura del modelo.
Ese parámetro controla cuánto azar hay en cada respuesta, y cada motor aplicaba la suya por defecto. Al consultarlo en el servidor de llama.cpp, vimos que la temperatura era 1,0, un valor demasiado alto que tuvimos que corregir y que nos enseñó una lección: el comportamiento de un agente de IA depende de parámetros que las herramientas pueden estar escondiéndote. Para resolverlo, repetimos todo con un mismo valor fijo idéntico para todos los motores: temperatura 0,6 y el restro de parámetros también fijados y verificados en los servidores. Tras hacerlo, obtuvimos los resultados finales: Configuración Ejecución 1 Ejecución 2 Ejecución 3 Mediana Pruebas superadas (de 13) Qwen3.8-27B, llama.cpp 16:33 17:58 12:03 16:33 12 / 13 / 12 Qwen3.8-27B, MLX (mlx_lm) 5:30 21:17 8:12 8:12 13 / 13 / 13 Qwen3.5 122B-A10B, llama.cpp 4:58 10:27 5:55 5:55 11 / 12 / 13 Como se puede ver, tras corregir el problema logramos que desaparecieran los atascos y los bucles , y MLX completó el proyecto en las tres iteraciones pasando todas las pruebas con una mediana de ocho minutos y 12 segundos.
Qwen3.5 fue el más rápido, mientras que Qwen3.8-27B con MLX fue la única configuración que superó las 13 pruebas en las tres ejecuciones. En su versión cuantizada ese primer modelo ocupa 74 GB y logró tiempos de algo menos de seis minutos de mediana. Es un modelo que en un PC de consumo no cabe en la tarjeta gráfica (aunque hay formas de lograr algo así, como veremos), y en esta prueba demostró ser el más rápido programando. Pero como vemos, hay matices.
El modelo grande Qwen3.5 acierta menos en las pruebas superadas (11, 12, y por fin 13) que Qwen3.8-27B en MLX, que hizo pleno en las tres. También es importante destacar que cada ejecución varió bastante en cuanto al tiempo que tardó en ejecutarse. Con decodificación especulativa los tiempos mejoran Repetimos TaskBench con Qwen3.8-27B en los dos motores de decodificación especulativa de los que hablamos más adelante con los mismos parámetros y condiciones. Los resultados aquí fueron de nuevo desiguales y, en un caso, desastrosos: Configuración Ejecución 1 Ejecución 2 Ejecución 3 Mediana Pruebas superadas (de 13) Qwen3.8-27B, Splash + DFlash2 8:51 4:31 4:51 4:51 13 / 12 / 12 Qwen3.8-27B, MTPLX + MTP 13:40 8:14 21:11 13:40 11 / 0 / 0 La versión "Splash" completó el proyecto con una mediana de 4 minutos y 51 segundos, la mejor del Mac con este modelo.