DeepSeek abre el código de su motor de inferencia

DeepSeek liberó como código abierto su motor de inferencia, la pieza de software que se encarga de ejecutar los modelos y responder consultas en producción. El anuncio se ubicó entre los temas más comentados de Hacker News, con 565 puntos en la discusión pública.

Hasta ahora la compañía había abierto los pesos de sus modelos, lo que permitía descargarlos y usarlos, pero dejaba fuera la infraestructura que los hace eficientes cuando hay que atender tráfico real. Ese componente es el que administra la memoria, el batching de peticiones y el uso intensivo de aceleradores, y suele ser la diferencia entre un prototipo y un servicio que aguanta volumen.

Para los equipos que despliegan inteligencia artificial en servidores propios, el movimiento amplía las opciones frente a las APIs comerciales, donde el costo crece con cada token procesado. También abre la puerta a auditar y ajustar el comportamiento del motor, algo que con soluciones cerradas no es posible, y a comparar rendimiento sin depender de un proveedor único.

El gesto encaja en una tendencia más amplia: la competencia ya no se libra solo por el tamaño del modelo, sino por la eficiencia con la que se sirve. Publicar el motor convierte esa eficiencia en material revisable por la comunidad, que puede replicar resultados, proponer mejoras y adaptarlo a hardware distinto al del fabricante.

Fuente: Hacker News / GitHub.