1. Hablais de los NPU como si fuera invento y propiedad exclusiva de INTEL.
2. Habláis de los NPU como tecnología revolucionaria y con éxito vr0000taalll asegurado y disruptor 100% real no fake 1 link mega.
3. Las cuentas económicas de INTEL son HORROROSAS (no hablo de caricias mentales y futuribles, haablo de LAS CUENTAS a AÑOS VISTA).
4. En el mejor de los casos puede hacerse un microsoft 2 de los 00s, es decir, tirarse 10 años sin crecimiento alguno. ¿Estáis preparados para tener a intel 10-15 años en cartera con alta posiblidad de no ganar nada?
varios hechos
- intel es USA
- tiene detras la impresora y los f35 ademas de la industria de extorsion de la OTAN para que usemos el $ hasta para soltar
- intel esta posicionandose desde hace tiempo con las NPU
- tiene acuerdos ya cerrados para proveer a varias empresas procesadores con NPU
- los NPU deberian reducir muchisimo el coste de desarrollo y ejecucion de modelos de IA al no tener que comprar en el pack cosas que estan
especificamente diseñadas para gráficos...
- kill gates quiere meter IA en todos los windows, asi que todos los intel van a meter NPU, tanto escritorio, laptops, datacenters...
- como yo hay millones de consumidores que no quieren AMD ni en pintura porque ya hemos salido escaldados de su pasado de tostadoras
- muy probablemente, como las NPU ya estaran integradas en la arquitectura y cerca de la ram y procesador (lógicamente hablando) seran mas compatibles y faciles de usar para los desarrolladores. entre no tener que usar nada especial a tener que usar todo un conjunto de herramientas y librerías (cuda..) decanta mucho tambien si usar una cosa u otra.
- el profiling y el debugeo también tengo entendido que es más complicado de hacer con GPU, yo no he tenido que hacerlo.
son muchas cosas que por si solas no me harian pensar lo que pienso, pero que puestas y analizadas en conjunto teniendo en cuenta el contexto económico y geopolítico...
para que te hagas una idea. yo estoy en este mundillo y precisamente estoy en un equipo que entre otras cosas tiene y usa modelos LLM. ya sólo para las pruebas de esto tenemos que tener un cluster dedicado solo para estos backends que hacen tareas de ML. eso para desarrollo, pre, pro...
el hecho de levantar el entorno de forma distinta ya hace que tenga su propio pipeline, sea mas propenso a errores, se tarda mas... quebraderos de cabeza. en lugar de los nodos normales baratitos tienes que usar nodos que cuestan una pasta tenerlos levantados.
el modelo de comunicacion entre tus apis ya cambia y tienes que introducir mas puntos de fallo y mas configuraciones y mas cosa, porque claro, si levantas un cluster de kubernetes con tus apis y backends normales y luego levantas otro de nodos con gpus... pues ya no tienen comunicación interna y hay que habilitar comunicación externa.
esque a poco que te pares a pensar un poco en la cantidad de problemas que los desarrolladores estan teniendo sólo por estas cosas y en la cantidad de tiempo que se invierte en cosas que realmente no estan aportando valor... yo creo que las NPU si que van a ser un cambio significativo y creo que intel se va a beneficiar de ello
