llm-d 1.0 traz inferência distribuída com cache para TPU e GPU
O llm-d 1.0 oferece inferência de grandes modelos de linguagem de forma distribuída, usando cache e roteamento avançado para TPU e GPU, ideal para empresas brasileiras.
GPU
