标签： 是石科技

把推理服务看作一座国产Token优化工厂，GPU是生产设备，推理实例是工位，业务请求则是一张张订单。TokenFleet负责的，就是把订单与产能匹配起来。