旷视科技发布轻量级LLM模型推理框架InferLLM
2023-07-28 16:17:57
|
来源:鞭牛士
【资料图】
旷视科技发布全新轻量级LLM模型推理框架InferLLM,提供一个比llama.cpp更简单更容易上手的本地部署框架,助力大模型实现落地。
【资料图】
旷视科技发布全新轻量级LLM模型推理框架InferLLM,提供一个比llama.cpp更简单更容易上手的本地部署框架,助力大模型实现落地。