EVA单机运行大模型绿色版方案+Qwen2(CPU+GPU通用) AIGC

new4 26天前 899

使用开源EVA软件CPU版或CUDA版本,加载大模型guff版本的文件即可食用。

https://github.com/ylsdamxssjxxdd/eva

模型下载:https://modelscope.cn/models?name=gguf&page=1(搜索guff下载)

家用计算机可使用通义千问2 QWEN 7B模型:https://modelscope.cn/models/qwen/Qwen2-7B-Instruct-GGUF/files

显存够大选一个小于显存的版本,显存不够内存够也可以选小于内存的版本。都能用。



最新回复 (1)
全部楼主
  • hailong1900 21天前
    2
    好多年没来了    支持下
返回
发新帖