开源模型 PrivateGPT 上线,可本地搭建、避免信息外泄
2023-06-26 05:47:29
|
来源:清一色财经
开发者 Iván Martínez Toro 近日推出了 PrivateGPT 开源模型,允许用户在没有互联网连接的情况下,根据自己的文档提出问题。
(相关资料图)
6 月 25 日消息,三星、摩根大通、苹果和亚马逊等公司已明令要求,由于担心公司机密信息外泄,禁止员工使用 ChatGPT。
开发者 Iván Martínez Toro 近日推出了 PrivateGPT 开源模型,允许用户在没有互联网连接的情况下,根据自己的文档提出问题。
PrivateGPT 开源模型可以在家用设备上本地运行,运行前需要下载名为 gpt4all 的开源大语言模型 (LLM)。
然后,指示用户将其所有相关文件放入一个目录中,以便模型引入所有数据。
训练 LLM 后,用户可以向模型提出任何问题,它将使用提供的文档作为上下文进行回答。
PrivateGPT 可以摄取超过 58000 个单词,目前需要大量的本地计算资源(推荐使用高端CPU)来设置。
Toro 表示当前 PrivateGPT 处于概念验证(PoC)阶段,至少证明可以完全在本地创建类似于 ChatGPT 的大模型,可以预见这种 PoC 转换为实际产品之后的潜力,可以让公司访问个性化、安全和私密的 ChatGPT 来提高生产力。
IT之家在此附上 GitHub 页面链接,感兴趣的用户可以点击阅读。