Facebook LLaMA模型使用：在本地运行一个类chatGPT模型

2023-03-21 分类：博文阅读(1591) 评论(0) 赞(5)

chatGPT大火，但是因为openAI是闭源的，如果想要私有部署或离线使用，那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。

一、项目介绍

希望基于开源LLaMA模型能够发展出繁荣的开发者生态。

Facebook官方示例： llama。

C++移植版：llama.cpp。

在本地运行LLaMA模型，基于项目：alpaca.cpp。

支持Linux/Windows/Mac，下载地址：Github。

赞(5)