一键安装 LlaMA 的工具来了!

一键安装 LLaMA 之后,在一台 M1 Mac Mini 上跑起了 7B 的模型,速度还OK。大概吃了4G 内存。

这台机器有 16G 内存,8核的 M1 CPU。跑起来之后,CPU 会跑满。

具体安装步骤:

  1. npm install npx (没有 npm 的同学可以先装 npm,js 的包管理工具)
  2. npx dalai llama
  3. npx dalai serve

它会自动安装相关的 python 包,并下载 7B 的 LLaMA 模型。

https://cocktailpeanut.github.io/dalai/#/

发表评论

您的电子邮箱地址不会被公开。 必填项已用 * 标注