一键安装 LlaMA 的工具来了!

温馨提示(看过来)

每日不间断更新《资源分享》和《每日必看》栏目!敬请关注,谢谢!

如部分内容需要密码,请扫一扫关注公众号免费获取!微信搜索“流浪宇宙寻资源”关注公众号回复”密码“即可获得密码,不愿意搜索的直接扫下方二维码。

如果您有资源可以投稿的这里,发给我,来换取金钱,具体价格商量。

如果您对网站有建议,可以这里提问帮您解决。

一键安装 LLaMA 之后,在一台 M1 Mac Mini 上跑起了 7B 的模型,速度还OK。大概吃了4G 内存。

这台机器有 16G 内存,8核的 M1 CPU。跑起来之后,CPU 会跑满。

具体安装步骤:

  1. npm install npx (没有 npm 的同学可以先装 npm,js 的包管理工具)
  2. npx dalai llama
  3. npx dalai serve

它会自动安装相关的 python 包,并下载 7B 的 LLaMA 模型。

https://cocktailpeanut.github.io/dalai/#/

公众号(流浪宇宙寻资源)
公众号(J科技资源)