在Windows11的WSL上运行Llama2-7b-chat 上

        最近在玩大模型，玩了ChatGLM3感觉不过瘾，又去玩了Llama2（在Windows上简直难的离谱），下边我讲为大家讲一下我的心路历程。

心路历程

第一天：GLM那么简单，有手就行啊，最近Llama2开源了挺火的，俺也试试

1. 去huggingface跑demo：显示跑不了，所在地区受限

2. 算了去官网download代码：readmd显示要去官网申请下载模型（给我整不会了）

3. 一通操作猛如虎，一看下载error

第二天：今天怎么也能把模型下载下来了吧，爷爷换邮箱了

1. 一顿操作，把所有模型都进行下载，下载到Llama2-70B中断了（这是个伏笔）

2. 总算能跑了，报错nccl，简单gloo，报错缺库，安装

pip install -e .

3. 总算能运行了，再次报错，官网查询（心都凉了）

第三天 ：我选择放弃

第四天：我选择放弃

第五天： 在双卡机器上搭建WSL

1. 真是个勤劳的孩子，博文在此Windows11快速安装WSL2

2. 搭建conda环境、pytorch环境

3. 本来是该结束的，好死不死我想安装个桌面，然后搞了一天多，又遇到git无法联网的问题

绝绝子

第六天：终于跑出demo了（不得不吐槽支持做的没有ChatGLM3好）

官方demo太简陋了，只能等其他大佬写界面了。展示结果：

避坑点

1. 使用Linux系统跑避免90%以上的坑

2. 不太推荐使用国内的邮箱获取链接

3. 最好跟着博客走，能避免不少的麻烦

结尾

下一篇文章我们讲述一下如何在WSL上运行Llama的demo，传送门：在Windows11的WSL上运行Llama2-7b-chat 下

如果觉得文章对你有用请点赞、关注  ->> 你的点赞对我太有用了
群内交流更多技术
130856474  <--  在这里