经过一番折腾，终于在自己电脑上部署了ChatGLM-6B，虽然效果比不上GPT-4，但胜在免费和隐私！

部署过程：
1. 下载模型文件（约12GB）
2. 安装transformers等依赖
3. 编写简单的对话脚本
4. 优化显存使用

使用感受：
- 中文对话很自然
- 代码生成能力不错
- 推理速度可以接受（RTX 3080）
- 有时会出现重复回答

我主要用它来：
- 代码review ...