Hetan的博客

写完之后发现他好像不是很需要这个东西，所以就先发在自己的博客好了。不投稿首页或者候选区应该本来也就不会有多少流量，所以应该不会干嘛的，大不了后面被说不让放网上以后就删掉这篇，嘻嘻。

https://blog.csdn.net/YYY_77/article/details/125547278

大模型参数量与占用显存换算

简易结论：

• 在float16模式下，加载7B模型需要14G显存

这个教程其实早就该写了，刚好发现博客里面最近全是灌水没有干货，所以现在直接补上了。

本教程针对的是Ubuntu上使用gnome-session-flashback桌面，使用tigervnc的vnc教程。主要是在日常实验室工作时为了一个省心和舒服。