Llama.cpp量化教程及相关资源 - 飞书文档
https://docs.feishu.cn/v/wiki/EatbwdLuvitbbMk2X5wcX6h5n7c/a2llama.cpp量化[llamacpp_pc端.mp4]. 见【边端部署教程】MiniCPM. AutoAWQ量化[awq.mp4]. 设备要求：至少存在一张Nvidia 20系以上显卡，量化2b需要6g显存，量化1b需要4g ...
飞搜侠
热门搜索
CMake教程中的Tutorial 02 - 飞书文档
https://docs.feishu.cn/v/wiki/OkvAwM97oimD4nkkPIJcZbebnic/abCMake & c++ 编译体系. Summary. 入口文件CMakeLists.txt。是一个script，从上到下依次执行。 是build system generator，不是build system。生成的东西，可以给make, ...
MiniCPM-V 2.6的llama.cpp推理教程 - 飞书文档
https://docs.feishu.cn/v/wiki/LZxLwp4Lzi29vXklYLFchwN5nCf/a3方法1: 使用python调用vllm推理 · 首先前往huggingface下载模型权重： · 也可以下载量化后的awq模型，速度快一倍，显存只要7G · fp16 和awq使用vllm 简单对比(4090单卡） ...
【边端部署教程】MiniCPM2.0 - 飞书文档
https://docs.feishu.cn/article/wiki/VL5kw9DsEiRDmJkEyTUcydE0nie经过SFT 后，MiniCPM-2B 在公开综合性评测集上与Mistral-7B 表现相近（中文、数学、代码能力更优），整体性能超越Llama2-13B、MPT-30B、Falcon-40B 等模型。 llama.cpp PC端 ...
【边端部署教程】MiniCPM2.0 - 飞书
https://modelbest.feishu.cn/wiki/VL5kw9DsEiRDmJkEyTUcydE0nie模型简介 · llama.cpp PC端部署 · 下载[llama.cpp]( · 编译llama.cpp · 获取MiniCPM的gguf模型 · 方法1：点击： · 将fp16的gguf文件进行量化，若是下载的本身就是量化文件，可省略。
llama.cpp在模型量化中的作用是什么？ - 飞书文档
https://docs.feishu.cn/v/wiki/RFxuwGwq3ifDqgkMYKkcGB7cn1d/ae我们需要准备模型文件、克隆ollama和llama.cpp仓库源码、安装依赖、下载 ... 下面我们分为两个板块，直通车教程和进阶教程，对于不熟悉或者是不想折腾的朋友请 ...
In which fields is C++ important on GitHub? - 飞书文档
https://docs.feishu.cn/v/wiki/A9HTwt9FmijZtnkq9E6cG9GEnZd/af在人工智能领域，Python的深度学习框架如TensorFlow和PyTorch更是成为了研究人员和开发者的首选。Python的社区非常活跃，有大量的开源项目和教程可供学习和参考。这使得 ...
ChatGPT辅助C语言编程，如何在提问中体现编程需求？ - 飞书文档
https://docs.feishu.cn/v/wiki/EdbNwhbTdib092kpmQdchzNOn7g/ai总之，Dev-C++ 是一个不错的C/C++ 开发工具，适合初学者使用，但是它已经有些年头 ... 教程，主要以视频教学为主，通过生动形象的讲解和实例演示，详细讲解了C ...
ollama 部署InternLM 实践 - 飞书云文档
https://aicarrier.feishu.cn/wiki/RFxuwGwq3ifDqgkMYKkcGB7cn1dcpp仓库源码、安装依赖、下载camke、代码编译和模型量化、推理测试模型 ... 下面我们分为两个板块，直通车教程和进阶教程，对于不熟悉或者是不想折腾的朋友请 ...
How to Overcome the Challenges in Learning C++ as a ... - 飞书文档
https://docs.feishu.cn/v/wiki/KXhYwOcymicz7ykHMsLcN4zrnme/ai除了兴趣和目标，学习资源也是一个重要的考虑因素。不同的编程语言都有丰富的学习资源，包括在线教程、书籍、论坛等。例如，Python有很多优秀的在线教程，如Coursera上的 ...