cpp调用ollama本地模型流式输出

preference · 发表于 2025-11-23 02:20:24

使用c++调用ollama部署的本地模型并且实现流式输出这只是一个大致的框架，更多完善的功能还没写（例如自动获取模型名、GUI界面）

首先确保本地模型已经部署完成，打开终端输入ollama list获取模型名

然后打开main.cpp源码文件在modelName处填写具体模型名
最后打开终端cd到源码目录
输入编译命令"[backcolor=rgba(25, 29, 39, 0.95)]g++ main.cpp -o ollamaclient -lcurl"（我这里是g++编译器，其实为了方便可以使用Xcode，windows平台可以使用vs）
然后就可以找到编译完成的可执行文件了

vfghy1 · 发表于 7 天前

学习学习了学习学习了学习学习了

ouooyo · 发表于 2026-2-23 18:25:18

66666666666666666666666666666666666

dulang · 发表于 2026-1-28 19:09:53

开源助力，感谢大佬！

胖子葛格 · 发表于 2025-12-17 18:28:42

感谢楼主分享

3020520003 · 发表于 2025-11-26 11:49:01

感谢分享

please · 发表于 2025-11-25 09:36:33

感谢分享，支持开源！！！

卡卡1111 · 发表于 2025-11-24 18:09:09

支持开源~！感谢分享

year1970 · 发表于 2025-11-24 07:54:19

感谢分享

wh1234567 · 发表于 2025-11-24 01:29:56

感谢分享

		自动登录	找回密码
密码			注册

[2025开源大赛(第八届)] cpp调用ollama本地模型流式输出

浏览过的版块