开启辅助访问 切换到宽版

精易论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

用微信号发送消息登录论坛

新人指南 邀请好友注册 - 我关注人的新帖 教你赚取精币 - 每日签到


求职/招聘- 论坛接单- 开发者大厅

论坛版规 总版规 - 建议/投诉 - 应聘版主 - 精华帖总集 积分说明 - 禁言标准 - 有奖举报

查看: 858|回复: 49
收起左侧

[其它源码] AI通讯核心库开源,拥有agent runtime机制,动态能力注册

[复制链接]
结帖率:67% (2/3)
发表于 昨天 08:48 | 显示全部楼层 |阅读模式   广东省深圳市
分享源码
界面截图: -
是否带模块: -
备注说明: -

0x00 我的出发点

一直想做一个类似于claude code的“基座”,虽然claude code有源码泄漏过,但是整个项目太“重”,而且内置了很多很多能力。
这次我用 rust 开发了一个 ai的核心(kernel),其关键意义是以后我们不管开发各种网页、项目、脚本、都不需要在重新写AI调用。
我相信很多人和我一样,开发各种项目,都得接入AI,而每次接入,除非你是单次LLM,但是一旦设计runtime机制,就每次都得重新copy代码开发,同语言还好,跨语言就麻烦。 虽然有AI加持,但难免还是没法同步更新迭代。
并且虽然 claude cli可以直接用,但是很多场景是不需要他内置的工具能力,比如你打算为你某个项目植入AI,但是你根本不需要claude 这么工程味道重的能力。
而且为了考虑到复用性,我就打算设计一个全部采用 ws 通讯。

0x01 agent-kernel构建

这次开发了的agent kernel 的设计就便捷在这里,kernel帮你管理持久化上下文,供应商配置, 但所有的工具能力注册,提示词,上下文压缩,都可以通过ws去动态配置,修改。
这样,以后不管我开发任何项目,不管是使用python、go、php、nodejs,只需要链接到 kernel websocket,就可以直接非常方便的复用这套 agentruntime 机制能力。  不需要每次都从0开发, 而且也不需要claude cli这么重量级的产品嵌入到产品。

0x02 架构设计

我的设计是适配所有主流模型(openai、claude、ollama),并且以及打算给没有tool能力的小模型做了容错设计,让小模型也能走tool能力调用(通过普通消息写标记内容识别),所有事件都走websocket,比如当你创建了新的能力,可以动态热插拔注册进去,并且当AI在调用的时候,通过ws事件发起

0x03 核心亮点

1.你以后根本不需要对这套 agent-kernel 源码做任何改动,直接编译,运行,就可以完全动态热插拔使用
2.你想让它拥有什么能力,你就通过ws赋予它“能力声明”,在由kernel通过ws让你执行你的能力并回调给它。
3.上下文管理实现了全量记录保留,但它不会参与全量提交给AI,通过配置设定消息阈值,下报ws事件,你可以自由配置是直接裁剪? 调用新agent来智能总结压缩? 还是直接重置会话?
4.记忆/规则/技能/MCP 这些很重的东西,统统都没有! 未来你想实现,很简单! 你给他加上对应的能力,就可以了!

2.png
1.png
3.png
6.png
4.png
5.png


并且源码本身提供了一个网页单例进行连接到ws核心进行测试,网页只是测试示例,完全不用担心捆绑。

回复查看下载:
游客,如果您要查看本帖隐藏内容请回复







评分

参与人数 1好评 +1 精币 +2 收起 理由
inat + 1 + 2 感谢分享,很给力!~

查看全部评分


结帖率:50% (1/2)

签到天数: 13 天

发表于 1 小时前 | 显示全部楼层   江苏省苏州市
感谢分享,很给力!~
回复 支持 反对

使用道具 举报

结帖率:100% (8/8)

签到天数: 18 天

发表于 2 小时前 | 显示全部楼层   山东省淄博市

诺离 出品 ,必属精品
回复 支持 反对

使用道具 举报

结帖率:50% (1/2)
发表于 3 小时前 | 显示全部楼层   内蒙古自治区赤峰市
学习学习学习学习
回复 支持 反对

使用道具 举报

签到天数: 9 天

发表于 4 小时前 | 显示全部楼层   重庆市重庆市
  感谢分享,很给力!~
回复 支持 反对

使用道具 举报

签到天数: 18 天

发表于 5 小时前 | 显示全部楼层   河北省石家庄市
666666666666666666
回复 支持 反对

使用道具 举报

结帖率:100% (4/4)

签到天数: 19 天

发表于 5 小时前 | 显示全部楼层   山东省淄博市
感谢分享
回复 支持 反对

使用道具 举报

结帖率:100% (199/200)

签到天数: 16 天

发表于 7 小时前 | 显示全部楼层   浙江省丽水市
单从页面看 看着比较舒服
回复 支持 反对

使用道具 举报

结帖率:96% (24/25)

签到天数: 19 天

发表于 13 小时前 | 显示全部楼层   广东省广州市
响应呼吁路过一下
回复 支持 反对

使用道具 举报

签到天数: 18 天

发表于 13 小时前 | 显示全部楼层   广东省汕头市
666666666666666
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则 致发广告者

发布主题 收藏帖子 返回列表

sitemap| 易语言源码| 易语言教程| 易语言论坛| 易语言模块| 手机版| 广告投放| 精易论坛
拒绝任何人以任何形式在本论坛发表与中华人民共和国法律相抵触的言论,本站内容均为会员发表,并不代表精易立场!
论坛帖子内容仅用于技术交流学习和研究的目的,严禁用于非法目的,否则造成一切后果自负!如帖子内容侵害到你的权益,请联系我们!
防范网络诈骗,远离网络犯罪 违法和不良信息举报QQ: 793400750,邮箱:wp@125.la
网站简介:精易论坛成立于2009年,是一个程序设计学习交流技术论坛,隶属于揭阳市揭东区精易科技有限公司所有。
Powered by Discuz! X3.4 揭阳市揭东区精易科技有限公司 ( 粤ICP备2025452707号) 粤公网安备 44522102000125 增值电信业务经营许可证 粤B2-20192173

快速回复 返回顶部 返回列表