LLM 长记忆工具总结

背景 近期工作中做了 LLM 长记忆功能,对此中的思路,技术做下总结。顺便为了练习自己的系统设计能力,这里按照系统设计的方式来整理 什么是长记忆 简单来说就是让大模型具备记忆功能,记住某个人。产品形态上可以是个人助手。不同于某次会话上下文记忆,长记忆具备的特点: ...

十月 19, 2024 · 4 分钟 · zhongling

后端开发经验-阶段性总结思考

背景 做了大半年左右的后端开发后,总结下相关感受。 技术栈:Python/Nodejs + React 行业背景:LLM 应用, RAG, Agent 后端开发思路 后端关注面更广范,几乎要关注整个应用软件运行所需所有的环节: 运维,应用,业务,服务,UI 等。 ...

九月 22, 2024 · 3 分钟 · zhongling