#AI

31 篇文章

RAG 知识库调优:评估、切分、检索与重排

2022 年我整理过一篇 RAG:检索增强生成的收益与天花板,谈了它解决什么问题,又有哪些结构性的限制。这几年 RAG 的工程实践往前走了很多,切分、检索、重排每个环节都沉淀出了更细的方法。这篇把”怎么把知识库从能用调到好用”整理一遍,算是上一篇的续篇。 知识库在 Agent 里的位置 在 Agent 的语境下,知识…

AI开发助手

22年chatgpt3.5 刚出来的时候,体验了一下,实现了一个PR审阅的工具,接入到代码仓库中,当时团队同学反响非常不错,但是继续往下研究的时候,发现模型的能力不太够,当时的结论是除了目标明确,耦合较少的任务(如:单元测试&类型文件转换)外,很难在研发流程上有较大的提升。 后续因为业务调整主要尝试将LLM在私域业务…

知识管理-AI笔记(AI大脑)

让我时隔很多年重新思考笔记这个问题是源于一个“AI大脑”的灵光乍现 过去我有一个很大的痛点:人是会忘记的,这导致在做决策的时候有些信息之前虽然有接触,但是没办法有效召回导致决策质量较差。 现在AI的能力和工程能力绝对可以做到一个“虚拟的我”,祂是我过往所有经验的总和,当我有什么问题和他沟通的时候,一定会贴合我自己的想…

迁移知识库的 embedding 召回评测方法

RAG 接入前应评测 embedding。本文说明如何从真实迁移任务整理查询集、定义召回判据、对比多个 embedding 模型,以及为什么平均相似度和公开榜单不足以替代本地评测。

给 Agent 做记忆:分层、状态与遗忘

Vue 转 React 的迁移 Agent 做到一半就会话中断,新 Agent 不知道做到哪了。本文整理记忆的三层结构——短期、项目、长期——以及写入门槛、读取难点和遗忘不是删除的四类情况。

如何阅读科学文献

为什么需要掌握科学文献阅读? 在AI快速发展的今天,每天都有大量的研究论文发布。以计算机视觉领域为例,仅arXiv每天就有50+篇新论文。面对如此庞大的信息流: 信息过载:无法判断哪些论文值得深入研究 效率低下:花费大量时间却抓不住重点 理解困难:不熟悉学术写作规范,难以快速定位关键信息 掌握科学文献阅读方法,能够帮…

RAG:检索增强生成的收益与天花板

最近在研究怎么把大模型接到知识库上,RAG 是绕不开的方案。我看了一些资料,也动手试过。这篇先把它的原理、适用范围和限制理一遍。 RAG 是什么 大模型有两个常见问题:知识会过期,训练结束后不会自动更新;模型也会生成看似合理但实际错误的内容,也就是幻觉。 2020 年,Facebook AI Research 在 N…