@"We' 正在建造一个 AIMS K2授权知识助理,

• 每份招聘广告 ,球场甲板 MS K1和顾问建议 在 @2024-2025

一. 导言导言 导言 导言 导言

I'过去一个月左右, 花在商业的AI空间上。 . 收看大量营销广告,

几乎都是一样的

."+ @"#Customer chatbot 与企业知识搜索@."QZ 撕掉无呼吸的营销副本,

顾客聊天平台的变体特别令人着迷@MSKK0}他们可以很快成为公关灾难, 当开发商不理解卫兵 让他们在公众面前松绑的时候...".\ 没有什么能跟你的支持机器人愉快地提供退款一样

这是管理层没人想听的肮脏秘密 大部分商业AI项目都是新颖的.,

在我走得更远之前, , MSMK1 I' 不是“" ASG4 ” 或者任何当时的 Hype-驱动的标题是 “(} 最前的@"块链 visionsMS K8 谁在方便地将#K9}). ISK11 一个软件工程师 谁正在建设这些类型的系统? (— Search,}知识管理=,}自然语言处理}, 决定支持{

两类商业AI项目

解开市场营销的胡言乱语, 你会发现商业商营的95% 大约属于两类项目之一。

1:RAG管道类型

这是迄今为止最常见的“. ” 每个“"”企业AI解决方案 “"”遵循这种模式“MSC3”

flowchart LR
    A[Documents] --> B[Document Ingestion Pipeline]
    B --> C[Vector Database / RAG]
    C --> D[Construct Prompts]
    D --> E[LLM API Call]
    E --> F[Hybrid Search]
    F --> G[Response to User]

    style B stroke:#ff0000,stroke-width:4px

那个红色的盒子... ?...

音效令人印象深刻 @: @ "We'}已建起一个能理解您的公司@'文件的 AAI, 可以明智地回答问题=!"

现实":你' 已建起一个带有额外步骤的搜索引擎和 一个“£10,000/月 OpenAI billMS K3”

2: 精美MS K1 推荐型態

这一个“'”甚至连Sillier@. 投影机 “: "We'已经专门为你的行业培训了我们的AI模型 =!"

@: @You@'}你已经用别人的模型 和微小的-调整了一个数据集, 这个数据集可能太小了#'}, 太脏了吗?

flowchart TD
    A[Existing LLM] --> B[Collect Training Data]
    B --> C[Clean Data - Maybe]
    C --> D[Fine-tune Model]
    D --> E[Deploy Model]
    E --> F[Discover it's not much better than base model]
    F --> G[Keep paying for inference anyway]
    G --> H[Hope nobody notices]

最精细的I-#调整项目 I'_@ve看到,如果用同样的钱来改进它们的提示和检索系统会更好

为何文件摄取是梦死的地方

Let''s talk about that red box in the RAG 图中的红箱\ . 最经常失灵的部分是文件摄入“,”和“'”是闪光演示中关注最少的部分 ‘.’

这里的' 销售说明显示什么?

• 美丽的PDF进入系统
• 清洁标记完美提取
• 您所知道的所有知识@ , @ 可以通过 AY!_ 搜索

这里: '}实际发生的一切 @:

PDF 问题

PDFs是一场恶梦 . 它们设计用于打印, 不是为了提取结构化数据". 每个使用过的PDF解析器 I'曾经有不同的失败模式\MS K4

• 错误合并的列
• 成为胡言乱语的表格
• 污染内容的页眉和页脚
• 已扫描的文档需要 OCR {(} 和 OCr 有其自身错误率@)}
• 安全性- 保护文件,能够'}完全不能处理
• 将文本变成垃圾的字体编码问题

等待直到你打到:

• PowerPoint 文件, 文本为智能艺术
• 有音轨更改的单词文档
• 具有合并单元格的Excel文件
• 用笔迹扫描的图像
• 由在 @90%s 中死亡的系统遗留格式

震动灾难

一旦您% ' @ 提取文本后, 您需要为您的矢量数据库加块@ MS K3 @ 这是更多神奇思维发生的地方 @ . @

“" @We'}使用语义填充@!"#Great_,}您的 200-_page合同现在是“500{groups @,},而AI不知道哪些相关或按何种顺序出现@MS K7}

" @We'}使用固定的@-#大小块与重合 @!" @Afried_,}你刚刚把句子一分为二,

flowchart TD
    A[Original Document] --> B[Chunk 1: This contract shall be governed by]
    A --> C[Chunk 2: the laws of the State of California]
    B --> D[Embedding: Legal stuff?]
    C --> E[Embedding: Geography?]
    D --> F[User asks about jurisdiction]
    E --> F
    F --> G[AI: Based on my knowledge, possibly California, or maybe legal governance, who knows]

元元中流出

良好的RAG需要好的元数据@.}但是从文档中提取的元数据是硬性的:

• @'}%s the document date_?}文档的日期是创建日期{,}修改日期,}还是内容中提及的日期?
• 撰稿人: 作者: ? 创建文件的人 @,}合法作者: , 或主题专家:
• 您的分类是否属于“? ” 类别 ? “ '” 可能与文档是如何实际组织起来的匹配@ . ”
• 此文档是否仍然有效@ ? @ 或已被您系统所知道的更新文件取代? @ MS K1} title knows about?}

大多数组织有数十年的文件 与不一致的命名协议...,文件夹结构, 这对留在"MS K1"中的人来说是有道理的 和元数据... '要么丢失,要么错误

美人梦幻派

请让我澄清一下,: 细微的-调试有它的位置... ...但大多数公司处理的方式基本上被打破了...

数据问题

校正需要高质量的培训数据... .......

• 分散于各系统的不一致数据
• 反映事情是如何完成的数据 @,}不是应该怎么做
• 数据中充满了无人修补的错误
• 这些数据是专有的,但实际上不那么值钱

@,#来自初级员工的不正确信息@,}以及那些代表正常使用的边缘案例 #.#

你的意思是那些销售者承诺产品能保持 '的售价

评价问题

您如何知道您的精细“-”调制模型 是否真正更好呢? “?”大多数公司都能回答,因为$:#

• 他们没有良好的基准数据集
• 他们没有明确的评价指标
• 他们已经做了严格的A/B测试
• 他们正在比较 感觉=,}不是数据

I' 见过公司花6个月时间调整模型, 然后没有办法证明它比使用GPT-4#更好。

赡养问题

Finem-d 模式需要更新 您的业务变化.@.}您的产品改变 @.}您的程序改变了#.}你今年一月调整的模型

但更新意味着:

• 收集新的培训数据
• 正在再次接受培训
• 验证新模式
• 部署它
• 希望您能引入回归

大部分公司都会一次一劳永逸地与漂移的.一起生活,

什么是“"AI ASMK1”项目实际上很好

有合法使用的案例 :

flowchart TD
    subgraph RAGWorks["✅ RAG Works When"]
        R1[Well-structured docs]
        R2[Clear metadata]
        R3[Search + synthesis use case]
        R4[Heavy ingestion investment]
        R5[Feedback loops exist]
    end

    subgraph FTWorks["✅ Fine-Tuning Works When"]
        F1[Large high-quality dataset]
        F2[Base model truly struggles]
        F3[Ongoing maintenance budget]
        F4[Clear eval metrics]
        F5[Already tried prompting + RAG]
    end

    style R4 stroke:#00aa00,stroke-width:2px
    style F5 stroke:#00aa00,stroke-width:2px

绿箱是大多数项目的先决条件, "We' 已优化的提示及RAGMS K2 是用于调和@ -+.+% "+Heavy 摄入投资 是RAG. 跳过这些然后你在沙滩上建造的'

无名无实的问题解决

虽然每个人都在建立同样的RAG管道 ,}商业人工智能中真正有趣的问题被忽略了

数据质量

对AI有效性的最大限制是 '}(该模型的模型) 它2}数据=.}大多数组织都有

• 数据分布在几十个系统上,
• 没有任何真相来源
• 数据治理比现实更渴望
• 任何人都没有预算可解决的质量问题

但是“"”数据质量倡议 “" ”没有给您一个福布斯的文章,比如“MS K3”和“AI transformation”

进程一体化

将人工聊天机丢入一个已有的进程, 会奇迹般地让这个过程变得更好。 这个程序需要重新设计, 环绕 AY'QS 的能力和限制?

人类和人类之间的协作

最佳的AI实施会增强人的能力,而不是试图取代他们 @.}但是这比X自动=!"#更难销售

人类必须携手合作,

• 清除交接点
• 透明AI的推理
• 易易操作机制
• 改进反馈循环

多数商业人工智能项目将人类视为事后思考”.

真正的创新

在您的文档中真正有价值的 AI 应用程序是 @'t @MS K1}{chatbot

• 启用以前不可能的东西
• 创建值的新类别
• 以全新的方式解决问题

但这些是硬的“.”RAG输油管 很简单 “(” (Well),(Seasier”) 所以这'就是大家建造的东西

咨询工业综合体

愚蠢的AI项目的一个重要驱动力是咨询生态系统 :

flowchart TD
    A[Big Consultancy Tells C-Suite: You Need AI!] --> B[C-Suite Panics]
    B --> C[Consultancy Deploys Army of Juniors]
    C --> D[Recommendations: RAG + Fine-Tuning]
    D --> E[Build Same Thing as Last 20 Clients]
    E --> F[Demo Goes Well]
    F --> G[Reality: Real Data Breaks Everything]
    G --> H[Consultancy Moves On]
    H --> I[Internal Team Struggles]
    I --> J[Project Quietly Fails]
    J --> K[Nobody Admits It]
    K --> A

    style G stroke:#ff0000,stroke-width:3px
    style J stroke:#ff0000,stroke-width:3px

I'见过这种模式 数十次 . 咨询得到报酬 MS K2 执行官会说 他们""did AI." 工程师们被卡住 维持着一些几乎不起作用的东西 '. 实际业务问题仍未解决'.′

VC=-#Driven AI 要求

启动进入一个略微不同的陷阱@. @ it'}不是顾问驱动功能障碍的咨询活动 *%—#it_'}供资环境=.{

timeline
    title Technology Requirements for VC Funding
    2005 : Web 2.0 - "You need social features"
    2010 : Mobile - "You need an app"
    2015 : Cloud - "You need to be cloud-native"
    2018 : Blockchain - "You need a token"
    2023 : AI - "You need an AI strategy"

每隔几年 , 在那里 MS K2 * 一种由VC决定的新技术是必需的 如果您的投手甲板不支持' * t 特别提及它\ , 您@'}没有得到资助=. 这个技术可能与您的实际产品没有关系

我亲眼目睹了在“2017-2018. ” 的连锁店里发生的这种事件,那些没有生意的公司在“连锁商店”上被打入产品中。 因为“' ” 在资金到位后,这些连锁公司的大部分功能都悄悄消失了。 “. ”

现在,它发生的事情 与AIO.

创业者正在将LLM功能锁定到需要的产品上, 因为#: @%

• 投资人贏得'@t看甲板,
• 对 " 和 " I" " 公司的估价值较高。
• 媒体只报导大赦国际的报道
• "Ai-power"是促销的赌注

结果#? 具有尴尬的人工智能功能的产品 用户忽略了在微小}-调整实验上的跑道 在RAG系统中浪费的工程时间 当简单的数据库查询效果更好时

最糟糕的是: 许多创始人知道这是愚蠢的. "他们' 正在建立他们的AI特写, 他们不相信"MS K2"... ...因为他们需要生存足够长的时间来构建他们真正关心的东西...

如果您是被推动添加 AI,的启动创建者, 请自问 @ : @

• AI是否真正改进了我的产品?
• 或者我只是在为投资者检查一个盒子吗?

如果它“'” 建立最小可行的 AI 功能, 在框中勾选“MS K2” 。 那么聚焦于真正重要的是什么? “.” Don'“ 不要让融资环境分散你对建造有价值的东西的注意力

Hype工业综合体

这是大赦国际里没有人想讨论的 令人不舒服的真相 几乎每个生态系统中的人都有经济激励 让这群人继续生活下去

flowchart TD
    subgraph Researchers["🔬 Frontier Labs"]
        R1[Need billions for compute]
        R2[Must show progress to justify spend]
        R3[Hype generates investment]
    end

    subgraph Companies["🏢 Tech Companies"]
        C1[Need AI angle for valuation]
        C2[Must justify AI team costs]
        C3[Hype drives stock price]
    end

    subgraph Investors["💰 Financial Backers"]
        I1[Massive capital deployed]
        I2[Need exits and returns]
        I3[Hype maintains valuations]
    end

    subgraph Media["📰 Tech Media"]
        M1[AI stories get clicks]
        M2[Access depends on positive coverage]
        M3[Hype drives engagement]
    end

    R3 --> I1
    C3 --> I1
    I3 --> R1
    I3 --> C1
    M3 --> R3
    M3 --> C3

研究人员 在边境实验室需要数十亿的计算 来训练下一代模型. 这笔钱来自投资者和大科技. 为了证明他们需要花费,"

公司 人工智能实验室和所有使用AIAS的用户都需要描述来继续 @.OpenAI'}评估取决于是否相信 AGI就在转角附近 –个#. "AI}-PowelMS K7}启动点~'}多功能都依赖于AI仍然保持热区=. 即时情绪转变_,亿纸财富蒸发 .

投资者 他们需要音乐来持续播放足够长的时间 才能实现返回 . * 对接近 MS K3的人工智能能力进行现实的评估

媒体 发现AI故事产生大规模参与... ....,Nuanced的覆盖面... ...这表示关键范围是职业性-限制"MS."

结果是“?一个自我的‘-’加强突变循环,在这个周期里每个人都有理由保持高涨的期望 ’,,很少有人能从说出真相得到好处.

这不代表AI是真正有用的 @'@— @it绝对是I,}因为I' .#但承诺的与交付的之间的差距很大,

当有人告诉你AI会改变你的生意时 ,问自己 他们从你那里得到了什么

你实际上应该做什么? ?吗?

如果你考虑一个AI项目 , 在这里

“1.”从问题开始,“,”不是技术

问我们想解决什么问题? 如果AI是正确的解决方案吗?

2. 先修正您的数据

在您建立 RAG 管道前 @ , @ 修补您的文档 messie@ MS K1 @ 之前, 您先清理您的培训数据@ MOSK4} AI won'# t修补您的数据问题@ I; @ 它会放大它们\ . @

启动小型和迭代

Don't 启动一个大型的“"AAI transaction” “." 构建概念的小证明'. 用真正的用户来测试它‘ . 学习实际有效的东西’ @. 然后扩展“ MS K6}

4. 投注在波音位

文档接收管道是't性感□. 数据清理是't振奋MS K3 评估框架是MPK4}这是您可以向董事会演示的东西*.,但这些都是成功与否的决定因素_.

@5.# 诚实对待限制

现时的幻觉LMs .}RAG系统错过了相关文件

6.维护计划

建立这个系统或许是“30%”的努力,

7. 考虑是否需要所有自定义解决方案

也许你需要的只是更好的使用 关闭"- - sjelf工具"MS K2 chatGPT 一些定制指令也许够了. 不是每件事都需要一个口号 "AI平台"=.

但他们不一定要笨

将商业AIT计划拖后腿 现在为充满希望的Bit_: 这些项目实际上可以发挥作用... ...,... ...如果你能明智地接近它们的话...

问题在于“'@tRAG”或“细微的-}调整为概念 ” . 问题是懒惰地执行 “,}不切实际的期望 ”,,忽略基本原理 . 这里‘'’ 如何做得更好?

Hook AI 加入现有工作流,唐MSSK1t 替换这些

我所看到的最大的错误是将AI视为现有流程的替代, 而不是增强“. ” 您的企业已经拥有了有效的工作流程 “( mostly @). ”,而不是用“MS K3 AI -}{" 版本<, hock AI>来取代这些流程。

flowchart TD
    subgraph Traditional["Traditional Workflow"]
        A[Document Arrives] --> B[Human Reviews]
        B --> C[Decision Made]
        C --> D[Action Taken]
        D --> E[Results Logged]
    end

    subgraph Enhanced["AI-Enhanced Workflow"]
        A2[Document Arrives] --> AI1[AI: Extract Key Info]
        AI1 --> B2[Human Reviews - With AI Summary]
        B2 --> AI2[AI: Suggest Decision Based on History]
        AI2 --> C2[Human Makes Final Decision]
        C2 --> D2[Action Taken]
        D2 --> AI3[AI: Auto-categorise & Log]
        AI3 --> E2[Results Available for Future AI Training]
    end

注意什么'有什么不同吗?:

• 人类仍在循环中 所涉事项的相关决定
• AI 处理烦琐的部分 - 提取@, 总结 @,分类
• 每个AI步骤都是小和可核查的 如果人工智能被误取的话 人类在审查中捕捉到它
• 存在反馈回路 - 记录的结果培训未来对AI的改进

这比""AI 处理一切事情,有时是人类检查...."要强得多

使用当地LLMs进行成本和保密

这里'}这是个肮脏的秘密 :}你可能不需要 GPT=-4}或克劳德来完成大部分任务 你绝对需要把你的机密文件发送到 OpenAI' services@.}

成本问题

API成本加起来相当于快速的. 忙碌RAG系统每天可以拨打数千个LLM电话 在 @.QK3QQ,每张#1KSignals@,Q

保密问题

许多组织可以将文件发送到外部 APIs@:

• 载有客户信息的法律文件
• 医疗记录
• 财务数据
• 所有权研究
• 包括GGDPR,}HIPAMS K1等任何内容。

解决方案@:本地模型

现代开放@- @来源模式是血腥的好 @. @在本地运行=:

• 每个查询零边差费用 “-”您已经为硬件“,”付出了代价。
• 完整数据隐私 {\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}你的基础设施一无所有
• 无利率限额 - 量度,只要您的硬件允许
• 自定义选项 - fine@ MS K1 @ tune 没有数据离开您的控制

flowchart LR
    subgraph Cloud["Cloud API Approach"]
        A1[Your Documents] --> B1[Internet]
        B1 --> C1[OpenAI/Anthropic]
        C1 --> D1[£££/month]
        C1 --> E1[Privacy Concerns]
    end

    subgraph Local["Local LLM Approach"]
        A2[Your Documents] --> B2[Your Server]
        B2 --> C2[Local LLM]
        C2 --> D2[Fixed Hardware Cost]
        C2 --> E2[Data Never Leaves]
    end

当地实用实用示范备选方案

用于 嵌入 (RAG 矢量搜索位@):

• 句子“-” {\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}
• 缩略语@- @ ambed 质量优异 小足迹
• BGE 模型 - 与商业选择竞争

用于 代数 @( @ 实际的@"#AAI}"}回应 @MSC3

• Llama @3.1 @ @ 8#B_/70B - 卓越的一般用途 ,
• Mistral /混合体 高效的, 良好的推理
• Phi-3 其大小令人惊讶的超能力
• 文2.5 强有力的多语种支持

用于 编码任务:

• 代码Llama *- 专门接受守则培训
• 深SeepSeek 编码器 极好的代码理解
• 星级 Coder @-_对多种语言都有好处

运行这些本地端的@ ' @ t 奥拉马, 卡拉马, vLLM 电算工具,或 文本@ -_ generation @ MS K1 _ iberence 直截了当 @. @ I'@ve 建造了许多应用程序\ (}* 见文章“)”的底部,

混合方法

您不必去所有@- @or @- @ nothing_.}一个明智的建筑 使用#:

1. 高Q-pall,}低@-复合任务的地方模型

   • 文件分类
   • 实体开采
   • 简单@&A
   • 概述摘要

2. 需要时用于复杂推理的云道动宣传广告

   • 复数多@ - @ step 分析
   • 需要最大上下文窗口的任务
   • 当地模型信心低时后退

这种混合方法在真正需要云模型时,可以带来本地推论的成本效益。

构建递增值@ , @ 不是大爆炸变换

flowchart LR
    subgraph Waterfall["❌ The Waterfall AI Project"]
        W1[Month 1-3: Requirements] --> W2[Month 4-6: Build Platform]
        W2 --> W3[Month 7-9: Integration]
        W3 --> W4[Month 10: Demo - Looks Great!]
        W4 --> W5[Month 11: Real Users Break It]
        W5 --> W6[Month 12: Project Shelved]
    end

    subgraph Incremental["✅ The Incremental Approach"]
        I1[Week 1-2: One Small Problem] --> I2[Week 3-4: Refine + Measure]
        I2 --> I3[Week 5-6: Add Capability]
        I3 --> I4[Week 7-8: Refine + Measure]
        I4 --> I5[Repeat...]
        I5 --> I6[Continuous Value Delivery]
    end

    style W5 stroke:#ff0000,stroke-width:3px
    style W6 stroke:#ff0000,stroke-width:3px
    style I6 stroke:#00aa00,stroke-width:3px

递增方法的每一步都会提供可衡量的值.}每一步教给你一些东西 如果有什么失败的话.\你#,\ 你失去了几周",\不是几个月"MS K5"

使文件摄取成为第一个@ - @Class Concess

记住图表中的红色框 @?}这里#'}如何实际修补它_:

与数量相比投资质量#.* 与处理不当的文件相比,您最好先从您的最重要的文件开始 并获得正确的.

使用 AI 来帮助摄取摄入量@ . @ @ 现代语言模型 @(GPT-4V},ClaudeMS K4LLALAVA本地=)实际上可以读懂复杂的文档-表格_,图表_,手写便笺@-传统 OCR不能在硬文件中使用它们

构建反馈回路@ . @% 当检索失败时 @ ,log it@ MS K1当用户说 " 认为{'} n不是文档所说的@ I,"捕捉到它\ .使用此反馈来改进您的接收管道@.

接受某些文档已赢得@' @ t working @ .} 不是每个古代扫描的PDF 都值得和.战斗 有时答案是"MS K1" ' 会手动处理这种类型"

思考整个系统 @,}不只是AIBit

1. 有效的独立性解决办法需要

“|”组件“| 大部分项目都做什么? ”“| 实际有什么用?” |-----------|----------------------|---------------------| @| 数据摄取@| 仔细想一想 @MS K2 主要焦点 @| 数据质量:|+"AAI 会想出"+|+专用清洁管道 |检索@|基本矢量搜索 @|混合搜索 @+重新排序 @MS K4 | 结构化输出与验证@| @| 人性审查| 任择MS K2 融入工作流程| @|}回馈 * |* 无 | 持续改进圈 MS K3 @|_|}监控 "}It'}工作 "}| -=YTET -伊甸园字幕组=- 翻译:

AI模式或许是一个工作系统的“20%” 。 而另一个 “80%”则是一种无聊的东西, 它实际上使它在生产过程中起作用了。”

构建从第一天开始的可观测性

您可以改善您能够改进的 ' @ t度量@ MS K2}每个 AIT 系统应该跟踪\ MSC3}

• 检索获取质量您找到相关文件吗 ? 跟踪检索精确度和回溯
• 生产质量@:是否反应准确? ?音轨幻觉率@(Yes,这是硬的~).
• 用户满意度@: 是否真的有人觉得它有用? @MS K1 音轨使用@, 完成率#, 拇指上方 @/ down.
• 每个查询费用“: ”你实际花费了多少?“? 轨道象征性使用 ” @, lantency\ , $基础设施成本@.
• 故障模式@ :_ {什么时候打破} MS K1} 跟踪错误率 : 文档类型@ ,} 查询类型 @ MPK3} etc=.}

此数据告诉您要投资到何处@ . @ 也许您的检索效果很好, 但下一代正在产生幻觉 @ MS K1 @ 或许某些文档类型总是失败@ I.} 您可以修补您能修的# '} t seeQ.}

“"Big LLM解决方案的结束 ”“万事俱备”$"

这是目前最重要的转变 : @"_throw everything at GPT-4}希望最佳的#" 即将结束=.}*

“2023-2024”的处理方式很简单,“:”是您能够买得起的最大模型。 在您的上下文窗口中填满了所有的东西 ”,"和“祈祷”." 它的工作是“...”类的“I.”

但它却比更聪明的建筑做得更好。

转向管束式小型模型

未来是一个巨型模型 在做一切事情 多个专业模型共同合作{\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}

flowchart TD
    subgraph OldWay["The 2023 Approach"]
        A1[Everything] --> B1[GPT-4]
        B1 --> C1[Hope It Works]
        B1 --> D1[£££££]
    end

    subgraph NewWay["The 2025+ Approach"]
        A2[Input] --> B2[Router Model - Small/Fast]
        B2 --> C2[Specialist Model A - Extraction]
        B2 --> D2[Specialist Model B - Reasoning]
        B2 --> E2[Specialist Model C - Generation]
        C2 --> F2[Orchestrator]
        D2 --> F2
        E2 --> F2
        F2 --> G2[Output]
    end

这是我一直在探索的 DISE ( dirreced 合成进化\ ) 这个想法 结构比对亮度“.”是一个精心策划的管道 由较小的“,”组成的专注模型比一个试图做所有事情的大型模型要好。”

同样的思维也适用于 合成决策引擎 使用多个 LLM 后端来设置序列@,}每个模型都带来不同的强项\ ._ 三角的快速模式{, 校验的精确模型}, 新一代的创意模型}♪.} 每个人尽其所能做自己最擅长的事〞.}

为何对RAG如此重要

如果你已经查过我的 RAG系列 但这里是关键洞察力 : RAG本身是这种精心策划的方法的一种形式@ . @ 您的're 使用嵌入式@(one model @)}来找到相关内容\ MS K4}然后用 LLM {(} 来合成一个答案=.}

下一个进化过程将更进一步

• 嵌入模型 → 找到候选文件
• 排次模式 →按实际关联性分列的订单
• 分类模式 → 确定查询意向
• 小农模式 → 处理简单的事实查询
• 大型推理模型 @→_ 仅在需要时处理复杂分析@(}{)}

每个模型都小于, 更快MS K1 并且比使用 GPT-4 来做每件事情更便宜 □. 但是它们加起来超乎单板法

危险未来

”"agentic""这个术语是从心理学家“—my 原始领域”借来的, 在我掉入软件前 “.%在心理学中 ,}代理机构提到独立行动的能力 去做出选择和在世界执行它们

A. 甲型A剂 将这个概念应用到语言模型@. @% 您可以问一个问题 ,} 这个模式生成文本—_ 一种代理系统可以实际使用 做一些事情@ ._ 它可以使用工具@ MS K1} 执行代码@ I, 查询数据库 @ MPK3 调用 APIs, 写入文件 *, 并搭配多Q-\ step 工作流程@. ItQ' 要求某人提供方向和雇用人载你到那里#.}

这就是人类最新的模型( 包括 克劳德·奥普斯 通过 Claude Code=)}展示如此有效的@.

在这里,' 使精细的'-\调整人群不舒服}: 如果您描述工具的清晰度足够高的话 @ , @ 您不需要昂贵的精细@ MS K1 @ title coloration to use them # .# 现代基础模型在工具使用上非常出色,

这是与工具前方法“ (@fine @-}一个通过测量结果来学习何时使用工具的模型 ” “). ’ 如此高贵的' ” 需要专门化的培训数据“, \ ” 然后将您锁定在一套特定的工具中 “. ”“替代”“MS K7 ”\ 描述您的工具清楚=, ” 为模式提供了良好的环境\ , 并让它知道什么时候使用这些“ I.” 。

结果往往更好,因为#:

• 工具说明可以即时更新 - 不需要再培训
• 可在运行时添加新工具 @- 添加另一个方案
• 该模型得益于其一般推理 不只是记忆中的模式
• 您可以使用任何能用的模型 -=YTET -伊甸园字幕组=- 翻译:

flowchart TD
    subgraph RAG["Traditional RAG Chatbot"]
        R1[User Question] --> R2[Search Documents]
        R2 --> R3[Construct Prompt]
        R3 --> R4[LLM Generates Answer]
        R4 --> R5[Return to User]
    end

    subgraph Agentic["Agentic AI Pattern"]
        A1[User Task] --> A2[LLM Understands Task]
        A2 --> A3[Break Into Steps]
        A3 --> A4{Select Tool}
        A4 --> A5[Execute Tool]
        A5 --> A6{Evaluate Results}
        A6 -->|Need More| A4
        A6 -->|Done| A7[Return to User]
    end

    style A6 stroke:#00aa00,stroke-width:3px

此代理模式与 RAG chatbots @ .}和它='}之间有根本的不同, 而真实值是@.}

Lang Chain MSMK0LlamaIndex,和Semantic Kernel等框架使得今天成为可能 您可以在“:” 建立系统

• 小型快速模型处理路线和分类
• 专门模型处理域@-}特定任务
• 工具的使用使能力超越纯语言
• 反馈回路使不断改进成为可能

仍试图微调-的成败途径或另建一座RAG聊天室的公司将会继续感到失望@. @#

在哪里学习更多

I' 写了很多关于这些模式的书 MSSK1

“	”主题“	”文章《	》 你将学习什么 《'》
建筑结构架构	DISE 对旅行者 @	_#为什么结构化的管弦 胜过单一型号#	}
多关- @ madel	合成决定引擎 建造专用型号的管道
RAG 基础	RAG系列 从嵌入到生产系统
本地嵌入器	用 ONNX 搜索语义	CPU- 友好本地矢量搜索 @
当地LLM	DiSE 日志 使用本地模型连接起来的 selkf evolvign工作流程系统 @	}
APPI模拟	LLMApi 磁石 *	使用当地LLMs模拟API以测试 @
实用RAG	a 建造律师GPT -=YTET -伊甸园字幕组=- 翻译:

问题在于贵组织是否将建构一些明智的或另一个愚蠢的AI项目?

结论结论

目前的商业AI景观让我想起早期的网络时代, 人人都需要「"+Web战略」 「."+#Corprises companys building网站,

最后 , 成功的公司 是那些知道网络实际上对什么是有用的 为这个网站建造的

多数项目都是哑巴的 . 大部分项目会失败或失败,

但如果你想成为成功者之一, 请停止跟随模板“ .” 。 从真正的问题开始 : “. ” 在无聊的片段投入投资。 为了上帝之爱,

AI is'}您的数据是您的程序是>.}您不切实际的期待是<.

先解决那些先处理的 可能再处理一下... ...只是也许...