# 为什么大多数商业项目都是蠢货?

<!--category-- AI, Opinion, Software Development, LLM -->
<datetime class="hidden">2025-11-26T09:00</datetime>

> @"We' 正在建造一个 AIMS K2授权知识助理,
> 
> - 每份招聘广告 ,球场甲板 MS K1和顾问建议 在 @2024-2025

## 一. 导言导言 导言 导言 导言

I'过去一个月左右, 花在商业的AI空间上。 . 收看大量营销广告,

**几乎都是一样的**

."+ @"#Customer chatbot 与企业知识搜索@."QZ 撕掉无呼吸的营销副本,

顾客聊天平台的变体特别令人着迷@MSKK0}他们可以很快成为公关灾难, 当开发商不理解卫兵 让他们在公众面前松绑的时候...".\ 没有什么能跟你的支持机器人愉快地提供退款一样

这是管理层没人想听的肮脏秘密 **大部分商业AI项目都是新颖的.,**

在我走得更远之前, , MSMK1 I' 不是“" ASG4 ” 或者任何当时的 Hype-驱动的标题是 “(} 最前的@"块链 visionsMS K8 谁在方便地将#K9}). ISK11 一个软件工程师 谁正在建设这些类型的系统? (— Search,}知识管理=,}自然语言处理}, 决定支持{

[TOC]

## 两类商业AI项目

解开市场营销的胡言乱语, 你会发现商业商营的95% 大约属于两类项目之一。

### 1:RAG管道类型

这是迄今为止最常见的“. ” 每个“"”企业AI解决方案 “"”遵循这种模式“MSC3”

```mermaid
flowchart LR
    A[Documents] --> B[Document Ingestion Pipeline]
    B --> C[Vector Database / RAG]
    C --> D[Construct Prompts]
    D --> E[LLM API Call]
    E --> F[Hybrid Search]
    F --> G[Response to User]

    style B stroke:#ff0000,stroke-width:4px
```

那个红色的盒子... ?...

音效令人印象深刻 @: @ "We'}已建起一个能理解您的公司@'文件的 AAI, 可以明智地回答问题=!"

现实":你' 已建起一个带有额外步骤的搜索引擎和 一个“£10,000/月 OpenAI billMS K3”

### 2: 精美MS K1 推荐型態

这一个“'”甚至连Sillier@. 投影机 “: "We'已经专门为你的行业培训了我们的AI模型 =!"

@: @You@'}你已经用别人的模型 和微小的-调整了一个数据集, 这个数据集可能太小了#'}, 太脏了吗?

```mermaid
flowchart TD
    A[Existing LLM] --> B[Collect Training Data]
    B --> C[Clean Data - Maybe]
    C --> D[Fine-tune Model]
    D --> E[Deploy Model]
    E --> F[Discover it's not much better than base model]
    F --> G[Keep paying for inference anyway]
    G --> H[Hope nobody notices]
```

最精细的I-#调整项目 I'_@ve看到,如果用同样的钱来改进它们的提示和检索系统会更好

## 为何文件摄取是梦死的地方

Let''s talk about that red box in the RAG 图中的红箱\ . **最经常失灵的部分是文件摄入**“,”和“'”是闪光演示中关注最少的部分 ‘.’

这里的' 销售说明显示什么?

- 美丽的PDF进入系统
- 清洁标记完美提取
- 您所知道的所有知识@ , @ 可以通过 AY!_ 搜索

这里: '}实际发生的一切 @:

### PDF 问题

PDFs是一场恶梦 . 它们设计用于打印, 不是为了提取结构化数据\". 每个使用过的PDF解析器 I'曾经有不同的失败模式\MS K4

- 错误合并的列
- 成为胡言乱语的表格
- 污染内容的页眉和页脚
- 已扫描的文档需要 OCR {(} 和 OCr 有其自身错误率@)}
- 安全性- 保护文件,能够'}完全不能处理
- 将文本变成垃圾的字体编码问题

等待直到你打到:

- PowerPoint 文件, 文本为智能艺术
- 有音轨更改的单词文档
- 具有合并单元格的Excel文件
- 用笔迹扫描的图像
- 由在 @90%s 中死亡的系统遗留格式

### 震动灾难

一旦您% ' @ 提取文本后, 您需要为您的矢量数据库加块@ MS K3 @ 这是更多神奇思维发生的地方 @ . @

“" @We'}使用语义填充@!"#Great_,}您的 200-_page合同现在是“500{groups @,},而AI不知道哪些相关或按何种顺序出现@MS K7}

" @We'}使用固定的@-#大小块与重合 @!" @Afried_,}你刚刚把句子一分为二,

```mermaid
flowchart TD
    A[Original Document] --> B[Chunk 1: This contract shall be governed by]
    A --> C[Chunk 2: the laws of the State of California]
    B --> D[Embedding: Legal stuff?]
    C --> E[Embedding: Geography?]
    D --> F[User asks about jurisdiction]
    E --> F
    F --> G[AI: Based on my knowledge, possibly California, or maybe legal governance, who knows]
```

### 元元中流出

良好的RAG需要好的元数据@.}但是从文档中提取的元数据是硬性的\:

- @'}%s the document date_?}文档的日期是创建日期{,}修改日期,}还是内容中提及的日期{MS K4}?
- 撰稿人: 作者: ? 创建文件的人 @,}合法作者: , 或主题专家:
- 您的分类是否属于“? ” 类别 ? “ '” 可能与文档是如何实际组织起来的匹配@ . ”
- 此文档是否仍然有效@ ? @ 或已被您系统所知道的更新文件取代? @ MS K1} title knows about?}

大多数组织有数十年的文件 与不一致的命名协议...,文件夹结构, 这对留在\"MS K1"中的人来说是有道理的 和元数据... '要么丢失,要么错误

## 美人梦幻派

请让我澄清一下,: 细微的-调试有它的位置... ...但大多数公司处理的方式基本上被打破了...

### 数据问题

校正需要高质量的培训数据... .......

- 分散于各系统的不一致数据
- 反映事情是如何完成的数据 @,}不是应该怎么做
- 数据中充满了无人修补的错误
- 这些数据是专有的,但实际上不那么值钱

@,#来自初级员工的不正确信息@,}以及那些代表正常使用的边缘案例 #.#

你的意思是那些销售者承诺产品能保持 '的售价

### 评价问题

您如何知道您的精细“-”调制模型 是否真正更好呢? “?”大多数公司都能回答,因为$:#

- 他们没有良好的基准数据集
- 他们没有明确的评价指标
- 他们已经做了严格的A/B测试
- 他们正在比较 感觉=,}不是数据

I' 见过公司花6个月时间调整模型, 然后没有办法证明它比使用GPT-4#更好。

### 赡养问题

Finem-d 模式需要更新 您的业务变化.@.}您的产品改变 @.}您的程序改变了#.}你今年一月调整的模型

但更新意味着:

- 收集新的培训数据
- 正在再次接受培训
- 验证新模式
- 部署它
- 希望您能引入回归

大部分公司都会一次一劳永逸地与漂移的.一起生活,

## 什么是“"AI ASMK1”项目实际上很好

有合法使用的案例 :

```mermaid
flowchart TD
    subgraph RAGWorks["✅ RAG Works When"]
        R1[Well-structured docs]
        R2[Clear metadata]
        R3[Search + synthesis use case]
        R4[Heavy ingestion investment]
        R5[Feedback loops exist]
    end

    subgraph FTWorks["✅ Fine-Tuning Works When"]
        F1[Large high-quality dataset]
        F2[Base model truly struggles]
        F3[Ongoing maintenance budget]
        F4[Clear eval metrics]
        F5[Already tried prompting + RAG]
    end

    style R4 stroke:#00aa00,stroke-width:2px
    style F5 stroke:#00aa00,stroke-width:2px
```

绿箱是大多数项目的先决条件, **"We' 已优化的提示及RAGMS K2** 是用于调和@ -+.+% ***"+Heavy 摄入投资*** 是RAG. 跳过这些然后你在沙滩上建造的'

## 无名无实的问题解决

虽然每个人都在建立同样的RAG管道 ,}商业人工智能中真正有趣的问题被忽略了

### 数据质量

对AI有效性的最大限制是 '}(该模型的模型) 它2}数据=.}大多数组织都有

- 数据分布在几十个系统上,
- 没有任何真相来源
- 数据治理比现实更渴望
- 任何人都没有预算可解决的质量问题

**但是“"”数据质量倡议 “" ”没有给您一个福布斯的文章,比如“MS K3”和“AI transformation”**

### 进程一体化

将人工聊天机丢入一个已有的进程, 会奇迹般地让这个过程变得更好。 这个程序需要重新设计, 环绕 AY'QS 的能力和限制?

### 人类和人类之间的协作

最佳的AI实施会增强人的能力,而不是试图取代他们 @.}但是这比X自动=!"#更难销售

人类必须携手合作,

- 清除交接点
- 透明AI的推理
- 易易操作机制
- 改进反馈循环

多数商业人工智能项目将人类视为事后思考”.

### 真正的创新

在您的文档中真正有价值的 AI 应用程序是 @'t @MS K1}{chatbot{."它们3re applications that_:}

- 启用以前不可能的东西
- 创建值的新类别
- 以全新的方式解决问题

但这些是硬的“.”RAG输油管 很简单 “(” (Well),(Seasier”) 所以这'就是大家建造的东西

## 咨询工业综合体

愚蠢的AI项目的一个重要驱动力是咨询生态系统 :

```mermaid
flowchart TD
    A[Big Consultancy Tells C-Suite: You Need AI!] --> B[C-Suite Panics]
    B --> C[Consultancy Deploys Army of Juniors]
    C --> D[Recommendations: RAG + Fine-Tuning]
    D --> E[Build Same Thing as Last 20 Clients]
    E --> F[Demo Goes Well]
    F --> G[Reality: Real Data Breaks Everything]
    G --> H[Consultancy Moves On]
    H --> I[Internal Team Struggles]
    I --> J[Project Quietly Fails]
    J --> K[Nobody Admits It]
    K --> A

    style G stroke:#ff0000,stroke-width:3px
    style J stroke:#ff0000,stroke-width:3px
```

<img src="https://media1.tenor.com/m/r53R8b0im3kAAAAd/hasbulla.gif" height="250"/>
I'见过这种模式 数十次 . 咨询得到报酬 MS K2 执行官会说 他们""did AI." 工程师们被卡住 维持着一些几乎不起作用的东西 '. 实际业务问题仍未解决'.′

## VC=-#Driven AI 要求

启动进入一个略微不同的陷阱@. @ it'}不是顾问驱动功能障碍的咨询活动 *%—#it_'}供资环境=.{

```mermaid
timeline
    title Technology Requirements for VC Funding
    2005 : Web 2.0 - "You need social features"
    2010 : Mobile - "You need an app"
    2015 : Cloud - "You need to be cloud-native"
    2018 : Blockchain - "You need a token"
    2023 : AI - "You need an AI strategy"
```

每隔几年 , 在那里 MS K2 * 一种由VC决定的新技术是必需的 如果您的投手甲板不支持' * t 特别提及它\ , 您@'}没有得到资助=. 这个技术可能与您的实际产品没有关系

我亲眼目睹了在“2017-2018. ” 的连锁店里发生的这种事件,那些没有生意的公司在“连锁商店”上被打入产品中。 因为“' ” 在资金到位后,这些连锁公司的大部分功能都悄悄消失了。 “. ”

**现在,它发生的事情 与AIO.**

创业者正在将LLM功能锁定到需要的产品上, 因为#: @%

- 投资人贏得'@t看甲板,
- 对 " 和 " I" " 公司的估价值较高。
- 媒体只报导大赦国际的报道
- "Ai-power"是促销的赌注

结果#? 具有尴尬的人工智能功能的产品 用户忽略了{.}在微小}-调整实验上的跑道 在RAG系统中浪费的工程时间 当简单的数据库查询效果更好时

**最糟糕的是:** 许多创始人知道这是愚蠢的. "他们' 正在建立他们的AI特写, 他们不相信"MS K2"... ...因为他们需要生存足够长的时间来构建他们真正关心的东西...

如果您是被推动添加 AI,的启动创建者, 请自问 @ : @

- AI是否真正改进了我的产品?
- 或者我只是在为投资者检查一个盒子吗?

如果它“'” 建立最小可行的 AI 功能, 在框中勾选“MS K2” 。 那么聚焦于真正重要的是什么? “.” Don'“ 不要让融资环境分散你对建造有价值的东西的注意力

## Hype工业综合体

这是大赦国际里没有人想讨论的 令人不舒服的真相 **几乎每个生态系统中的人都有经济激励 让这群人继续生活下去**

```mermaid
flowchart TD
    subgraph Researchers["🔬 Frontier Labs"]
        R1[Need billions for compute]
        R2[Must show progress to justify spend]
        R3[Hype generates investment]
    end

    subgraph Companies["🏢 Tech Companies"]
        C1[Need AI angle for valuation]
        C2[Must justify AI team costs]
        C3[Hype drives stock price]
    end

    subgraph Investors["💰 Financial Backers"]
        I1[Massive capital deployed]
        I2[Need exits and returns]
        I3[Hype maintains valuations]
    end

    subgraph Media["📰 Tech Media"]
        M1[AI stories get clicks]
        M2[Access depends on positive coverage]
        M3[Hype drives engagement]
    end

    R3 --> I1
    C3 --> I1
    I3 --> R1
    I3 --> C1
    M3 --> R3
    M3 --> C3
```

**研究人员** 在边境实验室需要数十亿的计算 来训练下一代模型. 这笔钱来自投资者和大科技. 为了证明他们需要花费\,"

**公司** 人工智能实验室和所有使用AIAS的用户都需要描述来继续 @.OpenAI'}评估取决于是否相信 AGI就在转角附近 –个#. "AI}-PowelMS K7}启动点~'}多功能都依赖于AI仍然保持热区=. 即时情绪转变_,亿纸财富蒸发 *.*

**投资者** 他们需要音乐来持续播放足够长的时间 才能实现返回 . * 对接近 MS K3的人工智能能力进行现实的评估

**媒体** 发现AI故事产生大规模参与... ....,Nuanced的覆盖面... ...这表示关键范围是职业性-限制\"MS."

结果是“?一个自我的‘-’加强突变循环,在这个周期里每个人都有理由保持高涨的期望 ’,,很少有人能从说出真相得到好处\.

这不代表AI是真正有用的 @'@— @it绝对是I,}因为I' .#但承诺的与交付的之间的差距很大,

当有人告诉你AI会改变你的生意时 ,问自己 他们从你那里得到了什么

## 你实际上应该做什么? ?吗?

如果你考虑一个AI项目 , 在这里

### “1.”从问题开始,“,”不是技术

问我们想解决什么问题? 如果AI是正确的解决方案吗?

### 2. 先修正您的数据

在您建立 RAG 管道前 @ , @ 修补您的文档 messie@ MS K1 @ 之前, 您先清理您的培训数据@ MOSK4} AI won'# t修补您的数据问题@ I; @ 它会放大它们\ . @

### 启动小型和迭代

Don't 启动一个大型的“"AAI transaction” “." 构建概念的小证明'. 用真正的用户来测试它‘ . 学习实际有效的东西’ @. 然后扩展“ MS K6}

### 4. 投注在波音位

文档接收管道是't性感□. 数据清理是't振奋MS K3 评估框架是MPK4}这是您可以向董事会演示的东西*.,但这些都是成功与否的决定因素_.

### @5.# 诚实对待限制

现时的幻觉LMs .}RAG系统错过了相关文件

### 6.维护计划

建立这个系统或许是“30%”的努力,

### 7. 考虑是否需要所有自定义解决方案

也许你需要的只是更好的使用 关闭"- - sjelf工具"MS K2 chatGPT 一些定制指令也许够了. 不是每件事都需要一个口号 "AI平台"=.

## 但他们不一定要笨

将商业AIT计划拖后腿 现在为充满希望的Bit_: **这些项目实际上可以发挥作用... ...,... ...如果你能明智地接近它们的话...**

问题在于“'@tRAG”或“细微的-}调整为概念 ” . 问题是懒惰地执行 “,}不切实际的期望 ”\,,忽略基本原理 . 这里‘'’ 如何做得更好?

### Hook AI 加入现有工作流,唐MSSK1t 替换这些

我所看到的最大的错误是将AI视为现有流程的替代, 而不是增强“. ” 您的企业已经拥有了有效的工作流程 “( mostly @). ”,而不是用“MS K3 AI -}{power}{" 版本<, hock AI>来取代这些流程。

```mermaid
flowchart TD
    subgraph Traditional["Traditional Workflow"]
        A[Document Arrives] --> B[Human Reviews]
        B --> C[Decision Made]
        C --> D[Action Taken]
        D --> E[Results Logged]
    end

    subgraph Enhanced["AI-Enhanced Workflow"]
        A2[Document Arrives] --> AI1[AI: Extract Key Info]
        AI1 --> B2[Human Reviews - With AI Summary]
        B2 --> AI2[AI: Suggest Decision Based on History]
        AI2 --> C2[Human Makes Final Decision]
        C2 --> D2[Action Taken]
        D2 --> AI3[AI: Auto-categorise & Log]
        AI3 --> E2[Results Available for Future AI Training]
    end
```

注意什么'有什么不同吗?:

- **人类仍在循环中** 所涉事项的相关决定
- **AI 处理烦琐的部分** - 提取@, 总结 @,分类
- **每个AI步骤都是小和可核查的** 如果人工智能被误取的话 人类在审查中捕捉到它
- **存在反馈回路** - 记录的结果培训未来对AI的改进

这比""AI 处理一切事情,有时是人类检查...."要强得多

### 使用当地LLMs进行成本和保密

这里'}这是个肮脏的秘密 :}你可能不需要 GPT=-4}或克劳德来完成大部分任务 你绝对需要把你的机密文件发送到 OpenAI' services@.}

**成本问题**

API成本加起来相当于快速的. 忙碌RAG系统每天可以拨打数千个LLM电话 在 @.QK3QQ,每张#1KSignals@,Q

**保密问题**

许多组织可以将文件发送到外部 APIs@:

- 载有客户信息的法律文件
- 医疗记录
- 财务数据
- 所有权研究
- 包括GGDPR,}HIPAMS K1等任何内容。

**解决方案@:本地模型**

现代开放@- @来源模式是血腥的好 @. @在本地运行=:

- **每个查询零边差费用** “-”您已经为硬件“,”付出了代价。
- **完整数据隐私** {\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}你的基础设施一无所有
- **无利率限额** - 量度,只要您的硬件允许
- **自定义选项** - fine@ MS K1 @ tune 没有数据离开您的控制

```mermaid
flowchart LR
    subgraph Cloud["Cloud API Approach"]
        A1[Your Documents] --> B1[Internet]
        B1 --> C1[OpenAI/Anthropic]
        C1 --> D1[£££/month]
        C1 --> E1[Privacy Concerns]
    end

    subgraph Local["Local LLM Approach"]
        A2[Your Documents] --> B2[Your Server]
        B2 --> C2[Local LLM]
        C2 --> D2[Fixed Hardware Cost]
        C2 --> E2[Data Never Leaves]
    end
```

#### 当地实用实用示范备选方案

用于 **嵌入** (RAG 矢量搜索位@):

- **句子“-”** {\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}
- **缩略语@- @ ambed** 质量优异 小足迹
- **BGE 模型** - 与商业选择竞争

用于 **代数** @( @ 实际的@"#AAI}"}回应 @MSC3

- **Llama @3.1 @ @ 8#B_/70B** *-* 卓越的一般用途 *,*
- **Mistral /混合体** 高效的, 良好的推理
- **Phi-3** 其大小令人惊讶的超能力
- **文2.5** 强有力的多语种支持

用于 **编码任务**:

- **代码Llama** *- 专门接受守则培训
- **深SeepSeek 编码器** 极好的代码理解
- **星级 Coder** @-_对多种语言都有好处

运行这些本地端的@ ' @ t **奥拉马**, **卡拉马**, **vLLM 电算工具**,或 **文本@ -_ generation @ MS K1 _ iberence** 直截了当 @. @ I'@ve 建造了许多应用程序\ (}* 见文章“)”的底部,

#### 混合方法

您不必去所有@- @or @- @ nothing_.}一个明智的建筑 使用#:

1. **高Q-pall,}低@-复合任务的地方模型**
   
   - 文件分类
   - 实体开采
   - 简单@&A
   - 概述摘要

2. **需要时用于复杂推理的云道动宣传广告**
   
   - 复数多@ - @ step 分析
   - 需要最大上下文窗口的任务
   - 当地模型信心低时后退

这种混合方法在真正需要云模型时,可以带来本地推论的成本效益。

### 构建递增值@ , @ 不是大爆炸变换

```mermaid
flowchart LR
    subgraph Waterfall["❌ The Waterfall AI Project"]
        W1[Month 1-3: Requirements] --> W2[Month 4-6: Build Platform]
        W2 --> W3[Month 7-9: Integration]
        W3 --> W4[Month 10: Demo - Looks Great!]
        W4 --> W5[Month 11: Real Users Break It]
        W5 --> W6[Month 12: Project Shelved]
    end

    subgraph Incremental["✅ The Incremental Approach"]
        I1[Week 1-2: One Small Problem] --> I2[Week 3-4: Refine + Measure]
        I2 --> I3[Week 5-6: Add Capability]
        I3 --> I4[Week 7-8: Refine + Measure]
        I4 --> I5[Repeat...]
        I5 --> I6[Continuous Value Delivery]
    end

    style W5 stroke:#ff0000,stroke-width:3px
    style W6 stroke:#ff0000,stroke-width:3px
    style I6 stroke:#00aa00,stroke-width:3px
```

递增方法的每一步都会提供可衡量的值\.}每一步教给你一些东西 如果有什么失败的话\.\你#,\ 你失去了几周",\不是几个月"MS K5"

### 使文件摄取成为第一个@ - @Class Concess

记住图表中的红色框 @?}这里#'}如何实际修补它_:

**与数量相比投资质量*#.** 与处理不当的文件相比,您最好先从您的最重要的文件开始 并获得正确的.

**使用 AI 来帮助摄取摄入量@ . @ @** 现代语言模型 @(GPT-4V},ClaudeMS K4LLALAVA本地=)实际上可以读懂复杂的文档\-表格_,图表_,手写便笺@-传统 OCR不能在硬文件中使用它们{.#.}

**构建反馈回路@ . @%** 当检索失败时 @ ,log it@ MS K1当用户说 " 认为{'} n不是文档所说的@ I,"捕捉到它\ .使用此反馈来改进您的接收管道@.

**接受某些文档已赢得@' @ t working @ .}** 不是每个古代扫描的PDF 都值得和.战斗 有时答案是"MS K1" ' 会手动处理这种类型"

### 思考整个系统 @,}不只是AIBit

A. 有效的独立性解决办法需要

“|”组件“| 大部分项目都做什么? ”“| 实际有什么用?”
|-----------|----------------------|---------------------|
@| 数据摄取@| 仔细想一想 @MS K2 主要焦点 @|
数据质量:|+"AAI 会想出"+|+专用清洁管道
|检索@|基本矢量搜索 @|混合搜索 @+重新排序 @MS K4
| 结构化输出与验证@|
@| 人性审查| 任择MS K2 融入工作流程|
@|}回馈 * |* 无 *|* 持续改进圈 *MS K3* 
@|_|}监控 "}It'}工作 "}|
-=YTET -伊甸园字幕组=- 翻译:

AI模式或许是一个工作系统的“20%” 。 而另一个 “80%”则是一种无聊的东西, 它实际上使它在生产过程中起作用了。”

### 构建从第一天开始的可观测性

您可以改善您能够改进的 ' @ t度量@ MS K2}每个 AIT 系统应该跟踪\ MSC3}

- **检索获取质量**您找到相关文件吗 ? 跟踪检索精确度和回溯
- **生产质量**@:是否反应准确? ?音轨幻觉率@(Yes,这是硬的~).
- **用户满意度**@: 是否真的有人觉得它有用? @MS K1 音轨使用@, 完成率#, 拇指上方 @/ down.
- **每个查询费用**“: ”你实际花费了多少?“? 轨道象征性使用 ” @, lantency\ , $基础设施成本@.
- **故障模式**@ :_ {什么时候打破} MS K1} 跟踪错误率 : 文档类型@ ,} 查询类型 @ MPK3} etc=.}

此数据告诉您要投资到何处@ . @ 也许您的检索效果很好, 但下一代正在产生幻觉 @ MS K1 @ 或许某些文档类型总是失败@ I.} 您可以修补您能修的# '} t seeQ.}

### “"Big LLM解决方案的结束 ”“万事俱备”$"

这是目前最重要的转变 : **@"_throw everything at GPT-4}希望最佳的#"* 即将结束=.}**

“2023-2024”的处理方式很简单,“:”是您能够买得起的最大模型。 在您的上下文窗口中填满了所有的东西 ”,"和“祈祷”." 它的工作是“...”类的“I.”

但它却比更聪明的建筑做得更好。

#### 转向管束式小型模型

未来是一个巨型模型 在做一切事情 **多个专业模型共同合作**{\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}

```mermaid
flowchart TD
    subgraph OldWay["The 2023 Approach"]
        A1[Everything] --> B1[GPT-4]
        B1 --> C1[Hope It Works]
        B1 --> D1[£££££]
    end

    subgraph NewWay["The 2025+ Approach"]
        A2[Input] --> B2[Router Model - Small/Fast]
        B2 --> C2[Specialist Model A - Extraction]
        B2 --> D2[Specialist Model B - Reasoning]
        B2 --> E2[Specialist Model C - Generation]
        C2 --> F2[Orchestrator]
        D2 --> F2
        E2 --> F2
        F2 --> G2[Output]
    end
```

这是我一直在探索的 [DISE ( dirreced 合成进化\ )](/blog/disejustvoyager) 这个想法 **结构比对亮度**“.”是一个精心策划的管道 由较小的“,”组成的专注模型比一个试图做所有事情的大型模型要好。”

同样的思维也适用于 [合成决策引擎](/blog/semantidintelligence) 使用多个 LLM 后端来设置序列@,}每个模型都带来不同的强项\ ._ 三角的快速模式{, 校验的精确模型}, 新一代的创意模型}♪.} 每个人尽其所能做自己最擅长的事〞.}

#### 为何对RAG如此重要

如果你已经查过我的 [RAG系列](/blog/rag-primer) 但这里是关键洞察力 : **RAG本身是这种精心策划的方法的一种形式**@ . @ 您的're 使用嵌入式@(one model @)}来找到相关内容\ MS K4}然后用 LLM {(} 来合成一个答案=.}

下一个进化过程将更进一步

- **嵌入模型** → 找到候选文件
- **排次模式** →按实际关联性分列的订单
- **分类模式** → 确定查询意向
- **小农模式** → 处理简单的事实查询
- **大型推理模型** @→_ 仅在需要时处理复杂分析@(}{)}

每个模型都小于, 更快MS K1 并且比使用 GPT-4 来做每件事情更便宜 □. 但是它们加起来超乎单板法

#### 危险未来

”"agentic""这个术语是从心理学家“—my 原始领域”借来的, 在我掉入软件前 “.%在心理学中 ,}代理机构提到独立行动的能力 去做出选择和在世界执行它们

**A. 甲型A剂** 将这个概念应用到语言模型@. @% 您可以问一个问题 ,} 这个模式生成文本—_ 一种代理系统可以实际使用 *做一些事情*@ ._ 它可以使用工具@ MS K1} 执行代码@ I, 查询数据库 @ MPK3 调用 APIs, 写入文件 *, 并搭配多Q-\ step 工作流程@. ItQ' 要求某人提供方向和雇用人载你到那里#.}

这就是人类最新的模型( 包括 [克劳德·奥普斯](https://www.anthropic.com/news/claude-opus-4-5) 通过 Claude Code=)}展示如此有效的@.

在这里,' 使精细的'-\调整人群不舒服}: **如果您描述工具的清晰度足够高的话 @ , @ 您不需要昂贵的精细@ MS K1 @ title coloration to use them # .#** 现代基础模型在工具使用上非常出色,

这是与工具前方法“ (@fine @-}一个通过测量结果来学习何时使用工具的模型 ” “). ’ 如此高贵的' ” 需要专门化的培训数据“, \ ” 然后将您锁定在一套特定的工具中 “. ”“替代”“MS K7 ”\ 描述您的工具清楚=, ” 为模式提供了良好的环境\ , 并让它知道什么时候使用这些“ I.” 。

结果往往更好,因为#:

- **工具说明可以即时更新** *-* 不需要再培训
- **可在运行时添加新工具** @- 添加另一个方案
- **该模型得益于其一般推理** 不只是记忆中的模式
- **您可以使用任何能用的模型** -=YTET -伊甸园字幕组=- 翻译:

```mermaid
flowchart TD
    subgraph RAG["Traditional RAG Chatbot"]
        R1[User Question] --> R2[Search Documents]
        R2 --> R3[Construct Prompt]
        R3 --> R4[LLM Generates Answer]
        R4 --> R5[Return to User]
    end

    subgraph Agentic["Agentic AI Pattern"]
        A1[User Task] --> A2[LLM Understands Task]
        A2 --> A3[Break Into Steps]
        A3 --> A4{Select Tool}
        A4 --> A5[Execute Tool]
        A5 --> A6{Evaluate Results}
        A6 -->|Need More| A4
        A6 -->|Done| A7[Return to User]
    end

    style A6 stroke:#00aa00,stroke-width:3px
```

此代理模式与 RAG chatbots @ .}和它='}之间有根本的不同, 而真实值是@.}

**Lang Chain MSMK0LlamaIndex,和Semantic Kernel等框架使得今天成为可能** 您可以在“:” 建立系统

- 小型快速模型处理路线和分类
- 专门模型处理域@-}特定任务
- 工具的使用使能力超越纯语言
- 反馈回路使不断改进成为可能

仍试图微调-的成败途径或另建一座RAG聊天室的公司将会继续感到失望@. @#

#### 在哪里学习更多

I' 写了很多关于这些模式的书 MSSK1

“|”主题“|”文章《|》 你将学习什么 《'》
|-------|--------------------------------------------------------------------------|-----------------------------------------------------------------|
| **建筑结构架构** | [DISE 对旅行者](/blog/disejustvoyager) @|_#为什么结构化的管弦 胜过单一型号#|}
| **多关- @ madel** | [合成决定引擎](/blog/semantidintelligence) 建造专用型号的管道
| **RAG 基础** | [RAG系列](/blog/rag-primer) 从嵌入到生产系统
| **本地嵌入器** | [用 ONNX 搜索语义](/blog/semantic-search-with-onnx-and-qdrant) | CPU- 友好本地矢量搜索 @|
| **当地LLM** | [DiSE 日志](/blog/semanticintelligence-part10) 使用本地模型连接起来的 selkf evolvign工作流程系统 @|}
| **APPI模拟** | [LLMApi 磁石](/blog/llmapi) *| 使用当地LLMs模拟API以测试 @|
| **实用RAG** | [a 建造律师GPT](/blog/building-a-lawyer-gpt-for-your-blog-part1) -=YTET -伊甸园字幕组=- 翻译:

问题在于贵组织是否将建构一些明智的或另一个愚蠢的AI项目?

## 结论结论

目前的商业AI景观让我想起早期的网络时代, 人人都需要「"+Web战略」 「."+#Corprises companys building网站,

最后 , 成功的公司 是那些知道网络实际上对什么是有用的 为这个网站建造的

多数项目都是哑巴的 . 大部分项目会失败或失败,

但如果你想成为成功者之一, 请停止跟随模板“ .” 。 从真正的问题开始 : “. ” 在无聊的片段投入投资。 为了上帝之爱,

AI is'}您的数据是{.}您的程序是>.}您不切实际的期待是<.

先解决那些先处理的 可能再处理一下... ...只是也许...