Back to ""#Isn @'#t DiSE Just Voyager@?"}-#为什么结构比聪明多了"

This is a viewer only at the moment see the article on how this works.

To update the preview hit Ctrl-Alt-R (or ⌘-Alt-R on Mac) or Enter to refresh. The Save icon lets you save the markdown file to disk

# "#Isn @'#t DiSE Just Voyager@?"}-#为什么结构比聪明多了

<datetime class="hidden">2025-11-24T18:00</datetime>

我的系统“,” DISE, 是一个自定义的-OpptiminizingMS K3 自我的-Assembling},软体工作流程建设器 . 它生成了可测试代码人工工艺品, 客观地评估它们并随着时间演化,而没有不断的人性监督\. 但是在这里,'

Spaocler :No. 并理解你为何要建造任何生产过程中需要运行的东西吗?

## 一. 导言导言 导言 导言 导言

这听起来像旅行者 但还有更多的步骤 ."

如果你一直跟踪LLM- 驱动代理研究 [旅行者](https://arxiv.org/abs/2305.16291) “(Wang et al-., 2023) I-GPT-4}通过生成可重复使用的代码“"skillenchMS K6 @-和” [工具前](https://arxiv.org/abs/2302.04761) “(_Schick et als @.,}2023){Z-}通过测量实际结果,教LMs使用工具’. 两者都是令人印象深刻的\,有影响力}, 并被广泛引用>.

初看起来,DISE Dise K1"Dirrected合成进化)也许看上去像Voyager {+}工具前导,新涂了油漆.\}但是这“'”喜欢说生产数据库只是一个带有更多阶梯的电子表格@.\}如果你关心比例=,°C$成本_,}和实际上运输某种东西\.}

> **新建到 DISE@? @%** 检出 [我的电梯投球](/blog/elevatorpitch) 然后探索与 Diseo " 串联的“:” [有关毕业生学徒资格的2部分](/blog/blog-article-cooking-dise-part2-apprenticeships) 和 [有关不可信LMS的3部分](/blog/blog-article-cooking-dise-part3-untrustworthy-gods)@._#此文章特别聚焦于 DISE@'_%s 架构与旅行者和工具发源人#.}有何不同

为何DISE='_BARBAR_建筑学方法解决了无法单独解决问题的问题?

[TOC]

## 旅行者和工具前者做了什么好事

改变我们对LLM代理商和工具的看法,

### Voyager: 代理器能够生成工具

旅行者介绍了一个至关重要的洞察力

**LLMs可以产生自己的可再使用工具@.**

使用 GPT-4在苍蝇上写字功能 每一次成功的行动都变成了一种可重复使用的技巧 存储在一个矢量数据库\ . 提示是明确的 @:}

> " 您的函数将被重新用于构建更复杂的功能@. 因此 @,你应该把它做为通用和可重复使用\."

这很重要 这是第一次 , 作为工具生成处理的代理系统 **实际软件工程** Voyager表示代理商可以 :

- 逐步建立不断增长的技能库
- 将简单技能纳入复杂行为
- 通过嵌入@ - @% broad repack 来避免灾难性的遗忘

在Minecraft .中,它与GPT -4.一起工作。

### 工具前端{:}代理器能够学习何时使用工具

[工具前](https://arxiv.org/abs/2302.04761) “(Schick et als .,Q2023)采取了不同的做法”“.没有产生工具”,而是教LMS **何时调用现有工具**.

智能工具前端生成了自己的训练数据@. @ it would\ :#

1. 在文本中插入潜在工具调用@ (" @ 可能我应该在此使用计算器 @ MS K1} @
2. 实际执行这些工具
3. 保留工具帮助丢弃的工具的示例@ , @ discription
4. 关于成功范例的Fineó-tune

由此创建的模型从 **客观成果** 返回正确答案的计算器 API 比不使用 'QQT -没有LLM判决需要\.}

### DISE如何将“(”和“Goes mession )”结合起来?

DiSE从这两篇论文中都得到深刻的见解,

**来自Voyager:**

- ✅ 生成可重复使用的代码文物
- ✅ 存储它们以备未来检索
- “❌”但添加“: 目标测试管子”和“MS K2 不只是在Minecraft ?"中工作”
- 而不是GPT=-4,
- @ ❌_ 但添加# MS K1} 变异和进化不只是存储而已

**从工具前端@ : @%**

- *✅学习客观成果
- ✅ 自动生成培训数据
- @❌_But add\ :}但是加上"运行时间进化" *,}不只是训练-
- @❌_But add:}创造工具本身 *,}不只是学会称呼它们
- @❌_But add+:}全寿命周期#-}工具可以改进@,}不只是使用而已

**DISE' 基因科:**

将DISE视为ReActé,reflexion,Troupun@,和Voyager}.每个祖先都贡献了重要的东西\:

```mermaid
graph TB
 ReAct[ReAct 2022: Reason + Act Step-by-step thinking] --> DiSE
 Reflexion[Reflexion 2023: Self-critique loops Try → Reflect → Retry] --> DiSE
 Toolformer[Toolformer 2023: Learn from outcomes Self-generated training data] --> DiSE
 Voyager[Voyager 2023: Generate reusable tools Code as memory] --> DiSE

DiSE[DiSE 2024: Directed Synthetic Evolution]

DiSE --> G[Generate tools with tests]
    DiSE --> E[Evaluate objectively]
    DiSE --> M[Mutate and improve]
    DiSE --> S[Store with usage stats]
    DiSE --> R[Retrieve and reuse]
    DiSE --> C[Tiered execution]

style ReAct stroke:#8b5cf6,stroke-width:2px
    style Reflexion stroke:#ec4899,stroke-width:2px
    style Toolformer stroke:#f59e0b,stroke-width:2px
    style Voyager stroke:#ef4444,stroke-width:2px
    style DiSE stroke:#10b981,stroke-width:3px
```

**遗产  :**

- **重拍** “→” 结构化推理与动作“-” 观察环
- **反缩** 通过反省改善 (,但LM法官本身
- **工具前** @→学习从实际结果\ ,不只是提示
- **旅行者** → 生成并存储可重复使用的代码文物

**DISE补充了什么? :**

- 目标试验装置 @(notLLM 自我 - 判决@)
- 运行时间演变 * @(}不只是训练时间 *)*
- 捆绑式示范执行@(cheap @→只有在需要时才昂贵#)
- 完整的工具生命周期 @(Birth #→突变#→继承_→死亡{\)
- 成本优化反馈循环
- 国家工具登记册@( @ a bit of Fielding_'s REST 架构 <% -}作为可用地址资源的工具,使用 state{) }

工具前证明您可以训练模型使用工具, 通过测量真实结果 '. voyager 已经验证的代理商来建立自己的工具库 . reflexion 已证实的反射循环工作\ . ReAct已证明的结构化推理帮助\ .}

DISE 詢問: **如果我们把所有这些洞察力结合起来, 却让它变得便宜到可以进行生产 并且聪明到随时间的推移而自我改善**

是的,,}(有)'}(也有)Roy Fielding' REST架构的一小片 Roy FeilingMSK2}(那里还有) @-}工具是用 URIs{,}元数据@, 和版本 <. > 每个工具都是可发送地址>,}%SSK8}可以缓存}(可以與其它人組合) .}工具注册器是'}(但只是一個矢量数据库_;)} itMS K12 是一个精品商店 其中资源<(_tools _)}已状态“usage statts}, 性能度標準度MSZK17}版本歷史_MS K18} MSQ18},它會影響它們如何回溯和進演化'}

{\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}不训练... **定向进进**.

### 旅行者建筑

```mermaid
graph TB
    subgraph Voyager["Voyager (2023)"]
        A[GPT-4] --> B[Generate Code]
        B --> C[Execute in Minecraft]
        C --> D{Success?}
        D -->|Yes| E[Store with embedding]
        D -->|No| F[GPT-4 suggests fix]
        F --> B
        E --> G[Vector DB]
        G --> H[Future retrieval]
        H --> A
    end

style A stroke:#ef4444,stroke-width:3px
    style F stroke:#ef4444,stroke-width:3px

note1[All reasoning flows through GPT-4]
    note1 -.-> A
```

当您每一步需要亮度时, 都需要GPT@,_K8}(或等效的 @(QQQ}) “无处不在” .

## 是什么保持了旅行者后退

使用 GPT-4来生成代码@. 它依靠GPT}-4來源

- **规划 规划** “-” 突破高端“-” 级别目标到子“MS K2” 塔克斯
- **评价评价评价评价的评价评价评价评估评价评价进行评价评价评价评价工作评价评价和评价评价评价评价和评价评价** “-”决定一项技能是否正确工作
- **分解** - 找出哪些现有技能可以结合起来
- **命名名称** 建立用于存储的描述性标识符
- **选择** - 从嵌入中选择正确的技能
- **质量判断** “-”决定什么“'” 是什么?

当模型做每件事时 , 它需要是边疆\- 每次.

这也是为什么旅行者在Minecraft@.和它为什么生产过程中要花费一大笔钱吗?

### 成本问题

让'做一些餐巾纸数学@. 说您想要运行一个 Voyager-}风格的系统, 用于真的 @-world task4{:}

- GPT-4 TurboMS K1 @ ~$0.01 每 @ I1K 输入符號@ , @ @ MPK5每 @ 1K输出符号
- 典型的技能生成@: @ @ ~2_ K 输入 @ I+} @ O1QK 输出 @ MOSK4 @ @ *$0.05#
- “100”技能与“3”重新尝试, **$15**
- {\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}那只是最初的图书馆

现在添加检索查询@,构成尝试 @ ,调试周期@ MS K2YouQ'很容易地寻找到数百美元, 一个单一的代理来建立一个中等技能库@ MPK4

用于比较“,在这里”“' 分层处理方法可能花费多少成本”‘:

-=YTET -伊甸园字幕组=- 翻译:
|------|-----------------|---------------|---------|
| MS K5 I(Llama3.1 NSK8B)
| 初生一代 @| @MS K2} @| $0.002#
-=YTET -伊甸园字幕组=- 翻译:
| (GPTQ MS K7O)|MS K10MSC11
| **每项任务平均平均数** | **$0.20** | **$0.016** | **92%** |

当你只用昂贵的模型来形容真正困难的问题时 经济发生了巨大的变化

## 为何DISE在 @2023 @ (#但现在#) @%

Voyager, 工具前端MS K1 和反灵活并非失败 *. 它们只是撞上了它们时空的技术和经济上限*.

三个制约因素阻碍了“2023:”的进展。

@|限量 @MS K1 |后序 #|}改变什么了#(2024–2025)~ @|
|-------------------|-------------|--------------------------|
|GPT-4是唯一可靠的推理引擎 @|一个模型必须做所有事情
@| 本地嵌入器较弱或未使用@|检索是昂贵的#| BGE / 北极 </ MiniLM 关于消费者 GPUs @MS K5
目前LLM M |LM目前通过集装箱化的Exec @|来清洁运行代码

**旅行者与工具前导能够进化 M' @t development *.@**

他们只能调用模型或微小的 -_Tune模型}=.
他们能通过一个系统 .来发布识别信号
无法应用选择压力@. @%

他们解决了 **" 我们能吗? ?"** 问:.

DISE 解答 **我们如何不断改进? 改善?** 问:.

不是因为我比王更聪明 或智克更聪明 而是因为五金的,工具和经济学终于赶上了.

**这是工程问题 .**
工程总是一个时间问题... ....

## DISE' 核心差异

DISE背后的关键思想简单但深刻

**结构取代辉煌 *.***

而不是期望有一个模型来完美地做一切事情 , DISE 将问题散布到一个管弦系统..."." 它不认为这个模式是"MS K2" **\ , 和内存** 所以模型可以迭接地改进代码, 而不是在第一次尝试时完美生成它@. @%

### DISE 建筑结构

```mermaid
graph TB
    subgraph DiSE["DiSE (Distributed System)"]
        A[Triage Agent] -->|Easy| B[Fast Model - Qwen/Llama]
        A -->|Hard| C[Strong Model - GPT-4o]

B --> D[Test Suite]
        C --> D

D -->|Pass| E[Structured Registry]
        D -->|Fail| F{Worth escalating?}

F -->|Yes| G[Optimizer Agent]
        F -->|No| H[Mark as failed]

G --> I[Mutation Pipeline]
        I --> D

E --> J[RAG with usage stats]
        J --> K[Clustering & reranking]
        K --> A
    end

style D stroke:#10b981,stroke-width:3px
    style E stroke:#3b82f6,stroke-width:3px
    style K stroke:#8b5cf6,stroke-width:3px

note2[Most tasks never hit expensive models]
    note2 -.-> B
```

两者的差别是明显的,

-=YTET -伊甸园字幕组=- 翻译:
|------------|---------|------|
-=YTET -伊甸园字幕组=- 翻译:
-=YTET -伊甸园字幕组=- 翻译:
“|”工具再利用“|”嵌入器仅“MS K2”登记簿,备有元数据 (@+) 标签 + 使用“Sats ” *|}
“|改善”“|GPT-4建议修补“MS K3升级”“&变异管道” |
| 内存| 矢量 DB| RAG MS K3 群組MSKO4 演化跟踪MSC5
GPT-4计划 工作流图规划
+ 后退逻辑 *|*

## 为什么DISE需要GPT-4? (?

因为 **每个单位生成的代码都被当作文物处理**@,}不是即时回应 *.*

它不是按"来判断的 这看起来很好看 ?"号 MS K3号

- 它运行吗? ?
- 它是否解决了任务@? @%
- 比以前快吗? ?
- 它通过测试套件吗? ?

廉价的LLM @(wen@2.5代码{7B,Llama}MS K4#8B□)可以产生五种变体_.测试选择最佳的\.一个更强大的模型只有在弱者失败时才会参与到其中*.～

随着时间的流逝 , 系统学会了哪些模型是好的, 其中域=. 就像我用我的 [语义搜索实施](/blog/semantic-search-with-onnx-and-qdrant) -你不需要最大的模型 当你有合适的结构时

完善过程成为 **进化式, not 自动后退**.

### 真实的示例@ :排序算法

让我们来做这个混凝土 . 说您希望您的代理实施高效排序@. @

**旅行者接近 :**

1. GPT-4 生成快速执行
2. GPT-4 估量它是否“ "}看似正确 ”\"
3. GPT-4在环境中运行
4. 如果它失败了 @ , @ GPT-4_ 建议修正
5. 每个尝试的成本=: ~$0.20-0.30

**DISE 方法@: @%**

1. Triage: @ "实施高效排序@ MS K2 @ @ I→通向普通阶梯
2. Quen @2.5}编码器 @MS K1#B 生成了“5Q 变体” @( quickSort@,合并式Sort{,HeapSort},变异} @MSKO7}
3. 测试套件运行全部@ 5 @ 相对于 @ MS K1} 。
   - 正确度测试 @ (sorted 输出@ MS K1} 稳定性 @ MPK2 边缘情况 @ I)
   - 业绩基准 @(_time{,}记忆=)
   - 代码质量=)
4. 最佳执行变式可进入具有衡量指标的登记处
5. 成本: : @ @ @ ~$0.002-0.005 @
6. 未来请求@" @sorting @"}重新获取已证实的实施情况
7. 如果以后有人需要 @ " sable 排序@ MS K1 @ 优化器可以变换现有代码而不是从头开始

便宜的模型可以探索解决方案空间@. 测试选择_. 只有在所有#5变体都失败的情况下, 昂贵的模式才会参与进来 @.

## 这实际上意味着什么?

I' 一直在尝试类似的原则 [我博客的RAG系统](/blog/rag-primer) 和 [语义情报特征](/blog/semantidintelligence)*.* 模式一致*:*

**使用最大的架构决策模式@, @ not detail *.{}**

当我建造 [断开链接处理器](/blog/the-war-on-404) 使用 GPT-4检查每个链接@.系统 @:

1. 使用简单的 HEAD 请求来检查链接有效性@ ( @no LLM)}
2. 当链接断开 @ (_ ONNX model@)+% 时返回语义搜索
3. 只有当语义搜索失败时, 才会涉及 LLM @ ( @ rarely needed@ MS K1

高价情报在设计中... ..., 不是处决...

## 关键问题

每个系统都问一个不同的问题 @: @%

**工具前端詢問@: @%**

> LLM 能够通过测量哪个工具呼叫实际上帮助了 @?\ 来学习何时使用工具吗?

**旅行者询问:**

> LLM 能够生成可重复使用的代码来帮助未来的任务吗? @?

**DISE 詢問:**

> 一个系统能产生工具吗? , 客观地评估它们吗?

工具前工具已被验证 **基于成果的学习工作**.
旅行者证明 **可重新使用生成的工具**.
DISE 证明 **工具可以在不打破银行的情况下不断演变**.

工具前 **培训时间**.
旅行者是 **闪光**.
DISE 是 **基础设施基础设施**.

一个显示您可以从结果中学习\ .
一个显示您可以生成工具@. @%
其他为持续进化建立机制

## 实际影响

如果您在今天建造 LLM - 动力系统

### 1. 构建评价第一

Don 't 生成代码, 希望它能像我所做的那样有效写测试来定义@"works".} [框架迁移](/blog/efmigrationstherightway) @-@ 测试运行,} 或者它们不做 't. 沒有LLM 的判斷需要 *.*

### 2. 使用权宜之计

廉价型号的简单路由任务@.为真正棘手的问题保留昂贵的模式 @.你的钱包会感谢你\.

### 3. 轨道什么有用

不仅存储代码“,”,还保存“MSC1”

- 它所创造的,
- 哪个模型创造了它
- 其表现如何
- 其被再利用的频率

此元数据成为您路线逻辑的训练数据@. @%

### * 拥抱进化*

Don' @ title expect on the first try@ ._ generate planges @ MS K2}测试它们 @ I,# 让优胜者继续变换好的,{but@ k5but}-not-}成功者=.}

这就是我如何在公共博客ZQ-+#iverate上看待发展的方式。 [从实际交通中学习](/blog/usingumamidataforwebsitestats)根据实际使用量改善.

## 为什么结构比你想的更重要

旅行者与DISE的区别是 @'#t **当事情失败时会发生什么**.

在Voyager, 失败意指@:

- 询问 GPT-4调试
- 希望它能理解问题
- 为这项特权付费

在 DISE , 失败触发器@:

- 结构错误分析@( @ whatwhat failed\ ,}为什么{,}*什么是预期的_)
- 替代工作办法的变式生成
- 只有在问题真正具有新意时才升级
- 今后类似失败的学习

系统得到 **更聪明的关于它所知道的事情**.

## 未来是混合的

我不认为我们会看到纯正的 "single模式 能让所有系统在生产中获胜

我们可以看到像Dise@:这样的混合系统

- 共同模式的廉价模型
- 新问题昂贵模式
- 其它事物的非-LLM逻辑@ ( tests @ MS K2 公制, 验证@)
- 实际从成果中学习的记忆系统

我们到处都看到这种模式

- [RAG 系统](/blog/rag-architecture) 组合检索@+ @% generation
- [多方-}代理工作流程](/blog/workflowsystem-part1-introduction) 具有专门成分的
- [语义搜索](/blog/semantic-search-in-action) 使用嵌入式@ + @ 重新排序

魔力在于拥有一个杰出的模特 **正确时间右侧模型** 和与 **右上下文**.

## 结论结论

旅行者是一个信标 . 它显示代理商可以通过生成代码学习

接下来的一步是“'” 更快速地“MS K1” 这个方法已经到了极限 “.”

下一步是 **定向合成进化**:

- 故意变化
- 客观评价
- 系统继承
- 结构性学习

DISE是' 尝试在一次镜头中更聪明一点吗?
{\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}想更好 **下一个** 中枪了?

这是进化开始的地方 .

与生物进化不同 我们只得等几百万年才能看到结果

---

## 为什么DISE不同

- **不需要细微的调整** “-”通过API与任何LLM合作。
- **不需要GPT=-4}所有东西都用上 GPT@MSK1** - §
- **致幻评价** - 目标测试用具 *, 不是LLM的判断
- **{\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}不扔密码** “- ” 每个文物都存储着“, ” 版本@, 跟踪
- **忘记过去的工作** -RAG+使用 statsMS K2机构记忆
- **害怕失败** - 把它用作进化的筛选压力

---

## 继续阅读

**文 件 @:**

- [Voyager: 开放MS K1 具有大语言模型的封闭型代理](https://arxiv.org/abs/2305.16291) 原始文件
- [工具前工具](https://arxiv.org/abs/2302.04761) “-” 教学使用工具的LMS
- [重拍](https://arxiv.org/abs/2210.03629) -=YTET -伊甸园字幕组=- 翻译:
- [思想树](https://arxiv.org/abs/2305.10601) *- 蓄意问题*

**博客「:」表示:**

- [建立RAG系统](/blog/rag-primer) @-# 混合检索@+%s 生成结构Name
- [用 ONNX 和 Qdrant 进行语义搜索](/blog/semantic-search-with-onnx-and-qdrant) *-无昂贵API的嵌入式
- [战争的战争](/blog/the-war-on-404) -- 平整连接的断层方法
- [使用 Ollama 本地 LLM](/blog/reanimation) @-_Self_-}接待小型模型
- [a GPT系列律师](/blog/building-a-lawyer-gpt-for-your-blog-part1) - 多-part系列 关于RAGMS K2LM

**工具@: @%**

- [奥拉马](https://ollama.ai/) @-_Run Llama},}Quen,}和本地其他模型
- [利特林](https://github.com/BerriAI/litellm) 为 100+ 提供 LLM 服务者提供的 MSPK0 统一API
- [兰钱](https://www.langchain.com/) @-_Frame for LLM apps {(}虽然我倾向于避免沉重的框架)}

This is a preview from the server running through my markdig pipeline

AI Code Generation LLMs Machine Learning

"#Isn @'#t DiSE Just Voyager@?"}-#为什么结构比聪明多了

Monday, 24 November 2025

我的系统“,” DISE, 是一个自定义的-OpptiminizingMS K3 自我的-Assembling},软体工作流程建设器 . 它生成了可测试代码人工工艺品, 客观地评估它们并随着时间演化,而没有不断的人性监督. 但是在这里,'

Spaocler :No. 并理解你为何要建造任何生产过程中需要运行的东西吗?

一. 导言导言导言导言导言

这听起来像旅行者但还有更多的步骤 ."

如果你一直跟踪LLM- 驱动代理研究旅行者 “(Wang et al-., 2023) I-GPT-4}通过生成可重复使用的代码“"skillenchMS K6 @-和” 工具前 “(_Schick et als @.,}2023)通过测量实际结果,教LMs使用工具’. 两者都是令人印象深刻的,有影响力}, 并被广泛引用>.

初看起来,DISE Dise K1"Dirrected合成进化)也许看上去像Voyager {+}工具前导,新涂了油漆.}但是这“'”喜欢说生产数据库只是一个带有更多阶梯的电子表格@.}如果你关心比例=,°C$成本_,}和实际上运输某种东西.}

新建到 DISE@? @% 检出我的电梯投球然后探索与 Diseo " 串联的“:” 有关毕业生学徒资格的2部分和有关不可信LMS的3部分@.#此文章特别聚焦于 DISE@'%s 架构与旅行者和工具发源人#.}有何不同

为何DISE='_BARBAR_建筑学方法解决了无法单独解决问题的问题?

旅行者和工具前者做了什么好事

改变我们对LLM代理商和工具的看法,

Voyager: 代理器能够生成工具

旅行者介绍了一个至关重要的洞察力

LLMs可以产生自己的可再使用工具@.

使用 GPT-4在苍蝇上写字功能每一次成功的行动都变成了一种可重复使用的技巧存储在一个矢量数据库\ . 提示是明确的 @:}

" 您的函数将被重新用于构建更复杂的功能@. 因此 @,你应该把它做为通用和可重复使用."

这很重要这是第一次 , 作为工具生成处理的代理系统 实际软件工程 Voyager表示代理商可以 :

逐步建立不断增长的技能库
将简单技能纳入复杂行为
通过嵌入@ - @% broad repack 来避免灾难性的遗忘

在Minecraft .中,它与GPT -4.一起工作。

工具前端

工具前 “(Schick et als .,Q2023)采取了不同的做法”“.没有产生工具”,而是教LMS 何时调用现有工具.

智能工具前端生成了自己的训练数据@. @ it would\ :#

在文本中插入潜在工具调用@ (" @ 可能我应该在此使用计算器 @ MS K1} @
实际执行这些工具
保留工具帮助丢弃的工具的示例@ , @ discription
关于成功范例的Fineó-tune

由此创建的模型从 客观成果 返回正确答案的计算器 API 比不使用 'QQT -没有LLM判决需要.}

DISE如何将“(”和“Goes mession )”结合起来?

DiSE从这两篇论文中都得到深刻的见解,

来自Voyager:

✅ 生成可重复使用的代码文物
✅ 存储它们以备未来检索
“❌”但添加“: 目标测试管子”和“MS K2 不只是在Minecraft ?"中工作”
而不是GPT=-4,
@ ❌_ 但添加# MS K1} 变异和进化不只是存储而已

从工具前端@ : @%

*✅学习客观成果
✅ 自动生成培训数据
@❌_But add\ :}但是加上"运行时间进化" *,}不只是训练-
@❌_But add:}创造工具本身 *,}不只是学会称呼它们
@❌_But add+:}全寿命周期#-}工具可以改进@,}不只是使用而已

DISE' 基因科:

将DISE视为ReActé,reflexion,Troupun@,和Voyager}.每个祖先都贡献了重要的东西:

graph TB
    ReAct[ReAct 2022:<br/>Reason + Act<br/>Step-by-step thinking] --> DiSE
    Reflexion[Reflexion 2023:<br/>Self-critique loops<br/>Try → Reflect → Retry] --> DiSE
    Toolformer[Toolformer 2023:<br/>Learn from outcomes<br/>Self-generated training data] --> DiSE
    Voyager[Voyager 2023:<br/>Generate reusable tools<br/>Code as memory] --> DiSE

    DiSE[DiSE 2024:<br/>Directed Synthetic Evolution]

    DiSE --> G[Generate tools with tests]
    DiSE --> E[Evaluate objectively]
    DiSE --> M[Mutate and improve]
    DiSE --> S[Store with usage stats]
    DiSE --> R[Retrieve and reuse]
    DiSE --> C[Tiered execution]

    style ReAct stroke:#8b5cf6,stroke-width:2px
    style Reflexion stroke:#ec4899,stroke-width:2px
    style Toolformer stroke:#f59e0b,stroke-width:2px
    style Voyager stroke:#ef4444,stroke-width:2px
    style DiSE stroke:#10b981,stroke-width:3px

遗产 :

重拍 “→” 结构化推理与动作“-” 观察环
反缩通过反省改善 (,但LM法官本身
工具前 @→学习从实际结果\ ,不只是提示
旅行者 → 生成并存储可重复使用的代码文物

DISE补充了什么? :

目标试验装置 @(notLLM 自我 - 判决@)
运行时间演变 * @(}不只是训练时间 )
捆绑式示范执行@(cheap @→只有在需要时才昂贵#)
完整的工具生命周期 @(Birth #→突变#→继承_→死亡{)
成本优化反馈循环
国家工具登记册@( @ a bit of Fielding_'s REST 架构 <% -}作为可用地址资源的工具,使用 state{) }

DISE 詢問: 如果我们把所有这些洞察力结合起来, 却让它变得便宜到可以进行生产并且聪明到随时间的推移而自我改善

是的,,}(有)'}(也有)Roy Fielding' REST架构的一小片 Roy FeilingMSK2}(那里还有) @-}工具是用 URIs{,}元数据@, 和版本 <. > 每个工具都是可发送地址>,}%SSK8}可以缓存}(可以與其它人組合) .}工具注册器是'}(但只是一個矢量数据库_;)} itMS K12 是一个精品商店其中资源<(_tools _)}已状态“usage statts}, 性能度標準度MSZK17}版本歷史_MS K18} MSQ18},它會影響它們如何回溯和進演化'}

{\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}不训练... 定向进进.

旅行者建筑

graph TB
    subgraph Voyager["Voyager (2023)"]
        A[GPT-4] --> B[Generate Code]
        B --> C[Execute in Minecraft]
        C --> D{Success?}
        D -->|Yes| E[Store with embedding]
        D -->|No| F[GPT-4 suggests fix]
        F --> B
        E --> G[Vector DB]
        G --> H[Future retrieval]
        H --> A
    end

    style A stroke:#ef4444,stroke-width:3px
    style F stroke:#ef4444,stroke-width:3px

    note1[All reasoning flows through GPT-4]
    note1 -.-> A

当您每一步需要亮度时, 都需要GPT@,_K8}(或等效的 @(QQQ}) “无处不在” .

是什么保持了旅行者后退

使用 GPT-4来生成代码@. 它依靠GPT}-4來源

规划规划 “-” 突破高端“-” 级别目标到子“MS K2” 塔克斯
评价评价评价评价的评价评价评价评估评价评价进行评价评价评价评价工作评价评价和评价评价评价评价和评价评价 “-”决定一项技能是否正确工作
分解 - 找出哪些现有技能可以结合起来
命名名称 建立用于存储的描述性标识符
选择 - 从嵌入中选择正确的技能
质量判断 “-”决定什么“'” 是什么?

当模型做每件事时 , 它需要是边疆- 每次.

这也是为什么旅行者在Minecraft@.和它为什么生产过程中要花费一大笔钱吗?

成本问题

让'做一些餐巾纸数学@. 说您想要运行一个 Voyager-}风格的系统, 用于真的 @-world task4

GPT-4 TurboMS K1 @ ~$0.01 每 @ I1K 输入符號@ , @ @ MPK5每 @ 1K输出符号
典型的技能生成@: @ @ ~2_ K 输入 @ I+} @ O1QK 输出 @ MOSK4 @ @ *$0.05#
“100”技能与“3”重新尝试, $15
{\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}那只是最初的图书馆

现在添加检索查询@,构成尝试 @ ,调试周期@ MS K2YouQ'很容易地寻找到数百美元, 一个单一的代理来建立一个中等技能库@ MPK4

用于比较“,在这里”“' 分层处理方法可能花费多少成本”‘:

-=YTET -伊甸园字幕组=- 翻译: |------|-----------------|---------------|---------| | MS K5 I(Llama3.1 NSK8B) | 初生一代 @| @MS K2} @| $0.002# -=YTET -伊甸园字幕组=- 翻译: | (GPTQ MS K7O)|MS K10MSC11 | 每项任务平均平均数 | $0.20 | $0.016 | 92% |

当你只用昂贵的模型来形容真正困难的问题时经济发生了巨大的变化

为何DISE在 @2023 @ (#但现在#) @%

Voyager, 工具前端MS K1 和反灵活并非失败 . 它们只是撞上了它们时空的技术和经济上限.

三个制约因素阻碍了“2023:”的进展。

@	限量 @MS K1	后序 #	}改变什么了#(2024–2025)~ @
GPT-4是唯一可靠的推理引擎 @	一个模型必须做所有事情
@	本地嵌入器较弱或未使用@	检索是昂贵的#	BGE / 北极 </ MiniLM 关于消费者 GPUs @MS K5
目前LLM M	LM目前通过集装箱化的Exec @	来清洁运行代码

*旅行者与工具前导能够进化 M' @t development .@

他们只能调用模型或微小的 -_Tune模型}=. 他们能通过一个系统 .来发布识别信号无法应用选择压力@. @%

他们解决了 " 我们能吗? ?" 问:.

DISE 解答 我们如何不断改进? 改善? 问:.

不是因为我比王更聪明或智克更聪明而是因为五金的,工具和经济学终于赶上了.

这是工程问题 . 工程总是一个时间问题... ....

DISE' 核心差异

DISE背后的关键思想简单但深刻

结构取代辉煌 .

而不是期望有一个模型来完美地做一切事情 , DISE 将问题散布到一个管弦系统..."." 它不认为这个模式是"MS K2" \ , 和内存 所以模型可以迭接地改进代码, 而不是在第一次尝试时完美生成它@. @%

DISE 建筑结构

graph TB
    subgraph DiSE["DiSE (Distributed System)"]
        A[Triage Agent] -->|Easy| B[Fast Model - Qwen/Llama]
        A -->|Hard| C[Strong Model - GPT-4o]

        B --> D[Test Suite]
        C --> D

        D -->|Pass| E[Structured Registry]
        D -->|Fail| F{Worth escalating?}

        F -->|Yes| G[Optimizer Agent]
        F -->|No| H[Mark as failed]

        G --> I[Mutation Pipeline]
        I --> D

        E --> J[RAG with usage stats]
        J --> K[Clustering & reranking]
        K --> A
    end

    style D stroke:#10b981,stroke-width:3px
    style E stroke:#3b82f6,stroke-width:3px
    style K stroke:#8b5cf6,stroke-width:3px

    note2[Most tasks never hit expensive models]
    note2 -.-> B

两者的差别是明显的,

-=YTET -伊甸园字幕组=- 翻译: |------------|---------|------| -=YTET -伊甸园字幕组=- 翻译: -=YTET -伊甸园字幕组=- 翻译: “|”工具再利用“|”嵌入器仅“MS K2”登记簿,备有元数据 (@+) 标签 + 使用“Sats ” *|} “|改善”“|GPT-4建议修补“MS K3升级”“&变异管道” | | 内存| 矢量 DB| RAG MS K3 群組MSKO4 演化跟踪MSC5 GPT-4计划工作流图规划

后退逻辑 |

为什么DISE需要GPT-4? (?

因为 每个单位生成的代码都被当作文物处理@,}不是即时回应 .

它不是按"来判断的这看起来很好看 ?"号 MS K3号

它运行吗? ?
它是否解决了任务@? @%
比以前快吗? ?
它通过测试套件吗? ?

廉价的LLM @([email protected]代码{7B,Llama}MS K4#8B□)可以产生五种变体_.测试选择最佳的.一个更强大的模型只有在弱者失败时才会参与到其中*.～

随着时间的流逝 , 系统学会了哪些模型是好的, 其中域=. 就像我用我的语义搜索实施 -你不需要最大的模型当你有合适的结构时

完善过程成为 进化式, not 自动后退.

真实的示例@ :排序算法

让我们来做这个混凝土 . 说您希望您的代理实施高效排序@. @

旅行者接近 :

GPT-4 生成快速执行
GPT-4 估量它是否“ "}看似正确 ”"
GPT-4在环境中运行
如果它失败了 @ , @ GPT-4_ 建议修正
每个尝试的成本=: ~$0.20-0.30

DISE 方法@: @%

Triage: @ "实施高效排序@ MS K2 @ @ I→通向普通阶梯
Quen @2.5}编码器 @MS K1#B 生成了“5Q 变体” @( quickSort@,合并式Sort{,HeapSort},变异} @MSKO7}
测试套件运行全部@ 5 @ 相对于 @ MS K1} 。
- 正确度测试 @ (sorted 输出@ MS K1} 稳定性 @ MPK2 边缘情况 @ I)
- 业绩基准 @(_time{,}记忆=)
- 代码质量=)
最佳执行变式可进入具有衡量指标的登记处
成本: : @ @ @ ~$0.002-0.005 @
未来请求@" @sorting @"}重新获取已证实的实施情况
如果以后有人需要 @ " sable 排序@ MS K1 @ 优化器可以变换现有代码而不是从头开始

便宜的模型可以探索解决方案空间@. 测试选择_. 只有在所有#5变体都失败的情况下, 昂贵的模式才会参与进来 @.

这实际上意味着什么?

I' 一直在尝试类似的原则我博客的RAG系统和语义情报特征. 模式一致*:*

*使用最大的架构决策模式@, @ not detail .

当我建造断开链接处理器使用 GPT-4检查每个链接@.系统 @:

使用简单的 HEAD 请求来检查链接有效性@ ( @no LLM)}
当链接断开 @ (_ ONNX model@)+% 时返回语义搜索
只有当语义搜索失败时, 才会涉及 LLM @ ( @ rarely needed@ MS K1

高价情报在设计中... ..., 不是处决...

关键问题

每个系统都问一个不同的问题 @: @%

工具前端詢問@: @%

LLM 能够通过测量哪个工具呼叫实际上帮助了 @?\ 来学习何时使用工具吗?

旅行者询问:

LLM 能够生成可重复使用的代码来帮助未来的任务吗? @?

DISE 詢問:

一个系统能产生工具吗? , 客观地评估它们吗?

工具前工具已被验证 基于成果的学习工作. 旅行者证明 可重新使用生成的工具. DISE 证明 工具可以在不打破银行的情况下不断演变.

工具前 培训时间. 旅行者是闪光. DISE 是 基础设施基础设施.

一个显示您可以从结果中学习\ . 一个显示您可以生成工具@. @% 其他为持续进化建立机制

实际影响

如果您在今天建造 LLM - 动力系统

1. 构建评价第一

Don 't 生成代码, 希望它能像我所做的那样有效写测试来定义@"works".} 框架迁移 @-@ 测试运行,} 或者它们不做 't. 沒有LLM 的判斷需要 .

2. 使用权宜之计

廉价型号的简单路由任务@.为真正棘手的问题保留昂贵的模式 @.你的钱包会感谢你.

3. 轨道什么有用

不仅存储代码“,”,还保存“MSC1”

它所创造的,
哪个模型创造了它
其表现如何
其被再利用的频率

此元数据成为您路线逻辑的训练数据@. @%

* 拥抱进化*

Don' @ title expect on the first try@ ._ generate planges @ MS K2}测试它们 @ I,# 让优胜者继续变换好的,{but@ k5but}-not-}成功者=.}

这就是我如何在公共博客ZQ-+#iverate上看待发展的方式。从实际交通中学习根据实际使用量改善.

为什么结构比你想的更重要

旅行者与DISE的区别是 @'#t 当事情失败时会发生什么.

在Voyager, 失败意指@:

询问 GPT-4调试
希望它能理解问题
为这项特权付费

在 DISE , 失败触发器@:

结构错误分析@( @ whatwhat failed\ ,}为什么{,}*什么是预期的_)
替代工作办法的变式生成
只有在问题真正具有新意时才升级
今后类似失败的学习

系统得到 更聪明的关于它所知道的事情.

未来是混合的

我不认为我们会看到纯正的 "single模式能让所有系统在生产中获胜

我们可以看到像Dise@:这样的混合系统

共同模式的廉价模型
新问题昂贵模式
其它事物的非-LLM逻辑@ ( tests @ MS K2 公制, 验证@)
实际从成果中学习的记忆系统

我们到处都看到这种模式

RAG 系统组合检索@+ @% generation
多方-}代理工作流程具有专门成分的
语义搜索使用嵌入式@ + @ 重新排序

魔力在于拥有一个杰出的模特 正确时间右侧模型 和与 右上下文.

结论结论

旅行者是一个信标 . 它显示代理商可以通过生成代码学习

接下来的一步是“'” 更快速地“MS K1” 这个方法已经到了极限 “.”

下一步是 定向合成进化:

故意变化
客观评价
系统继承
结构性学习

DISE是' 尝试在一次镜头中更聪明一点吗? {\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}想更好 下一个 中枪了?

这是进化开始的地方 .

与生物进化不同我们只得等几百万年才能看到结果

为什么DISE不同

不需要细微的调整 “-”通过API与任何LLM合作。
不需要GPT=-4}所有东西都用上 GPT@MSK1 - §
致幻评价 - 目标测试用具 *, 不是LLM的判断
{\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}不扔密码 “- ” 每个文物都存储着“, ” 版本@, 跟踪
忘记过去的工作 -RAG+使用 statsMS K2机构记忆
害怕失败 - 把它用作进化的筛选压力

继续阅读

文件 @:

Voyager: 开放MS K1 具有大语言模型的封闭型代理原始文件
工具前工具 “-” 教学使用工具的LMS
重拍 -=YTET -伊甸园字幕组=- 翻译:
思想树 - 蓄意问题

博客「:」表示:

建立RAG系统 @-# 混合检索@+%s 生成结构Name
用 ONNX 和 Qdrant 进行语义搜索 *-无昂贵API的嵌入式
战争的战争 -- 平整连接的断层方法
使用 Ollama 本地 LLM @-Self-}接待小型模型
a GPT系列律师 - 多-part系列关于RAGMS K2LM

工具@: @%

奥拉马 @-_Run Llama},}Quen,}和本地其他模型
利特林为 100+ 提供 LLM 服务者提供的 MSPK0 统一API
兰钱 @-_Frame for LLM apps {(}虽然我倾向于避免沉重的框架)}

"#Isn @'#t DiSE Just Voyager@?"}-#为什么结构比聪明多了

一. 导言导言 导言 导言 导言

旅行者和工具前者做了什么好事

Voyager: 代理器能够生成工具

工具前端

DISE如何将“(”和“Goes mession )”结合起来?

旅行者建筑

是什么保持了旅行者后退

成本问题

为何DISE在 @2023 @ (#但现在#) @%

DISE' 核心差异

DISE 建筑结构

为什么DISE需要GPT-4? (?

真实的示例@ :排序算法

这实际上意味着什么?

关键问题

实际影响

1. 构建评价第一

2. 使用权宜之计

3. 轨道什么有用

* 拥抱进化*

为什么结构比你想的更重要

未来是混合的

结论结论

为什么DISE不同

继续阅读

一. 导言导言导言导言导言