This is a viewer only at the moment see the article on how this works.
To update the preview hit Ctrl-Alt-R (or ⌘-Alt-R on Mac) or Enter to refresh. The Save icon lets you save the markdown file to disk
This is a preview from the server running through my markdig pipeline
Чому я не користуюся LangChain? ( і що я роблю замість цього?
Thursday, 18 December 2025
Я ' я МSK1 програміст-програміст NET МSK2 Коли я почав будувати LLM - потужні системи \ , \ кожен підказував мені на Ланг-Шейн \ МSK5 \ " \ Це \ ' \ це стандарт \ - МSK8 \ вони сказали \ "" МSK9 , МSK10 \ Всі приклади використовують його \
Але ось це: МСК0 - це те, що я не роблю, МСК2 - не уникати Лангшоу тому, що він поганий. МСК4 - я уникати його, бо він вирішує проблеми, які я вже розв 'язую більш чітко. МSK5 - і для моїх прикладів використання. - - це локальний висновок, МSK8 - конфіденційність, , - детермінізм.
Це не МСК0 , а Анти-МСК1 , це пост про те, як розв 'язати проблеми, що лежать в ланцюжі . Це пост про "'", про те як зрозуміти, які системи розв' язують проблеми, і усвідомити, що вам їх не потрібно.
Теорема: Якщо ви розумієте проблеми, що їх розв 'язує LangChain , ви не маєте МSK2 не потребуєте LangeChain
Що насправді робить LangChain добре
Дозвольте МСК0 бути чесним першим , ".". Ланг-Шейн досягає успіху у багатьох речах .
швидке створення прототипів - Ви можете отримати оперативну демонстрацію за кілька хвилин . Результати, отримані МSK2запущені приклади справді хороші
Інтеграція екосистем Python - Якщо ви ' ви вже в Pythonі МSK2 Джупітер МSK3 світ пандусів
Сниження бар 'єру - Для людей, які почали користуватись LLMs, це дає корисні абстракції : шаблони пропону МSK3 візерунки інструментів для вызову MSC4 управління пам 'яттю M SK5 вektorна інтеграція DB .
Лангшайн - це прискорювач інтеграції, це не обов 'язок ШІ . це пришвидшує шлях від МSK2 у мене є ідея МSK3 до M" в мене є демо-демо МСК5 те, що МСК6 цінний М СК7
Але це також те місце, де проблеми починаються для мене, як для забудовника будівельних систем
Проблеми, які розв 'язує Ланг-Шейн
Перед тим, як відкинути структуру, вам потрібно зрозуміти, які проблеми вона вирішує.
- Контекст - Збудувати послідовні пропони з схеми
- Оркестрація інструментів - Zarządzanie багатьма вызовами інструментів у послідовності за допомогою умовної логіки
- Керування державою - Утримування контексту розмови впродовж декількох поворотів
- Знову спробувати і виправити помилки - Зновлення граційно, коли LLM генерує неправильний вихід
- Множество кроків - Перетворення складних завдань на послідовні кроки МSK1модель СМСК2агент СМСК3MМСК4
- Обсервабельність - Переслідування того, що насправді сталося під час страти
Це законні проблеми.
Де Ланг-Шейн починає хворіти
Для моєї роботи: - будівляння, виробництво;
Прихований стан і непрямий контроль
LangChain управляє пам 'яттю та контекстом для вас. Це звучить зручно, доки вам не потрібно деbugувати, чому ваш про prompt довший за очікуваний M SK1 टोकони , або чому LLM раптово має доступ до історії розмови, яку ви думали, що маєте
Framework об 'єднує пропони, управляє пам' яттю , і вказує на порядок виконання непередбачувано
Cadre-Coupled Thinking
Як тільки ви приймете LangChain,, ви почнете проектувати для LangChain. Ваша архітектура з 'єднана до фреймворка ' абстракції МSK2 ланцюги
Це не є характерним для LangChain. МСК1 - всі системи роблять це. МSK2 - але в швидкому, рухомому полі, як-от LLM, МСК4 - де правильні абстракції не існує, МSK5 - ще не залагодили, , - зв 'язок з схемою, ММК7 - ризикований погляд на світ
Похибка Impedance Python
Ланг-Шейн припускає:
- Довгий-живі процеси МSK1нотникM SK2задові робочі потоки)
- Не змінний глобальний стан
- Динамічне введення Python' і введення качок
- Блокування шаблонів I/O
Як програміст .NETM SK1 я припускаю
- Запроси-виміркованість тривалості життя (ASPM SK2NET Коренные шаблониМSK3
- Невідмінний або явно керований стан
- Сильне друкування і компіляція-безпека часу
- Async/ чекати всюди
І Порти LangChain .NET існують, але вониM SK1 грають у пастку - з Python версією, і абстракції все ще відчуваються незнайомими для мовних CMSC4
Нестачі реальності виробництва
Коли ви переходите від прототипу до виробництва, вам потрібно:
- Детермінізм - Те ж саме введення має призвести до передбачуваної поведінки
- Випробовування - Упевниться, що виведення LLM' є безпечним перед його виконанням
- Сэндбоксинг - Загасити, що може насправді зробити генерований код
- Контроль витрат - Використовування токенів та накладання обмежень
- локальна деференція - Запустити моделі без залежності від хмари
Ланг-Шейн оптимізує швидкість ітерації. МСК0, не жорсткий процес виробництва. МSK1, що. ММК2 - це штраф для демонстрацій. ММСК3 - це проблема для виробництва.
Що я будую замість
Ось модель, яку я використовую ЛЛМ - це об 'єктивні двигуни, а не виконання
LMs Do:
- інтерпретація - Усвідомлення змісту користувача з природної мови
- Планування - Перетворення складних завдань на кроки
- Перетворення - Перетворення наміру в структуровані формати
МСМ не мають:
- Комп 'ютерні агрегати - Підсумок МSK1 рядків
- Сканувати набори даних - Поиск у великих файлах
- Власне місце - Утримування довгоїM SK1тривалої пам 'яті
Принцип: Причина LLM. Машини обчислюють.
Ця відокремлення підштовхує все, що я будую.
Виражений контекст, Не магічна пам 'ять
Замість фреймворка-управлена пам 'ять, я будую контекст експлицитно за запитомM SK2
public class QueryContext
{
public List<ColumnInfo> Schema { get; set; }
public List<Dictionary<string, string>> SampleRows { get; set; }
public List<ConversationTurn> History { get; set; }
public string UserQuestion { get; set; }
}
Кожна про prompt конструкція видна. МСК0 Я точно знаю, що надсилається до LLM, тому що я сам створив струну.
private string BuildPrompt(QueryContext context)
{
var sb = new StringBuilder();
sb.AppendLine("You are a SQL expert. Generate a query based on:");
sb.AppendLine();
// Schema
sb.AppendLine("Schema:");
foreach (var col in context.Schema)
sb.AppendLine($" - {col.Name}: {col.Type}");
// History (if any)
if (context.History.Any())
{
sb.AppendLine("\nPrevious conversation:");
foreach (var turn in context.History.TakeLast(3))
sb.AppendLine($" Q: {turn.Question} → SQL: {turn.Sql}");
}
// Current question
sb.AppendLine($"\nQuestion: {context.UserQuestion}");
sb.AppendLine("Generate SQL (no explanation, just the query):");
return sb.ToString();
}
Немає прихованих станів. Немає магічної конкатенціїM SK1 Просто експлуатна конструкція струн . Коли це неправильне МSK3 Я знаю, чому
Детерміністичні шари виконання
Замість того, щоб дозволити LLM виконувати що завгодно, я використовую його для генерації намір, тоді виконувати ці наміри за допомогою детермінативних двигунів
- Машини SQL (DuckDBM SK1 - Для запитів на дані
- Поискові машини (LuceneMSC1 Postgres повний-текстM SK3 - Для отримання dokumentu
- Мотори правил - Для логіки бізнесу
- Доменні послуги - Для перевірених операцій
LLM генерує SQL. DuckDB запускає цеM SK1 LLM ніколи не бачить даних:
// LLM generates intent
var sql = await GenerateSqlAsync(context);
// Validate before execution
var error = ValidateSql(connection, sql);
if (error != null)
{
// Retry with error feedback
sql = await GenerateSqlAsync(context, previousError: error);
}
// Execute in sandboxed engine
var results = ExecuteQuery(connection, sql);
Це безпечніше, швидшеM SK1 і дебагується. LLM не може ' випадково працювати DROP TABLE тому що я підтверджую SQL першими.
Конкретний приклад: Анализ CSV без рамок
Нещодавно я написав про аналіз великих CSV-файлів за допомогою локальних LLM. Архітектура
Питання користувача → LLM МSK1 SQL → DuckDB МSK3 Результати
LLM отримує:
- skeма CSV (назви столбів та типиM SK1
- 3 зразки рядків МSK1 для розуміння формату даних
- Питання користувача'
LLM генерує:
- SQL-запитка DuckDB
Система тоді:
- Вивіряє SQL за допомогою
EXPLAIN( вловлює помилки синтаксису без виконання - Виконає запитання проти файлу CSV
- Возв 'язує результати користувача
LLM ніколи не бачить справжніх даних. Він бачить лише структуруM SK1
Це те, що Лангчайн називає системою "агентом " МSK2, яка використовує LLM для генерації дій
За винятком того, що я збудував його в ~200 лініях CM SK1 без рамкиMSC2
public class CsvQueryService
{
private readonly OllamaApiClient _ollama;
private readonly string _model;
public async Task<QueryResult> QueryAsync(string csvPath, string question)
{
using var connection = new DuckDBConnection("DataSource=:memory:");
connection.Open();
// 1. Build context
var context = BuildContext(connection, csvPath, question);
// 2. Generate SQL
var sql = await GenerateSqlAsync(context);
// 3. Validate
var error = ValidateSql(connection, sql);
if (error != null)
{
// Retry once with error feedback
sql = await GenerateSqlAsync(context, error);
}
// 4. Execute
return ExecuteQuery(connection, sql);
}
}
Це те, що: МСК0 - це воно. МСК1 Ніяких ланцюгів, МСК2 , ніяких агентних рамок, МSK3 , жодної магії, . . Просто експлицитно організувати LLM.
Що таке агент
Термин """ - агент "" МSK1 "" постійно викидається з-за-ду "". МSK2 "" зазвичай означає "" LM "", тобто "" будь-що, що включає в себе LLM "".
Агентом є:
- Кільця - Він запускає багато повторень
- З державою - Він пам 'ятає, що він спробував
- За допомогою інструментів - Вона може діяти у світі
- З зворотнім зв 'язком - Він спостерігає за результатами і змінює
Агент не в бібліотеціМSK0 Це' це модельM SK2
Мій шаблон агента в C#:
public class Agent
{
private readonly List<ConversationTurn> _history = new();
public async Task<string> RunAsync(string goal)
{
while (!IsGoalAchieved(goal))
{
// 1. Generate next action based on history
var action = await GenerateActionAsync(goal, _history);
// 2. Validate before executing
if (!IsActionSafe(action))
{
_history.Add(new ConversationTurn
{
Action = action,
Result = "REJECTED: Unsafe action"
});
continue;
}
// 3. Execute through deterministic tool
var result = await ExecuteActionAsync(action);
// 4. Record and continue
_history.Add(new ConversationTurn { Action = action, Result = result });
}
return GenerateSummary(_history);
}
}
Це агент. МСК0, МСК1, це петля з інструментами штату. МSK2, МSK3 і зворотнім зв 'язком. . Я написав її в рядках.
Як працює Agent Framework Microsoft'
Для того, щоб бути чесним з . NET , Microsoft опублікувала Microsoft Agent Framework що "'" має на меті МSK1 , збудований для ".", для розробників NET, що будують системи виробництва штучного інтелекту
Що має правильний механізм Microsoft Agent
Framework (, що раніше називалось Microsoft .Extensions МSK2AI
- Виражена оркестрація - Ви контролюєте ланцюг агентаM SK1 а не структуру
- Сильне введення - Комп 'ютерна комп' ютерна система МSK1безпека часу для визначення інструментів та вызову funkcji
- Обсервабельність першого класу - Сконструйований - в телеметрії МSK2 журналування МSK3 та розподілене відстеження через OpenTelemetry
- Об 'ємні межі - Предназначена для виробництва
- Множество-моделей - Абстракції на основі OpenAIM SK1 Azure OpenAI , Ollama МSK3 та інших провайдерів
- Інтеграція семантичного ядро - працює з ширшим набором штучного інтелекту Microsoft'
Головні компоненти:
IChatClient- Об 'єднаний інтерфейс для завершення чатуIEmbeddingGenerator- Вektorні вбудовані через провайдерівAIFunction- ТипM SK1безпечний дзвінок- Трубопровод Middleware - Для журналуванняM SK1 пробування , шифрування МSK3 телеметрія
Наприклад:
var builder = WebApplication.CreateBuilder(args);
builder.Services.AddChatClient(builder =>
builder.UseOllama("llama3.2")
.UseOpenTelemetry()
.UseLogging());
var app = builder.Build();
app.MapPost("/chat", async (IChatClient client, string message) =>
{
var response = await client.CompleteAsync(message);
return response.Content;
});
Там, де я досі залишаюсь нижче
Навіть з комп 'ютерною системою Microsoft' я краще залишаю яскраву оркестрацію
Я не хочу
- Невидимими планувальники - Cadre, який самостійно вирішує, який інструмент викликати
- Вибір непрямого інструмента - Магічне маршрутизування на основі описів природних мов
- Похована логіка повторних спроб - Cadre -managed error recovery I can't inspect
Я хочу:
- Бажані петлі - Я бачу кожну повторення у своєму коді
- Проверячі кроки - Я можу перевірити логіку прийняття рішень
- Позамінні компоненти - Я можу замінити LLM , інструменти МSK2 шар перевірки
- Невизначеній стан - Я точно знаю, що
Microsoft ' Agent Framework ближче до того, як я думаю, ніж LangChain. Він поважає МSK2 NET шаблони M SK3 правильно використовує ін 'єкцію залежності MSC4 і не бореться з екосистемою . Але я все ще люблю писати оркестрацію самі
Коли використовувати Microsoft Agent Framework:
- Збудувати чат-приложения з функцією виклику
- Потрібно багатохвильовий-моделейний atbalsts M SK1швидкіш між OpenAI, Azure , Ollama МSK4
- Хочете корпоративні характеристики (телеметріяM SK1 журнальність , розподілене відстеження МSK3
- Працювати в команді, яка надає перевагу послідовності кадрів
- Збудова на основі семантичного ядра
Коли перейти до рамки-безM SK1
- Потрібно повністю контролювати цикл агентів.
- Ви – МСК0 – створюєте індивідуальні моделі мислення
- Ви хочете, щоб абстракції були нульовими
- Ви' оптимізуєте для певних випадків використання M SK1 як аналіз CSV або веб-шрафтування )
- Ви хочете зрозуміти, як це працює
Framework не вирішує, що робити з архітектурними рішеннями. МСК1. Ви все ще самі вирішуєте, що ввести у контекст. МSK2. Як відокремити дані. ММК3. І коли їх переглянути. ММСК4. Це просто простіше водопроводи.
Чому це покращує тривалість
Cadre- без систем вік кращий з кількох причин :
Результати - Ніяких абстракцій над głową . Моя служба CSV-запитів запускає підM SK2ms, тому що в ' немає фреймворка між LLM і DuckDB
Упередбачуваність витрат - Я точно контролюю, що йде до LLM . Ніхто не приховує про prompt інфляцію від фреймворка
Розладнаність - Коли щось зламається МSK1 Я МSK2 я виправляю свій код , не повертаюсь назад
Prywatність - Для систем, які мають жорсткі вимоги щодо придатності для зберігання даних , знаючи, що саме впливає на станок
Інопланетні сценарії - Пристрої на крайіM SK1 повітряні - замкнуті мережі M SK3 регулювальне середовище МSK4 Рамки приймають доступ до Інтернету та хмарні послуги .
Регуляційне дотримання МSK0 У сфері фінансів , охорони здоров 'я , та уряду МSK3 вам часто потрібно пояснити і перевірити кожну рішення
Чим більш обмежене ваше середовище, тим більше ви хочете чіткого управління.
Коли я використовуватиму Ланг-Шейн
Для дезброєння критиків є легітимні випадки, коли я дістаюсь до Ланг-Шейна
Хакатони - Швидкість демонстрації має більше значення, ніж архітектура
Викидні ПОК - Якщо ви' підтверджуєте ідею і плануєте переписати її на виробництво,
Python-важкі команди - Якщо ваша команда вже Fluentна в Pythonі , екосистема міцна
Концепції навчання - LangChain ' абстракції можуть допомогти новачкам зрозуміти модель агента перед тим, як побудувати власну
Знаючи, коли не використовувати щось так само важливе, як знати, коли його використовувати.
Поширена модель: Cadre vs. Перші принципи
Це не МСК0 , а Ланг-Шейн . МСК1 . Це "'", це компромісс між схемами і першими. МСК3, інженерія принципів.
Рамки пришвидшують знайомі проблеми. Якщо ви M SK1 будуєте 100 третю API CRUD МSK3 дістаєтеся до Entity Framework або Dapper. Patterns are settledMSC5
Але LLM-заsilaні системиM SK1 Правильні абстракції ще не зарегульовані '. Ми не знаємо M SK4 не знаємемо, чи МSK5ланцюги МSK6 або \ "агенти М SK8 чи \ МSK9ретривери " є правильними мисленними моделями MSC11 Ми ' все ще з 'ясовуємо це.
В такому середовищі я будую ближче до металу
- LLM через прямі API дзвінки (
OllamaSharp, OpenAI SDKM SK1 - Проста конструкція за допомогою прямої конструкції струн
- Validation via domain-specific logic
- Виконування за допомогою призначення-вибудовані двигуни (SQL, пошукM SK3 і т.д.
Як . NET-розробник , у мене є сильні погляди на те, як треба будувати системи МSK2 експлуатна тривалість життя МСК3 сильний вказівник М СК4 асинк аж донизу MСК5 ін 'єкція залежності для перевірки МSК6
Ланг-Шейн, абстракції ' не map cleanly to those opinions. МSK2 Так що я не користуюся ними.
Зйомка
Якщо ви - програміст .NET, який дивиться на LangChain і думає: "" МSK2? Мені це потрібно? МSK3? "", ось моя відповідь.
Вам потрібно розв 'язати проблеми, що їх розв' язує LangChain - управління контекстом , інструментарій оркестрування МSK2 логіка повторюваної спроби
Вам не потрібно LangChain, щоб їх розв 'язати - Особливо, якщо ви цінуєте чіткість , сильне надрукування МSK2 і згнічення виробництва над швидким створенням прототипів M SK3
Принцип, який я будую на :
"LLMs причина . Машини комп 'ютерні МSK2 Оркестрація ваша
Або простоше:
" Якщо ви розумієте проблеми, що їх розв 'язує система, , вам часто не потрібно
Побудуйте системи, які мають сенс у вашій екосистемі, з вашими обмеженнямиM SK1 за допомогою мови' ідиомівMSC3 Для менеMska4 щоMска5 CMске6 сильне введенняMSKA7 експлициальний контроль потокуM Ska8 та детермінативний інтерфейс виконанняМSK9
Для вас – МСК0 – це може бути інакше, МСК1 – і це – МSK2 – добре, МSK3
Мета - не уникати рамок. Мета - вибирати їх усвідомлено. Мета: зрозуміти, що вони дають і скільки коштують
Дальне читання:
- Анализ великих CSV-файлів з локальною LLM в C# - Конкретний приклад SQL без фреймворків
- Перехоплення та аналіз веб-контенту з LLM - Веб-скапування та аналіз без рамок
- Microsoft Agent Framework Documentation - офіційна база агентів Microsoft для .NET
- Microsoft.Extensions.AI - Фундаментальні абстракції штучного інтелекту для .NET
- Семантичний ядро - Microsoft's LLM оркестрування SDK
- Документація LangChain - Для того, щоб зрозуміти, що ви' вирішили не використовувати
- Оллама-Шарп - CM SK1 klient для локального висновку LLM