Чому я не користуюся LangChain? ( і що я роблю замість цього? (Українська (Ukrainian))

Чому я не користуюся LangChain? ( і що я роблю замість цього?

Thursday, 18 December 2025

//

13 minute read

Я ' я МSK1 програміст-програміст NET МSK2 Коли я почав будувати LLM - потужні системи \ , \ кожен підказував мені на Ланг-Шейн \ МSK5 \ " \ Це \ ' \ це стандарт \ - МSK8 \ вони сказали \ "" МSK9 , МSK10 \ Всі приклади використовують його \

Але ось це: МСК0 - це те, що я не роблю, МСК2 - не уникати Лангшоу тому, що він поганий. МСК4 - я уникати його, бо він вирішує проблеми, які я вже розв 'язую більш чітко. МSK5 - і для моїх прикладів використання. - - це локальний висновок, МSK8 - конфіденційність, , - детермінізм.

Це не МСК0 , а Анти-МСК1 , це пост про те, як розв 'язати проблеми, що лежать в ланцюжі . Це пост про "'", про те як зрозуміти, які системи розв' язують проблеми, і усвідомити, що вам їх не потрібно.

Теорема: Якщо ви розумієте проблеми, що їх розв 'язує LangChain , ви не маєте МSK2 не потребуєте LangeChain

Що насправді робить LangChain добре

Дозвольте МСК0 бути чесним першим , ".". Ланг-Шейн досягає успіху у багатьох речах .

швидке створення прототипів - Ви можете отримати оперативну демонстрацію за кілька хвилин . Результати, отримані МSK2запущені приклади справді хороші

Інтеграція екосистем Python - Якщо ви ' ви вже в Pythonі МSK2 Джупітер МSK3 світ пандусів

Сниження бар 'єру - Для людей, які почали користуватись LLMs, це дає корисні абстракції : шаблони пропону МSK3 візерунки інструментів для вызову MSC4 управління пам 'яттю M SK5 вektorна інтеграція DB .

Лангшайн - це прискорювач інтеграції, це не обов 'язок ШІ . це пришвидшує шлях від МSK2 у мене є ідея МSK3 до M" в мене є демо-демо МСК5 те, що МСК6 цінний М СК7

Але це також те місце, де проблеми починаються для мене, як для забудовника будівельних систем

Проблеми, які розв 'язує Ланг-Шейн

Перед тим, як відкинути структуру, вам потрібно зрозуміти, які проблеми вона вирішує.

  1. Контекст - Збудувати послідовні пропони з схеми
  2. Оркестрація інструментів - Zarządzanie багатьма вызовами інструментів у послідовності за допомогою умовної логіки
  3. Керування державою - Утримування контексту розмови впродовж декількох поворотів
  4. Знову спробувати і виправити помилки - Зновлення граційно, коли LLM генерує неправильний вихід
  5. Множество кроків - Перетворення складних завдань на послідовні кроки МSK1модель СМСК2агент СМСК3MМСК4
  6. Обсервабельність - Переслідування того, що насправді сталося під час страти

Це законні проблеми.

Де Ланг-Шейн починає хворіти

Для моєї роботи: - будівляння, виробництво;

Прихований стан і непрямий контроль

LangChain управляє пам 'яттю та контекстом для вас. Це звучить зручно, доки вам не потрібно деbugувати, чому ваш про prompt довший за очікуваний M SK1 टोकони , або чому LLM раптово має доступ до історії розмови, яку ви думали, що маєте

Framework об 'єднує пропони, управляє пам' яттю , і вказує на порядок виконання непередбачувано

Cadre-Coupled Thinking

Як тільки ви приймете LangChain,, ви почнете проектувати для LangChain. Ваша архітектура з 'єднана до фреймворка ' абстракції МSK2 ланцюги

Це не є характерним для LangChain. МСК1 - всі системи роблять це. МSK2 - але в швидкому, рухомому полі, як-от LLM, МСК4 - де правильні абстракції не існує, МSK5 - ще не залагодили, , - зв 'язок з схемою, ММК7 - ризикований погляд на світ

Похибка Impedance Python

Ланг-Шейн припускає:

  • Довгий-живі процеси МSK1нотникM SK2задові робочі потоки)
  • Не змінний глобальний стан
  • Динамічне введення Python' і введення качок
  • Блокування шаблонів I/O

Як програміст .NETM SK1 я припускаю

  • Запроси-виміркованість тривалості життя (ASPM SK2NET Коренные шаблониМSK3
  • Невідмінний або явно керований стан
  • Сильне друкування і компіляція-безпека часу
  • Async/ чекати всюди

І Порти LangChain .NET існують, але вониM SK1 грають у пастку - з Python версією, і абстракції все ще відчуваються незнайомими для мовних CMSC4

Нестачі реальності виробництва

Коли ви переходите від прототипу до виробництва, вам потрібно:

  • Детермінізм - Те ж саме введення має призвести до передбачуваної поведінки
  • Випробовування - Упевниться, що виведення LLM' є безпечним перед його виконанням
  • Сэндбоксинг - Загасити, що може насправді зробити генерований код
  • Контроль витрат - Використовування токенів та накладання обмежень
  • локальна деференція - Запустити моделі без залежності від хмари

Ланг-Шейн оптимізує швидкість ітерації. МСК0, не жорсткий процес виробництва. МSK1, що. ММК2 - це штраф для демонстрацій. ММСК3 - це проблема для виробництва.

Що я будую замість

Ось модель, яку я використовую ЛЛМ - це об 'єктивні двигуни, а не виконання

LMs Do:

  • інтерпретація - Усвідомлення змісту користувача з природної мови
  • Планування - Перетворення складних завдань на кроки
  • Перетворення - Перетворення наміру в структуровані формати

МСМ не мають:

  • Комп 'ютерні агрегати - Підсумок МSK1 рядків
  • Сканувати набори даних - Поиск у великих файлах
  • Власне місце - Утримування довгоїM SK1тривалої пам 'яті

Принцип: Причина LLM. Машини обчислюють.

Ця відокремлення підштовхує все, що я будую.

Виражений контекст, Не магічна пам 'ять

Замість фреймворка-управлена пам 'ять, я будую контекст експлицитно за запитомM SK2

public class QueryContext
{
    public List<ColumnInfo> Schema { get; set; }
    public List<Dictionary<string, string>> SampleRows { get; set; }
    public List<ConversationTurn> History { get; set; }
    public string UserQuestion { get; set; }
}

Кожна про prompt конструкція видна. МСК0 Я точно знаю, що надсилається до LLM, тому що я сам створив струну.

private string BuildPrompt(QueryContext context)
{
    var sb = new StringBuilder();
    sb.AppendLine("You are a SQL expert. Generate a query based on:");
    sb.AppendLine();
    
    // Schema
    sb.AppendLine("Schema:");
    foreach (var col in context.Schema)
        sb.AppendLine($"  - {col.Name}: {col.Type}");
    
    // History (if any)
    if (context.History.Any())
    {
        sb.AppendLine("\nPrevious conversation:");
        foreach (var turn in context.History.TakeLast(3))
            sb.AppendLine($"  Q: {turn.Question} → SQL: {turn.Sql}");
    }
    
    // Current question
    sb.AppendLine($"\nQuestion: {context.UserQuestion}");
    sb.AppendLine("Generate SQL (no explanation, just the query):");
    
    return sb.ToString();
}

Немає прихованих станів. Немає магічної конкатенціїM SK1 Просто експлуатна конструкція струн . Коли це неправильне МSK3 Я знаю, чому

Детерміністичні шари виконання

Замість того, щоб дозволити LLM виконувати що завгодно, я використовую його для генерації намір, тоді виконувати ці наміри за допомогою детермінативних двигунів

  • Машини SQL (DuckDBM SK1 - Для запитів на дані
  • Поискові машини (LuceneMSC1 Postgres повний-текстM SK3 - Для отримання dokumentu
  • Мотори правил - Для логіки бізнесу
  • Доменні послуги - Для перевірених операцій

LLM генерує SQL. DuckDB запускає цеM SK1 LLM ніколи не бачить даних:

// LLM generates intent
var sql = await GenerateSqlAsync(context);

// Validate before execution
var error = ValidateSql(connection, sql);
if (error != null)
{
    // Retry with error feedback
    sql = await GenerateSqlAsync(context, previousError: error);
}

// Execute in sandboxed engine
var results = ExecuteQuery(connection, sql);

Це безпечніше, швидшеM SK1 і дебагується. LLM не може ' випадково працювати DROP TABLE тому що я підтверджую SQL першими.

Конкретний приклад: Анализ CSV без рамок

Нещодавно я написав про аналіз великих CSV-файлів за допомогою локальних LLM. Архітектура

Питання користувача → LLM МSK1 SQL → DuckDB МSK3 Результати

LLM отримує:

  • skeма CSV (назви столбів та типиM SK1
  • 3 зразки рядків МSK1 для розуміння формату даних
  • Питання користувача'

LLM генерує:

  • SQL-запитка DuckDB

Система тоді:

  • Вивіряє SQL за допомогою EXPLAIN ( вловлює помилки синтаксису без виконання
  • Виконає запитання проти файлу CSV
  • Возв 'язує результати користувача

LLM ніколи не бачить справжніх даних. Він бачить лише структуруM SK1

Це те, що Лангчайн називає системою "агентом " МSK2, яка використовує LLM для генерації дій

За винятком того, що я збудував його в ~200 лініях CM SK1 без рамкиMSC2

public class CsvQueryService
{
    private readonly OllamaApiClient _ollama;
    private readonly string _model;
    
    public async Task<QueryResult> QueryAsync(string csvPath, string question)
    {
        using var connection = new DuckDBConnection("DataSource=:memory:");
        connection.Open();
        
        // 1. Build context
        var context = BuildContext(connection, csvPath, question);
        
        // 2. Generate SQL
        var sql = await GenerateSqlAsync(context);
        
        // 3. Validate
        var error = ValidateSql(connection, sql);
        if (error != null)
        {
            // Retry once with error feedback
            sql = await GenerateSqlAsync(context, error);
        }
        
        // 4. Execute
        return ExecuteQuery(connection, sql);
    }
}

Це те, що: МСК0 - це воно. МСК1 Ніяких ланцюгів, МСК2 , ніяких агентних рамок, МSK3 , жодної магії, . . Просто експлицитно організувати LLM.

Що таке агент

Термин """ - агент "" МSK1 "" постійно викидається з-за-ду "". МSK2 "" зазвичай означає "" LM "", тобто "" будь-що, що включає в себе LLM "".

Агентом є:

  • Кільця - Він запускає багато повторень
  • З державою - Він пам 'ятає, що він спробував
  • За допомогою інструментів - Вона може діяти у світі
  • З зворотнім зв 'язком - Він спостерігає за результатами і змінює

Агент не в бібліотеціМSK0 Це' це модельM SK2

Мій шаблон агента в C#:

public class Agent
{
    private readonly List<ConversationTurn> _history = new();
    
    public async Task<string> RunAsync(string goal)
    {
        while (!IsGoalAchieved(goal))
        {
            // 1. Generate next action based on history
            var action = await GenerateActionAsync(goal, _history);
            
            // 2. Validate before executing
            if (!IsActionSafe(action))
            {
                _history.Add(new ConversationTurn 
                { 
                    Action = action, 
                    Result = "REJECTED: Unsafe action" 
                });
                continue;
            }
            
            // 3. Execute through deterministic tool
            var result = await ExecuteActionAsync(action);
            
            // 4. Record and continue
            _history.Add(new ConversationTurn { Action = action, Result = result });
        }
        
        return GenerateSummary(_history);
    }
}

Це агент. МСК0, МСК1, це петля з інструментами штату. МSK2, МSK3 і зворотнім зв 'язком. . Я написав її в рядках.

Як працює Agent Framework Microsoft'

Для того, щоб бути чесним з . NET , Microsoft опублікувала Microsoft Agent Framework що "'" має на меті МSK1 , збудований для ".", для розробників NET, що будують системи виробництва штучного інтелекту

Що має правильний механізм Microsoft Agent

Framework (, що раніше називалось Microsoft .Extensions МSK2AI

  • Виражена оркестрація - Ви контролюєте ланцюг агентаM SK1 а не структуру
  • Сильне введення - Комп 'ютерна комп' ютерна система МSK1безпека часу для визначення інструментів та вызову funkcji
  • Обсервабельність першого класу - Сконструйований - в телеметрії МSK2 журналування МSK3 та розподілене відстеження через OpenTelemetry
  • Об 'ємні межі - Предназначена для виробництва
  • Множество-моделей - Абстракції на основі OpenAIM SK1 Azure OpenAI , Ollama МSK3 та інших провайдерів
  • Інтеграція семантичного ядро - працює з ширшим набором штучного інтелекту Microsoft'

Головні компоненти:

  • IChatClient - Об 'єднаний інтерфейс для завершення чату
  • IEmbeddingGenerator - Вektorні вбудовані через провайдерів
  • AIFunction - ТипM SK1безпечний дзвінок
  • Трубопровод Middleware - Для журналуванняM SK1 пробування , шифрування МSK3 телеметрія

Наприклад:

var builder = WebApplication.CreateBuilder(args);

builder.Services.AddChatClient(builder => 
    builder.UseOllama("llama3.2")
           .UseOpenTelemetry()
           .UseLogging());

var app = builder.Build();

app.MapPost("/chat", async (IChatClient client, string message) =>
{
    var response = await client.CompleteAsync(message);
    return response.Content;
});

Там, де я досі залишаюсь нижче

Навіть з комп 'ютерною системою Microsoft' я краще залишаю яскраву оркестрацію

Я не хочу

  • Невидимими планувальники - Cadre, який самостійно вирішує, який інструмент викликати
  • Вибір непрямого інструмента - Магічне маршрутизування на основі описів природних мов
  • Похована логіка повторних спроб - Cadre -managed error recovery I can't inspect

Я хочу:

  • Бажані петлі - Я бачу кожну повторення у своєму коді
  • Проверячі кроки - Я можу перевірити логіку прийняття рішень
  • Позамінні компоненти - Я можу замінити LLM , інструменти МSK2 шар перевірки
  • Невизначеній стан - Я точно знаю, що

Microsoft ' Agent Framework ближче до того, як я думаю, ніж LangChain. Він поважає МSK2 NET шаблони M SK3 правильно використовує ін 'єкцію залежності MSC4 і не бореться з екосистемою . Але я все ще люблю писати оркестрацію самі

Коли використовувати Microsoft Agent Framework:

  • Збудувати чат-приложения з функцією виклику
  • Потрібно багатохвильовий-моделейний atbalsts M SK1швидкіш між OpenAI, Azure , Ollama МSK4
  • Хочете корпоративні характеристики (телеметріяM SK1 журнальність , розподілене відстеження МSK3
  • Працювати в команді, яка надає перевагу послідовності кадрів
  • Збудова на основі семантичного ядра

Коли перейти до рамки-безM SK1

  • Потрібно повністю контролювати цикл агентів.
  • Ви – МСК0 – створюєте індивідуальні моделі мислення
  • Ви хочете, щоб абстракції були нульовими
  • Ви' оптимізуєте для певних випадків використання M SK1 як аналіз CSV або веб-шрафтування )
  • Ви хочете зрозуміти, як це працює

Framework не вирішує, що робити з архітектурними рішеннями. МСК1. Ви все ще самі вирішуєте, що ввести у контекст. МSK2. Як відокремити дані. ММК3. І коли їх переглянути. ММСК4. Це просто простіше водопроводи.

Чому це покращує тривалість

Cadre- без систем вік кращий з кількох причин :

Результати - Ніяких абстракцій над głową . Моя служба CSV-запитів запускає підM SK2ms, тому що в ' немає фреймворка між LLM і DuckDB

Упередбачуваність витрат - Я точно контролюю, що йде до LLM . Ніхто не приховує про prompt інфляцію від фреймворка

Розладнаність - Коли щось зламається МSK1 Я МSK2 я виправляю свій код , не повертаюсь назад

Prywatність - Для систем, які мають жорсткі вимоги щодо придатності для зберігання даних , знаючи, що саме впливає на станок

Інопланетні сценарії - Пристрої на крайіM SK1 повітряні - замкнуті мережі M SK3 регулювальне середовище МSK4 Рамки приймають доступ до Інтернету та хмарні послуги .

Регуляційне дотримання МSK0 У сфері фінансів , охорони здоров 'я , та уряду МSK3 вам часто потрібно пояснити і перевірити кожну рішення

Чим більш обмежене ваше середовище, тим більше ви хочете чіткого управління.

Коли я використовуватиму Ланг-Шейн

Для дезброєння критиків є легітимні випадки, коли я дістаюсь до Ланг-Шейна

Хакатони - Швидкість демонстрації має більше значення, ніж архітектура

Викидні ПОК - Якщо ви' підтверджуєте ідею і плануєте переписати її на виробництво,

Python-важкі команди - Якщо ваша команда вже Fluentна в Pythonі , екосистема міцна

Концепції навчання - LangChain ' абстракції можуть допомогти новачкам зрозуміти модель агента перед тим, як побудувати власну

Знаючи, коли не використовувати щось так само важливе, як знати, коли його використовувати.

Поширена модель: Cadre vs. Перші принципи

Це не МСК0 , а Ланг-Шейн . МСК1 . Це "'", це компромісс між схемами і першими. МСК3, інженерія принципів.

Рамки пришвидшують знайомі проблеми. Якщо ви M SK1 будуєте 100 третю API CRUD МSK3 дістаєтеся до Entity Framework або Dapper. Patterns are settledMSC5

Але LLM-заsilaні системиM SK1 Правильні абстракції ще не зарегульовані '. Ми не знаємо M SK4 не знаємемо, чи МSK5ланцюги МSK6 або \ "агенти М SK8 чи \ МSK9ретривери " є правильними мисленними моделями MSC11 Ми ' все ще з 'ясовуємо це.

В такому середовищі я будую ближче до металу

  • LLM через прямі API дзвінки (OllamaSharp, OpenAI SDKM SK1
  • Проста конструкція за допомогою прямої конструкції струн
  • Validation via domain-specific logic
  • Виконування за допомогою призначення-вибудовані двигуни (SQL, пошукM SK3 і т.д.

Як . NET-розробник , у мене є сильні погляди на те, як треба будувати системи МSK2 експлуатна тривалість життя МСК3 сильний вказівник М СК4 асинк аж донизу MСК5 ін 'єкція залежності для перевірки МSК6

Ланг-Шейн, абстракції ' не map cleanly to those opinions. МSK2 Так що я не користуюся ними.

Зйомка

Якщо ви - програміст .NET, який дивиться на LangChain і думає: "" МSK2? Мені це потрібно? МSK3? "", ось моя відповідь.

Вам потрібно розв 'язати проблеми, що їх розв' язує LangChain - управління контекстом , інструментарій оркестрування МSK2 логіка повторюваної спроби

Вам не потрібно LangChain, щоб їх розв 'язати - Особливо, якщо ви цінуєте чіткість , сильне надрукування МSK2 і згнічення виробництва над швидким створенням прототипів M SK3

Принцип, який я будую на :

"LLMs причина . Машини комп 'ютерні МSK2 Оркестрація ваша

Або простоше:

" Якщо ви розумієте проблеми, що їх розв 'язує система, , вам часто не потрібно

Побудуйте системи, які мають сенс у вашій екосистемі, з вашими обмеженнямиM SK1 за допомогою мови' ідиомівMSC3 Для менеMska4 щоMска5 CMске6 сильне введенняMSKA7 експлициальний контроль потокуM Ska8 та детермінативний інтерфейс виконанняМSK9

Для вас – МСК0 – це може бути інакше, МСК1 – і це – МSK2 – добре, МSK3

Мета - не уникати рамок. Мета - вибирати їх усвідомлено. Мета: зрозуміти, що вони дають і скільки коштують


Дальне читання:

Finding related posts...
logo

© 2026 Scott Galloway — Unlicense — All content and source code on this site is free to use, copy, modify, and sell.