Rajoitettu epämääräisyys: Probabilististen komponenttien valvontajärjestelmämalli

Monday, 05 January 2026

2026-01-06ET14:00

Muodot, jotka ovat jääneet kehittymään

Se alkoi blogillani's käännösväline. Cachessa säilytettiin vain 5 tehtävät käyttäjää kohden M SK2 ± 6- tunnin ehdottoman ja ± 1- tunnin vaihtelevan päättymisen jälkeen. Kuudes tehtäväM SK6 Vanhin poistetaan ±. tunnin keston jälkeen~, kaikki päättyi ~.

Useimmat kehittäjät näkevät ne rajoituksina työskennellä ., mutta cachesta tuli itse-valvominen ja itsenäinen- erikoistunut. Se säilytti käyttäjien tarpeet ja unohti ne, mitä he eivät tehneet. oli järjestelmä.

Olen ottanut tämän alkuperäisen Useimminselvä.VäliaikainenSama ajatus yleistettiin:

Muodot näkyvät jatkuvasti. Siihen DiSE, LLM:t kehittävät koodia, mutta yksiköiden testit ja laaduntarkastukset määräävät, mikä säilyy. Bot-tutkimukset, heuristinen tunnistaja esittää tulospyynnöt, , mutta politiikan kynnysarvot panevat lopullisen tuomion täytäntöön.

Neljä järjestelmää. Sama muoto. Rajoitus on aina opettajaM SK2

Rajoitukset muuttavat epäselvyyden pakolliseksi valinnaksi. resurssi Toisinaan se on epistemiikka (, todisteet, ,, epävarmuustekijät,)., sama tehtävä, M SK3, valikoinnin vahvistaminen ja epävarmuuden estäminen

flowchart LR
    subgraph Constraint["The Constraint (Primitive)"]
        C1[Constrained Size]
        C2[Sliding Expiration]
    end

    subgraph Emergence["Emergent Behavior"]
        E1[Selective Forgetting]
        E2[Focus on Relevance]
        E3[Self-Optimization]
    end

    C1 --> E1
    C2 --> E1
    E1 --> E2
    E2 --> E3

    style Constraint stroke:#ef4444,stroke-width:2px
    style Emergence stroke:#22c55e,stroke-width:2px

Tämä on keskeinen näkemys Semantic Intelligence -sarja ja DiSE (johdettu synteettinen kehitys):

Rajoitukset eivät't rajoitta älykkyyttäM SK1 Rajoitukset luoda hyödyllistä käyttäytymistä muissa järjestelmissä.

LRU-varasto paineen alla. Tietojen perusteella rajoitettu LLM. Heuristinen malli politiikan kynnysarjoilla rajoittuneena . Jokainen rajoittaminen pakottaa järjestelmän tekemään päätöksiäM SK3 Nämä päätökset aiheuttavat valintapainettaMSC4

Järjestelmä
LRU Cache
LLM:n yhteenveto-ohjelmia	On lueteltava lähteistä peräisin olevia chunkkeja.
Bot Detector	Poliittiset kynnysarvot
Image Captioner	Computed color palette	CanM SK3t invent colors that don't exist

Yhteinen malli. Erilaiset alueet. Rajoituksena on opettaja

TL;DR: Antakaa todennäköisyyteen perustuvat mallit ehdottaa; sallitaan määritelmäjärjestelmät päättää. laske tosiasiat, jotka voidaan tarkistaaM SK1 antaa A.I. tulkita niitä , sitten validoida kaikki väitteet tosiasioihin nähden. Sovelletaan LLM:ihinMSC4 helistiikkaanMST5 näkemismalleihin MST6 mikä tahansa epävarmaMst7

Pattern-kortti


Intentti	On turvallista käyttää todennäköisiä osia järjestelmissä, joissa on todellisia takeita.
Voimat	Korkean -vaihtelevien tulosten ± , hiljaisen epäonnistumisen ±, rajoitetun tietojenkäsittelyn ±
Ratkaisu	Suunnitelma (todisteetM SK2 SSK3 Esittelijä ( epävarmuus) \→\johdannainen (\validate +\writetä uudelleen +\budjetti)\ →\tulos/\vaje	Seuraukset	Tekninen parantaminen etukäteispuolellaM SK1 Merkittävästi turvallisempi kehitys ja toiminta

Mitä sallitte:

Selkeämmät epäonnistumistapat (auditointijäljillä heikennettyjä tuotteita, ei hiljaista korruptiota
Turvallisempaa kehitystä (muuttaa esittelijää vapaasti
Malli-agnostinen rakenne M SK1swap 7B rajalle ilman rakenteellisia muutoksia

Kustannuksella:

Lisää putkointia etukäteispuolella: te rakennatte todisteiden keräämistä ja mittauksia ennen kuin näette tulosta

Rajoitettu epämääräisyys

Tässä rajoitettu merkitsee rajattu: jäykkiä rajoituksia, jotka pannaan täytäntöön mekaanisesti sen sijaan, että ne neuvoteltaisiin menettelyjen avulla.

Järjestelmien rakentamisen jälkeen hyvin eri alojen välillä (asiakirjan yhteenveto,kuvaanalyysiMSC2bot-detectionM SK3tietopyynnötMST4 tämä rakenteellisuus jatkui kehittymisenä~:

flowchart TB
    subgraph Input
        I[Input Data]
    end

    subgraph Truth["Deterministic Substrate (Truth Layer)"]
        T1[Compute Facts]
        T2[Extract Evidence]
        T3[Calculate Metrics]
    end

    subgraph Fuzzy["Fuzzy Proposer (Creativity Layer)"]
        F1[Generate Proposals]
        F2[Score/Rank]
        F3[Synthesize Output]
    end

    subgraph Constrain["Constrainer (Contract Layer)"]
        B1{Acceptable?}
        B2[Rewrite/Hedge]
        B3[Enforce Limits]
    end

    subgraph Output
        O[Constrained Result]
        D[Degraded Fallback]
    end

    I --> T1 --> T2 --> T3
    T3 --> F1 --> F2 --> F3
    F3 --> B1
    B1 -->|"Full"| B3 --> O
    B1 -->|"Partial"| B2 --> B3
    B1 -->|"None"| D

    T3 -.->|"Evidence"| B1

    style Truth stroke:#22c55e,stroke-width:3px
    style Fuzzy stroke:#f59e0b,stroke-width:3px
    style Constrain stroke:#ef4444,stroke-width:3px

Keskeinen käsitys: sallitaan todennäköisten osatekijöiden ehdottaa,, mutta ei koskaan antaa niiden päättää. Käyttäkää niitä sen vuoksi, mitä ne ovat.

Tämä malli on voimakas sen joustavuuden vuoksi.

Luonnollisen kielen yhteenvedot luova LLM
Heuristinen malli, jossa opittuja painoja lasketaan robotin todennäköisyydeksi
Kuva captionteja ehdottava näkemysmalli
Heikkojen luokituslaitosten ryhmä äänestää päätöksestä

Rakenne pysyy samanlaisena. Vain osat muuttuvatM SK1

Ongelma: rajoittamattomat järjestelmät epäonnistuvat hiljaisesti

Ilman rajoituksia probabilistiset järjestelmät epäonnistuvat niin, että niitä on vaikea havaita ja mahdotonta estää.

flowchart LR
    subgraph Unconstrained["❌ Unconstrained System"]
        U1[Input] --> U2[LLM/Model]
        U2 --> U3[Output]
    end

    subgraph Constrained["✓ Constrained System"]
        B1[Input] --> B2[Compute Facts]
        B2 --> B3[LLM/Model]
        B3 --> B4{Validate}
        B4 -->|Pass| B5[Output]
        B4 -->|Fail| B6[Fallback]
    end

    style Unconstrained stroke:#ef4444,stroke-width:2px
    style Constrained stroke:#22c55e,stroke-width:2px

Ilman rajoituksia epäonnistumiset:

LLM kuvailee luottavaisesti värit, jotka eivät ole esillä
Yhteenvetona mainitaan tosiasiat, jotka eivät näy missään lähdemateriaalissa
Botin havaitsemistulokset muuttuvat kiihkeästi merkityksettömien signaalien perusteella
Opittu heuristinen virtautuminen liikennemuodon muuttuessa ja laillisten käyttäjien vaikeiden esteiden vuoksi
SQL-kyselyihin sisältyvät UPDATE ja DELETE-lausekkeet, kun vain haluttiin lukea
Kustannusten kasvu kiihtyy, kun rajalliset tapaukset kuluttavat rajoittamattomia resursseja

Instinkt on lisätä enemmän kannustimia, lisää esimerkkejä, lisää pehmeää vartiraudettaM SK2 Mutta probabilistisia järjestelmiä ei voida luottaa siihen, että ne kunnioittavat pehmeäjä rajojaMSC4 Ne edellyttävät vaikeita menetelmiä .

Lain 10 käskyä

Muodot kristallisoituivat toimintasäännöt , jotka kodifioivat rajoitettua hämmennystä (valittuM SK1

Päätöslauselma
I. LLM:t eivät saa omistaa valtiota	Valtio elää pohjassaM SK1 ei ehdottaja
II. LLM:t eivät saa olla ainoa sivuvaikutuksen aiheuttaja	Konstraineri sitoutuu ; LLM suosittelee
IV. Käyttäkää LLM:itä, jos todennäköisyys on hyväksyttävissä	luokitteluM SK1 yhteenveto, luokitus (ei invarianttejaMSC4
V. Älkää koskaan pyytäkö LLM:ta päättämään johdannaisesta Booleanista	Jos voitte laskea sitä,
VIII. Demote the LLM to advisor	Ehdokas

Maksut: etuja ei tarvita. Pienestä paikallisesta LLM:stä tulee voima multiplikaatori, kun se suorittaa luokittelua ja hypoteesien generationia.

Valvontateorian yhteys

Muodon juuret ovat syvät valvontateoria: se kuvernööri, joka rajoittaa korkean

Classical Control:       Steam Engine → Governor → Constrained Speed
Constrained Fuzziness:   LLM/Heuristic → Constrainer → Constrained Output

Te ette tee moottoreita ", ymmärrätte, ", niiden ei pitäisi räjähtää,', ne eivät räjähdy,M SK4, te esitätte sen fyysisesti,., samoin kuin todennäköisissä järjestelmissä,MSC6, te ette,MST7, käännä LLM:tä, että se ei hallucinatelisi, MST9, te ehkäisette tietokoneesti, että hallucinaatiot eivät pääse outputiin.

Yhtenäistyö akateemisesti suuntautuneelle:

Herbert Simon's rajallinen järkevyys - päätös
"RAG:n kattava tutkimus"
Mitchell's M SK1Learningin ennakkoluulojen välttämättömyyttä yleistelevissä asioissa

Mitä Frontier-malleihin kuuluu?

Ilmeinen vastalause: M SK1Työtyvä , mutta GPT-5 / Claude SSK5 |/ Gemini Ultra on niin hyvä, että nämä rajoitukset ovat voitettuja

Ehkä. Frontier -mallit pöytäkirja paper over many cracks that smaller systems expose. They hallucinate less frequently. They follow instructions more reliablyM SK2 They handle edge cases more gracefullyMSC3 Jos te rakennatte prototypia tai työkalua, jossa tilapäisiä epäonnistumisia voidaan hyväksyä, , riittäisikö raja-arvioinnista, johon sisältyy hyvää viivyttelyä.

Mutta "kyvyttömästiM SK1 ei ole "ei milloinkaan." ja " luotettavamminMSC5 ei SSK6 takaa

Euroopan unionin pienet mallit artikla tutkii tätä perusteellisesti, mutta keskeinen näkemys on rajamallit epäonnistuvat eri tavoin, ei vähemmän. Niiden epäonnistumiset ovat semantisia rakenteellisen sijasta. vahvemmin havaitseminen, ei ole helpompaaM SK1

Vielä tärkeämpää: tekninen ohjaus ei voi korvata insinööritieteen alaa.. Riippumatta siitä, miten hyvänä mallista tulee

Ongelma	Miks Prompting Can't Fix It
Valtion hallinnointi
sivuvaikutukset	mallit voivat suositella toimia, mutta ne eivät takaa täytäntöönpanoa
Tilintarkastuskelpoisuus
Päätöslauselma
Taustaa mittakaavassa		Yhteensä	-	Tuken hinnoitteluyhdisteet koostuvat volumesta

Jopa jos rajamalli voisi luotettavasti tuottaa oikeanlaisen outputin 99.9% ajanjaksosta , tarvitsette edelleenM SK2

Validaatio 0.1%:n pyytämiseksi
Fallbacks, kun validointi epäonnistuu
Luettelo tapahtuneesta
Metrikka jäljittää ajoa ajan mittaan

Se on constrainer-laaja. Te rakennatte sitä joka tapauksessa.

Ero on siinä, rakennetaanko se ennen epäonnistumiset opettavat, miksi se on tärkeää sen jälkeen. Rajoitetut hämmennykset sanovat, että : rakenna se ensin, . sitten mallin kokosta tulee käyttöönottovaihtoehto,, ei arkkitehdas,. Hyvät rajoitukset sisältävä B-malli on usein parempi kuin huonojen rajoitteiden sisältämä rajamalli

Mallivalinnan muutokset kuinka usein hit the constrainer. It doesnM SK1t remove the need for it

Rajoitettu epämääräisyys

1. määrittele muuttumattomuutenne

Mitä on tehtävä koskaan rikkotaan?

public class SummaryInvariants
{
    public bool ValidateSummary(Summary summary, SourceDocument source)
    {
        // No claims without evidence pointers (e.g., "[chunk-3]" must exist in source)
        if (summary.Claims.Any(c => !source.ChunkIds.Contains(c.EvidenceChunkId)))
            return false;

        // No color assertions unless we computed a palette from the image
        if (summary.ColorClaims.Any() && !source.HasComputedPalette)
            return false;

        // No PII in output
        if (PiiDetector.ContainsPii(summary.Text))
            return false;

        return true;
    }
}

Yleiset invariantit ovat::

Ei vaatimuksia ilman todisteiden osoittajia
Ei väriä, ellei se johdu paletin tilastoista
Ei PII-päästöjä
Ei kirjoiteta, vain lukea-onnistaan SQL
Ei ole minkäänlaista henkilöllisyysasennetta, ellei se ole selvästi perusteltua

2. tiukat talousarviot

Mitä on tehtävä aina rajoitetaan?

public record ProcessingBudget(
    int MaxContextTokens = 4000,
    int MaxModelCalls = 5,
    TimeSpan MaxLatency = default,  // e.g., 30 seconds
    int MaxVramMb = 2048,
    decimal MaxCostUsd = 0.10m
)
{
    public ProcessingBudget() : this(MaxLatency: TimeSpan.FromSeconds(30)) { }
}

Budjetti ei ole ehdotus, vaan se on osien purkaja. Kun budjettia ylitetään, järjestelmä heikkenee kauniisti sen sijaan, että se polttaisi jatkuvasti resursseja.

3. Rakennetaan ovityyppejä

Konstraineri ei vain hylkää kirjaa uudelleen liiallinen luottamuslausekkeet suojattuihin ilmoituksiin ("mahdollistetaanM SK1 " epävarma,", |" saatavilla olevien todisteiden perusteella–"), tai jätetään täysin ilman tukia olevat väitteet pois ‐. uudelleen kirjoittaminen säilyttää signaalin samalla kun liiallista luottamusta jätetään pois | , pitää järjestelmiä hyödyllisinä epävarmuuden vallitessa sen sijaan, että ne olisivat brittiläisiä |

Yleiset constrainerit, joita käytettäisiin uudelleen kaikissa järjestelmissä

Scheman portti: JSON-skema +tyyppinen validointi

public class SchemaGate<T>
{
    public (bool Valid, T? Result, string? Error) Validate(string json)
    {
        try
        {
            var result = JsonSerializer.Deserialize<T>(json, _options);
            return (true, result, null);
        }
        catch (JsonException ex)
        {
            return (false, default, ex.Message);
        }
    }
}

Evidence Gate: Jokaisen vaatimuksen on liitettävä lähteisiin

public class EvidenceGate
{
    public Summary EnforceEvidence(Summary proposed, IReadOnlySet<string> sourceChunkIds)
    {
        // Keep only claims that reference chunks we actually have
        var validClaims = proposed.Claims
            .Where(claim => sourceChunkIds.Contains(claim.EvidenceChunkId))
            .ToList();

        return proposed with { Claims = validClaims };
    }
}

Politiikan portti:PrivaatiaM SK1turvallisuussäännöt Talousarvion portti: AikaM SK1laskenta Jälleen kirjoittamaan ovi: Väitteiden muuttaminen varoitelausekkeiksi

4. määritellä epäonnistumisen käsittely

Kun hämärä osa epäonnistuu, donMSC1t crash. DegradeM SK3

public async Task<SummaryResult> SummarizeWithFallback(Document doc)
{
    try
    {
        var proposed = await _llm.GenerateSummary(doc);
        var constrained = _constrainer.Enforce(proposed, doc);

        if (constrained.Claims.Count > 0)
            return SummaryResult.Success(constrained);

        // LLM output was entirely invalid. Fall back to extractive
        return SummaryResult.Degraded(
            _extractiveSummarizer.Summarize(doc),
            reason: "LLM claims failed validation");
    }
    catch (BudgetExceededException ex)
    {
        // Log for evolution, return deterministic-only
        _logger.LogWarning(ex, "Budget exceeded for {DocId}", doc.Id);
        return SummaryResult.Degraded(
            _extractiveSummarizer.Summarize(doc),
            reason: ex.Message);
    }
}

Keskeiset periaatteet:

Lyhyesti vähennytään deterministiseen modetiin
Palauttaa osittainen tulos selkeän epävarmuusmerkinnän avulla
kirjaa virheelliset ehdotukset koulutussignaaliksi nopealle kehitykselle

Real-World -esimerkit

LLM-Alkuperäiset järjestelmät (BriefM SK2

Järjestelmä
DocSummarizer	BERT `[chunk-N]`)
Luonnollinen tallentaminen	ImageSharp-palettiM SK1metrit	Florence/LLaVA-nimitys SSK4 Värivaatimusten on oltava yhdenmukaisia lasketun paletin kanssa
DataSummarizer	DuckDB-skema			LLM	→	SQL
Mediaanalyysi	näytelmäaikataulutM SK1 käännös	LLM:n beat sheet	Beatin on mainittava aikataulut

Muodot ovat aina samat.

Bot-tutkimukset: Muutoin-LLM-esimerkki

Tämä kohta on tarkoituksellisesti yksityiskohtainen, koska se osoittaa mallin ilman minkäänlaista LLM:tä.

Bottitietojärjestelmäni (Enitenselvä.BotDetection) osoittaa, että rajoitetut hämäryydet eivät ole LLM-pohjaisia järjestelmiä koskevat järjestelmät.

Kolme tasoa:

Alkuperä (Truth LayerM SK1: Yksittäiset havaintolaitteet laskevat objektiiviset signaalit HTTP-pyynnöistä
- UserAgent-analyysi: ua.is_bot, ua.contains_automation_keyword
- Header-analyysi: hdr.accept_language_count, hdr.missing_standard_headers
- IP-analyysi: ip.is_datacenter, ip.reputation_score
- Behavioral analysis: beh.requests_per_minute, beh.path_entropy

Esittelijä (LuovutuslaajaM SK1: Heuristinen malli yhdistää signaalit painotetun sigmoidin kautta

// Each detector emits a contribution, not a verdict
DetectionContribution.Bot(
    source: "UserAgent",
    category: "BotSignature",
    confidence: 0.85,
    reason: "Contains 'Googlebot' signature",
    weight: 1.0
);

// Aggregation via weighted sigmoid
var weightedSum = contributions.Sum(c => c.ConfidenceDelta * c.Weight);
var botProbability = 1.0 / (1.0 + Math.Exp(-weightedSum));

Konstraineri (Contract LayerM SK1: Politiikan moottori vahvistaa tiukkoja kynnysarvoja ja toimia

public record DetectionPolicy(
    double EarlyExitThreshold = 0.3,      // Exit if < 30% = confident human
    double ImmediateBlockThreshold = 0.95, // Block only if 95%+ certain
    double AiEscalationThreshold = 0.6     // Escalate if risk unclear
);

Keskeinen näkemys: Tuomittajat antavat todisteitaM SK1 Ei tuomioita

Jokainen detektaattori osallistuu lopulliseen päätökseen tekemättä sitä itse. DetectionContribution tallenteita:

ConfidenceDelta: Kuinka paljon tämä painostaa kohti robotia (+) tai ihmistä
Weight: Mitkä vaikutukset tällä tunnistuslaitteella on
Signals: lasketut tosiasiat
Reason: Inhimillinen

Tämä ero merkitsee, että voitte

Add/remove detectors without changing aggregation logic
Tune-painot riippumatta havaitsemislogiikasta
Opi optimaalisista painoista ajan mittaan saadun palautteen perusteella

Vaihtoehtoinen LLM-hyväksyntä

Here's where it gets interesting: pattern supports valinnainen laajentaminen LLM-järjestelmään when the heuristic model is uncertain

// Default policy: fast heuristics only
var defaultPolicy = new DetectionPolicy {
    FastPath = ["UserAgent", "Header", "Ip", "Behavioral"],
    EscalateToAi = false
};

// High-security policy: escalate uncertain cases to LLM
var strictPolicy = new DetectionPolicy {
    FastPath = ["UserAgent", "Header", "Ip"],
    SlowPath = ["Behavioral", "ClientSide"],
    AiPath = ["Onnx", "Llm"],  // Optional ML/LLM detectors
    EscalateToAi = true,
    AiEscalationThreshold = 0.4  // Escalate when 40-60% uncertain
};

Kun nopeuttaminen käynnistää, LLM saa kerätyt signaalit ja antaa luonnollisen kielianalyysin, mutta constrainer soveltaa edelleen kynnysarvoja.

Wave-pohjainen orkestraatio

Järjestelmä toimii satelliittiseurantajärjestelmissä,, joille myöhemmät satelliititittina aktivoitetut asteittain tulevat satelliititM SK1

flowchart LR
    subgraph Wave0["Wave 0: Fast & Free"]
        W0A[UserAgent]
        W0B[Header]
        W0C[IP]
    end

    C1{Consensus?}

    subgraph Wave1["Wave 1: Expensive"]
        W1A[Behavioral]
        W1B[ClientSide]
    end

    C2{Still Uncertain?}

    subgraph Wave2["Wave 2: AI"]
        W2A[ONNX Model]
        W2B[LLM]
    end

    subgraph Policy["Policy Enforcement"]
        P1{Score > 0.95?}
        P2[Block]
        P3[Allow]
        P4[Log & Learn]
    end

    Wave0 --> C1
    C1 -->|"Yes: 3+ agree"| Policy
    C1 -->|"No"| Wave1
    Wave1 --> C2
    C2 -->|"No"| Policy
    C2 -->|"Yes + AI enabled"| Wave2
    Wave2 --> Policy

    P1 -->|Yes| P2
    P1 -->|No| P3
    P3 --> P4

    style Wave0 stroke:#22c55e,stroke-width:2px
    style Wave1 stroke:#f59e0b,stroke-width:2px
    style Wave2 stroke:#ef4444,stroke-width:2px
    style Policy stroke:#8b5cf6,stroke-width:2px

Tämä on rajattu hämmennys asteittainen syveneminen: halpaa heuristiikkaa sovelletaan selviin tapauksiin , kallis AI käsittelee syrjäisiä tapauksia M SK2 ja politiikka asettaa rajoituksia jokaiseen askeleeseen

Oppiminen ilman riskiä

Koska constraineri vahvistaa turvallisuutta riippumatta siitä, mitä detektorit tuottavat, järjestelmä voi oppia turvallisesti.

// After each request, submit learning event (non-blocking)
LearningCoordinator.TrySubmit("ua.pattern", new LearningEvent {
    Features = extractedFeatures,
    Label = actualOutcome,  // Was it actually a bot?
    Confidence = detectionConfidence
});

// Background: EMA weight update
var alpha = 0.1;  // Learning rate
newWeight = existingWeight * (1 - alpha) + observedDelta * alpha;

Painot lähentyvät todellisten mallien suuntaan ajan mittaan. KorkeatM SK1luottamuksen havainnot vaikuttavat enemmän . Mutta huono painon päivitys ei voi koskaan aiheuttaa rajoittamatonta haittaaMSC3 Politiikan kynnysarvoja sovelletaan edelleen.

Miksi tämä on tärkeää

BotDetection osoittaa, että rajoitettu epämääräisyys ei koske erityisesti LLM:itä vaan kaikkia järjestelmiä, joissa

Useat epävarmat signaalit on yhdistettävä
Erilaisilla signaaleilla on erilainen luotettavuus
Vahvoja rajoituksia on sovellettava tulosten mukaan
Järjestelmän olisi opittava ja parannettava ajan myötä
Kustannustehokas analyysi on tehtävä vain silloin, kun halpa analyysi ei riitä

LLM on vain yksi mahdollinen epämääräinen osatekijä.

Milloin ei saa käyttää rajoitettua hämmennystä

Muodot ovat kalliita.

Skip it when:

Tehtävä on täysin deterministinen. Jos voitte kirjoittaa if X then Y, ette tarvitse' ei tarvitse esittelijää . kirjoita vain koodin
Te olette valmistamassa prototypia Ette vielä tiedä, mitkä rajoitukset ovat tärkeitä.
Tuotanto on kertakäyttöinen. Brainstorming, drafts, creative explorationM SK2 if a human reviews everything anyway , the constrainer is redundantMSC4
Occasional failures are acceptable. Jos 5% halucinaatiotaso on asianmukainen käyttötapauksessanneM SK1 hillitsemisen tekniset kustannukset voivat ylittää epäonnistumista koskevat kustannukset
Teillä ei ole pohjaa. Jos pystytte't laskemaan pohjatodellisuutta, voitte 't rajoittaa sitäM SK3 EtteMSC4 petä sitä. Voitte joko löytää laskettavissa olevia tosiasioita tai hyväksyä epäselvyyden

Tämä malli on tarkoitettu järjestelmiin, joissa

Probabilistiset tulokset pääsevät käyttäjiin tai muihin järjestelmiin ilman ihmisen arviointia
Ongelmat ovat vaikeita, kalliitaM SK1 tai yhdistettyjä
Teidän on opittava/ kehittymään vaarantamatta tuotantoa

Jos se ei ole teidän tilanneenne, yksinkertaisempi lähestymistapa voittaa

Integraatio evolutiivisiin järjestelmiin

Rajoitettu hämmennys on entistäkin voimakkaampaa DiSE:n kanssa yhdistettynä.

Generaatio useat epämääräiset ehdotukset
Validaatio Invariantteja vastaan
Tulos rajoitetun tyytyväisyyden perusteella + käyttötarkoituksiin perustuvat mittarit
Jätkää paras, hylkää loput
Yhdenmukaistaminen puutteet koulutussignaaleina nopealle kehitykselle

Keskeinen käsitys: voitte kehittää ehdottajaa vaarantamatta järjestelmää, koska constraineri vahvistaa turvallisuutta ja asianmukaisuutta riippumatta siitä, mitä ehdottaja tuottaa

public async Task<EvolvedPrompt> EvolvePromptAsync(
    Prompt current,
    IReadOnlyList<FailureCase> failures)
{
    // Failures are safe to collect because constrainers caught them
    var patterns = AnalyzeFailurePatterns(failures);

    // Generate candidate prompt mutations
    var candidates = await _llm.GeneratePromptVariants(current, patterns);

    // Test each against held-out validation set
    var scored = await Task.WhenAll(candidates.Select(async c =>
    {
        var results = await RunValidationSet(c);
        return (Prompt: c, Score: CalculateScore(results));
    }));

    return scored.OrderByDescending(x => x.Score).First().Prompt;
}

One-Sentence määritelmä

"Säännelty epämääräisyys on tapa antaa todennäköisten osatekijöiden ehdottaa merkitystä, kun taas deterministiset järjestelmät panevat täytäntöön totuuden

Päätelmä: PuheenjohtajaM SK1 Ei moottori

Palaan takaisin siihen LRU-キャッシュiin, joka sai älykkäämmäksi, kun se keskeytyi.

Ratkaisu oli ' eikä se antanut lisää kapasiteettia. sallitaan, että rajoitukset tekevät tehtävänsä. Rajoitettu koko pakotti valinnan. Suljettu päättyminen pakotti unohtamaanM SK2 YhdessäMSC3 ne tekivät oppimisenMST4

Tämä on avainkäsitys. en pysty korjaamaan probabilistisia järjestelmiä tekemällä niitä vähemmän todennäköisyys. Te korjaatte ne jättämättä todennäköisyydet puuttumaan takuihinne.

flowchart LR
    E[🔥 High-Variance<br/>Engine] --> G[⚙️ Governor] --> O[✓ Constrained<br/>Output]

    style E stroke:#ef4444,stroke-width:2px
    style G stroke:#22c55e,stroke-width:3px
    style O stroke:#3b82f6,stroke-width:2px

Hiilimoottori ei ymmärrä, että se pitäisi räjähtää, vaan kunnostaa, ja kuvernööri estää sen fyysisesti. LLM:llä ei ymmärretä, että ne pitäisi ymmärtää, että niiden pitäisi tuntea hallucinaatioita.

Sama malli. Eräs vuosisataM SK1

Seuraavalla kerralla, kun olette kiusattu lisäämään järjestelmäänne vielä yhden kohdan, toivotte mallin ymmärtävän, että se on rajallinen. Voinko laskea tämän rajoituksen?

Jos kyllä, lasketaan seM SK1 sitten rajoitetaan mallia siihen .

Harvat rajat voittaa pehmeät ehdotukset. Joka kertaM SK1

Luettelo

Osuus	Muodos	Axis SSK3
1
2	Rajoitettu hämärä MoM	Useat osat
3	Rajoitettu hämärän taustan vetäminen	Aika / muisti
4	Kuvan yhteenveto	Käytännön täytäntöönpano

Osa 2 laajentaa tätä rakennetta moniin järjestelmiin-agenttijärjestelmiin . Muodot eivät puhu toistensa kanssaM SK2 Ne julkaisevat kirjoitetut signaalit yhteiseen substrattiin. Rajoituksesta tulee itse viestintä

Osa 3 mallit saattavat huomata, mutta insinööri päättää, mikä pysyy.

Osa 4 osoittaa kaikki kolme mallia, jotka on otettu käyttöön ImageSummarizer—aalto, -pohjainen kuvaanalyysiputki, jossa ColorWave laskee tosiasiat,