# Rajoitettu epämääräisyys: Probabilististen komponenttien valvontajärjestelmämalli ## Muodot, jotka ovat jääneet kehittymään Se alkoi blogillani's [käännösväline](/blog/fire-and-dont-quite-forget-ephemeral-execution). Cachessa säilytettiin vain 5 tehtävät käyttäjää kohden M SK2 ± 6- tunnin ehdottoman ja ± 1- tunnin vaihtelevan päättymisen jälkeen. Kuudes tehtäväM SK6 Vanhin poistetaan ±. tunnin keston jälkeen~, kaikki päättyi ~. Useimmat kehittäjät näkevät ne rajoituksina työskennellä ., mutta cachesta tuli *itse-valvominen* ja *itsenäinen- erikoistunut*. Se säilytti käyttäjien tarpeet ja unohti ne, mitä he eivät tehneet. *oli* järjestelmä. Olen ottanut tämän alkuperäisen [Useimminselvä.Väliaikainen](https://github.com/scottgal/mostlylucid.atoms)Sama ajatus yleistettiin: Muodot näkyvät jatkuvasti. Siihen [DiSE](/blog/dise-architecture-overview), LLM:t kehittävät koodia, mutta yksiköiden testit ja laaduntarkastukset määräävät, mikä säilyy. [Bot-tutkimukset](/blog/learning-lrus-when-capacity-makes-systems-better), heuristinen tunnistaja esittää tulospyynnöt, , mutta politiikan kynnysarvot panevat lopullisen tuomion täytäntöön. Neljä järjestelmää. Sama muoto. Rajoitus on aina opettajaM SK2 Rajoitukset muuttavat epäselvyyden pakolliseksi valinnaksi. *resurssi* Toisinaan se on *epistemiikka* (, todisteet, ,, epävarmuustekijät,)., sama tehtävä, M SK3, valikoinnin vahvistaminen ja epävarmuuden estäminen ```mermaid flowchart LR subgraph Constraint["The Constraint (Primitive)"] C1[Constrained Size] C2[Sliding Expiration] end subgraph Emergence["Emergent Behavior"] E1[Selective Forgetting] E2[Focus on Relevance] E3[Self-Optimization] end C1 --> E1 C2 --> E1 E1 --> E2 E2 --> E3 style Constraint stroke:#ef4444,stroke-width:2px style Emergence stroke:#22c55e,stroke-width:2px ``` Tämä on keskeinen näkemys [Semantic Intelligence -sarja](/blog/semantidintelligence-part1) ja [DiSE (johdettu synteettinen kehitys)](/blog/dise-architecture-overview): **Rajoitukset eivät't rajoitta älykkyyttäM SK1 Rajoitukset *luoda hyödyllistä käyttäytymistä* muissa järjestelmissä.** LRU-varasto paineen alla. Tietojen perusteella rajoitettu LLM. Heuristinen malli politiikan kynnysarjoilla rajoittuneena . Jokainen rajoittaminen pakottaa järjestelmän tekemään päätöksiäM SK3 Nämä päätökset aiheuttavat valintapainettaMSC4 | Järjestelmä |--------|----------------------|-------------------| | LRU Cache | LLM:n yhteenveto-ohjelmia | On lueteltava lähteistä peräisin olevia chunkkeja. | Bot Detector | Poliittiset kynnysarvot |Image Captioner |Computed color palette |CanM SK3t invent colors that don't exist Yhteinen malli. Erilaiset alueet. Rajoituksena on opettaja --- > **TL;DR**: Antakaa todennäköisyyteen perustuvat mallit *ehdottaa*; sallitaan määritelmäjärjestelmät *päättää*. laske tosiasiat, jotka voidaan tarkistaaM SK1 antaa A.I. tulkita niitä , sitten validoida kaikki väitteet tosiasioihin nähden. Sovelletaan LLM:ihinMSC4 helistiikkaanMST5 näkemismalleihin MST6 mikä tahansa epävarmaMst7 --- ### Pattern-kortti | | | |---|---| | **Intentti** | On turvallista käyttää todennäköisiä osia järjestelmissä, joissa on todellisia takeita. | **Voimat** | Korkean -vaihtelevien tulosten ± , hiljaisen epäonnistumisen ±, rajoitetun tietojenkäsittelyn ± | **Ratkaisu** | Suunnitelma (todisteetM SK2 SSK3 Esittelijä ( epävarmuus) \→\johdannainen (\validate +\writetä uudelleen +\budjetti)\ →\tulos/\vaje|\ | **Seuraukset** | Tekninen parantaminen etukäteispuolellaM SK1 Merkittävästi turvallisempi kehitys ja toiminta | **Mitä sallitte:** - Selkeämmät epäonnistumistapat (auditointijäljillä heikennettyjä tuotteita, ei hiljaista korruptiota - Turvallisempaa kehitystä (muuttaa esittelijää vapaasti - Malli-agnostinen rakenne M SK1swap 7B rajalle ilman rakenteellisia muutoksia **Kustannuksella:** - Lisää putkointia etukäteispuolella: te rakennatte todisteiden keräämistä ja mittauksia ennen kuin näette tulosta --- ## Rajoitettu epämääräisyys Tässä rajoitettu merkitsee **rajattu**: jäykkiä rajoituksia, jotka pannaan täytäntöön mekaanisesti sen sijaan, että ne neuvoteltaisiin menettelyjen avulla. Järjestelmien rakentamisen jälkeen hyvin eri alojen välillä (asiakirjan yhteenveto,kuvaanalyysiMSC2bot-detectionM SK3tietopyynnötMST4 tämä rakenteellisuus jatkui kehittymisenä~: ```mermaid flowchart TB subgraph Input I[Input Data] end subgraph Truth["Deterministic Substrate (Truth Layer)"] T1[Compute Facts] T2[Extract Evidence] T3[Calculate Metrics] end subgraph Fuzzy["Fuzzy Proposer (Creativity Layer)"] F1[Generate Proposals] F2[Score/Rank] F3[Synthesize Output] end subgraph Constrain["Constrainer (Contract Layer)"] B1{Acceptable?} B2[Rewrite/Hedge] B3[Enforce Limits] end subgraph Output O[Constrained Result] D[Degraded Fallback] end I --> T1 --> T2 --> T3 T3 --> F1 --> F2 --> F3 F3 --> B1 B1 -->|"Full"| B3 --> O B1 -->|"Partial"| B2 --> B3 B1 -->|"None"| D T3 -.->|"Evidence"| B1 style Truth stroke:#22c55e,stroke-width:3px style Fuzzy stroke:#f59e0b,stroke-width:3px style Constrain stroke:#ef4444,stroke-width:3px ``` Keskeinen käsitys: **sallitaan todennäköisten osatekijöiden ehdottaa,, mutta ei koskaan antaa niiden päättää**. Käyttäkää niitä sen vuoksi, mitä ne ovat. Tämä malli on voimakas sen joustavuuden vuoksi. - Luonnollisen kielen yhteenvedot luova LLM - Heuristinen malli, jossa opittuja painoja lasketaan robotin todennäköisyydeksi - Kuva captionteja ehdottava näkemysmalli - Heikkojen luokituslaitosten ryhmä äänestää päätöksestä Rakenne pysyy samanlaisena. Vain osat muuttuvatM SK1 ## Ongelma: rajoittamattomat järjestelmät epäonnistuvat hiljaisesti Ilman rajoituksia probabilistiset järjestelmät epäonnistuvat niin, että niitä on vaikea havaita ja mahdotonta estää. ```mermaid flowchart LR subgraph Unconstrained["❌ Unconstrained System"] U1[Input] --> U2[LLM/Model] U2 --> U3[Output] end subgraph Constrained["✓ Constrained System"] B1[Input] --> B2[Compute Facts] B2 --> B3[LLM/Model] B3 --> B4{Validate} B4 -->|Pass| B5[Output] B4 -->|Fail| B6[Fallback] end style Unconstrained stroke:#ef4444,stroke-width:2px style Constrained stroke:#22c55e,stroke-width:2px ``` **Ilman rajoituksia epäonnistumiset:** - LLM kuvailee luottavaisesti värit, jotka eivät ole esillä - Yhteenvetona mainitaan tosiasiat, jotka eivät näy missään lähdemateriaalissa - Botin havaitsemistulokset muuttuvat kiihkeästi merkityksettömien signaalien perusteella - Opittu heuristinen virtautuminen liikennemuodon muuttuessa ja laillisten käyttäjien vaikeiden esteiden vuoksi - SQL-kyselyihin sisältyvät UPDATE ja DELETE-lausekkeet, kun vain haluttiin lukea - Kustannusten kasvu kiihtyy, kun rajalliset tapaukset kuluttavat rajoittamattomia resursseja Instinkt on lisätä enemmän kannustimia, lisää esimerkkejä, lisää pehmeää vartiraudettaM SK2 Mutta probabilistisia järjestelmiä ei voida luottaa siihen, että ne kunnioittavat pehmeäjä rajojaMSC4 Ne edellyttävät vaikeita menetelmiä . ## Lain 10 käskyä Muodot kristallisoituivat [toimintasäännöt](/blog/tencommandments) , jotka kodifioivat rajoitettua hämmennystä (valittuM SK1 | Päätöslauselma |-------------|------------------------------| | **I. LLM:t eivät saa omistaa valtiota** | Valtio elää pohjassaM SK1 ei ehdottaja | | **II. LLM:t eivät saa olla ainoa sivuvaikutuksen aiheuttaja** | Konstraineri sitoutuu ; LLM suosittelee | | **IV. Käyttäkää LLM:itä, jos todennäköisyys on hyväksyttävissä** | luokitteluM SK1 yhteenveto, luokitus (ei invarianttejaMSC4 | | **V. Älkää koskaan pyytäkö LLM:ta päättämään johdannaisesta Booleanista** | Jos voitte laskea sitä, | **VIII. Demote the LLM to advisor** | Ehdokas Maksut: **etuja ei tarvita**. Pienestä paikallisesta LLM:stä tulee voima multiplikaatori, kun se suorittaa luokittelua ja hypoteesien generationia. ## Valvontateorian yhteys Muodon juuret ovat syvät **valvontateoria**: se kuvernööri, joka rajoittaa korkean ``` Classical Control: Steam Engine → Governor → Constrained Speed Constrained Fuzziness: LLM/Heuristic → Constrainer → Constrained Output ``` Te ette tee moottoreita ", ymmärrätte, ", niiden ei pitäisi räjähtää,', ne eivät räjähdy,M SK4, te esitätte sen fyysisesti,., samoin kuin todennäköisissä järjestelmissä,MSC6, te ette,MST7, käännä LLM:tä, että se ei hallucinatelisi, MST9, te ehkäisette tietokoneesti, että hallucinaatiot eivät pääse outputiin. **Yhtenäistyö** akateemisesti suuntautuneelle: - Herbert Simon's [rajallinen järkevyys](https://en.wikipedia.org/wiki/Bounded_rationality) - päätös - "[RAG:n kattava tutkimus](https://arxiv.org/abs/2410.12837)" - Mitchell's M SK1Learningin ennakkoluulojen välttämättömyyttä yleistelevissä asioissa ## Mitä Frontier-malleihin kuuluu? Ilmeinen vastalause: M SK1Työtyvä , mutta GPT-5 \/ Claude SSK5 |/ Gemini Ultra on niin hyvä, että nämä rajoitukset ovat voitettuja Ehkä. Frontier -mallit *pöytäkirja* paper over many cracks that smaller systems expose. They hallucinate less frequently. They follow instructions more reliablyM SK2 They handle edge cases more gracefullyMSC3 Jos te rakennatte prototypia tai työkalua, jossa tilapäisiä epäonnistumisia voidaan hyväksyä, , riittäisikö raja-arvioinnista, johon sisältyy hyvää viivyttelyä. Mutta "kyvyttömästiM SK1 ei ole "ei milloinkaan." ja " luotettavamminMSC5 ei SSK6 takaa Euroopan unionin [pienet mallit artikla](/blog/small-models-not-budget-option) tutkii tätä perusteellisesti, mutta keskeinen näkemys on **rajamallit epäonnistuvat eri tavoin, ei vähemmän**. Niiden epäonnistumiset ovat semantisia rakenteellisen sijasta. *vahvemmin* havaitseminen, ei ole helpompaaM SK1 Vielä tärkeämpää: **tekninen ohjaus ei voi korvata insinööritieteen alaa.**. Riippumatta siitä, miten hyvänä mallista tulee | Ongelma | Miks Prompting Can't Fix It |---------|---------------------------| | Valtion hallinnointi | sivuvaikutukset | mallit voivat suositella toimia, mutta ne eivät takaa täytäntöönpanoa | Tilintarkastuskelpoisuus | Päätöslauselma | Taustaa mittakaavassa || |Yhteensä | - |Tuken hinnoitteluyhdisteet koostuvat volumesta | Jopa jos rajamalli voisi luotettavasti tuottaa oikeanlaisen outputin 99.9% ajanjaksosta , tarvitsette edelleenM SK2 - Validaatio 0.1%:n pyytämiseksi - Fallbacks, kun validointi epäonnistuu - Luettelo tapahtuneesta - Metrikka jäljittää ajoa ajan mittaan Se on constrainer-laaja. Te rakennatte sitä joka tapauksessa. Ero on siinä, rakennetaanko se *ennen* epäonnistumiset opettavat, miksi se on tärkeää *sen jälkeen*. Rajoitetut hämmennykset sanovat, että : rakenna se ensin, . sitten mallin kokosta tulee käyttöönottovaihtoehto,, ei arkkitehdas,. Hyvät rajoitukset sisältävä B-malli on usein parempi kuin huonojen rajoitteiden sisältämä rajamalli Mallivalinnan muutokset *kuinka usein* hit the constrainer. It doesnM SK1t remove the need for it ## Rajoitettu epämääräisyys ### 1. määrittele muuttumattomuutenne Mitä on tehtävä **koskaan** rikkotaan? ```csharp public class SummaryInvariants { public bool ValidateSummary(Summary summary, SourceDocument source) { // No claims without evidence pointers (e.g., "[chunk-3]" must exist in source) if (summary.Claims.Any(c => !source.ChunkIds.Contains(c.EvidenceChunkId))) return false; // No color assertions unless we computed a palette from the image if (summary.ColorClaims.Any() && !source.HasComputedPalette) return false; // No PII in output if (PiiDetector.ContainsPii(summary.Text)) return false; return true; } } ``` Yleiset invariantit ovat:: - Ei vaatimuksia ilman todisteiden osoittajia - Ei väriä, ellei se johdu paletin tilastoista - Ei PII-päästöjä - Ei kirjoiteta, vain lukea-onnistaan SQL - Ei ole minkäänlaista henkilöllisyysasennetta, ellei se ole selvästi perusteltua ### 2. tiukat talousarviot Mitä on tehtävä **aina** rajoitetaan? ```csharp public record ProcessingBudget( int MaxContextTokens = 4000, int MaxModelCalls = 5, TimeSpan MaxLatency = default, // e.g., 30 seconds int MaxVramMb = 2048, decimal MaxCostUsd = 0.10m ) { public ProcessingBudget() : this(MaxLatency: TimeSpan.FromSeconds(30)) { } } ``` Budjetti ei ole ehdotus, vaan se on osien purkaja. Kun budjettia ylitetään, järjestelmä heikkenee kauniisti sen sijaan, että se polttaisi jatkuvasti resursseja. ### 3. Rakennetaan ovityyppejä Konstraineri ei vain hylkää *kirjaa uudelleen* liiallinen luottamuslausekkeet suojattuihin ilmoituksiin ("mahdollistetaanM SK1 " epävarma,", |" saatavilla olevien todisteiden perusteella–"), tai jätetään täysin ilman tukia olevat väitteet pois ‐. uudelleen kirjoittaminen säilyttää signaalin samalla kun liiallista luottamusta jätetään pois | , pitää järjestelmiä hyödyllisinä epävarmuuden vallitessa sen sijaan, että ne olisivat brittiläisiä | Yleiset constrainerit, joita käytettäisiin uudelleen kaikissa järjestelmissä **Scheman portti**: JSON-skema +tyyppinen validointi ```csharp public class SchemaGate { public (bool Valid, T? Result, string? Error) Validate(string json) { try { var result = JsonSerializer.Deserialize(json, _options); return (true, result, null); } catch (JsonException ex) { return (false, default, ex.Message); } } } ``` **Evidence Gate**: Jokaisen vaatimuksen on liitettävä lähteisiin ```csharp public class EvidenceGate { public Summary EnforceEvidence(Summary proposed, IReadOnlySet sourceChunkIds) { // Keep only claims that reference chunks we actually have var validClaims = proposed.Claims .Where(claim => sourceChunkIds.Contains(claim.EvidenceChunkId)) .ToList(); return proposed with { Claims = validClaims }; } } ``` **Politiikan portti**:PrivaatiaM SK1turvallisuussäännöt **Talousarvion portti**: AikaM SK1laskenta **Jälleen kirjoittamaan ovi**: Väitteiden muuttaminen varoitelausekkeiksi ### 4. määritellä epäonnistumisen käsittely Kun hämärä osa epäonnistuu, donMSC1t crash. DegradeM SK3 ```csharp public async Task SummarizeWithFallback(Document doc) { try { var proposed = await _llm.GenerateSummary(doc); var constrained = _constrainer.Enforce(proposed, doc); if (constrained.Claims.Count > 0) return SummaryResult.Success(constrained); // LLM output was entirely invalid. Fall back to extractive return SummaryResult.Degraded( _extractiveSummarizer.Summarize(doc), reason: "LLM claims failed validation"); } catch (BudgetExceededException ex) { // Log for evolution, return deterministic-only _logger.LogWarning(ex, "Budget exceeded for {DocId}", doc.Id); return SummaryResult.Degraded( _extractiveSummarizer.Summarize(doc), reason: ex.Message); } } ``` Keskeiset periaatteet: - Lyhyesti vähennytään deterministiseen modetiin - Palauttaa osittainen tulos selkeän epävarmuusmerkinnän avulla - kirjaa virheelliset ehdotukset koulutussignaaliksi nopealle kehitykselle ## Real-World -esimerkit ### LLM-Alkuperäiset järjestelmät (BriefM SK2 | Järjestelmä |--------|-----------|----------|---------| | **DocSummarizer** | BERT `[chunk-N]`) | | **Luonnollinen tallentaminen** |ImageSharp-palettiM SK1metrit |Florence/LLaVA-nimitys SSK4 Värivaatimusten on oltava yhdenmukaisia lasketun paletin kanssa | **DataSummarizer** | DuckDB-skema | | | LLM |→ | SQL | | **Mediaanalyysi** | näytelmäaikataulutM SK1 käännös | LLM:n beat sheet | Beatin on mainittava aikataulut Muodot ovat aina samat. ### Bot-tutkimukset: Muutoin-LLM-esimerkki *Tämä kohta on tarkoituksellisesti yksityiskohtainen, koska se osoittaa mallin ilman minkäänlaista LLM:tä.* Bottitietojärjestelmäni ([Enitenselvä.BotDetection](https://www.nuget.org/packages/Mostlylucid.BotDetection)) osoittaa, että rajoitetut hämäryydet eivät ole LLM-pohjaisia järjestelmiä koskevat järjestelmät. **Kolme tasoa:** - **Alkuperä (Truth LayerM SK1**: Yksittäiset havaintolaitteet laskevat objektiiviset signaalit HTTP-pyynnöistä - UserAgent-analyysi: `ua.is_bot`, `ua.contains_automation_keyword` - Header-analyysi: `hdr.accept_language_count`, `hdr.missing_standard_headers` - IP-analyysi: `ip.is_datacenter`, `ip.reputation_score` - Behavioral analysis: `beh.requests_per_minute`, `beh.path_entropy` - **Esittelijä (LuovutuslaajaM SK1**: Heuristinen malli yhdistää signaalit painotetun sigmoidin kautta ```csharp // Each detector emits a contribution, not a verdict DetectionContribution.Bot( source: "UserAgent", category: "BotSignature", confidence: 0.85, reason: "Contains 'Googlebot' signature", weight: 1.0 ); // Aggregation via weighted sigmoid var weightedSum = contributions.Sum(c => c.ConfidenceDelta * c.Weight); var botProbability = 1.0 / (1.0 + Math.Exp(-weightedSum)); ``` - **Konstraineri (Contract LayerM SK1**: Politiikan moottori vahvistaa tiukkoja kynnysarvoja ja toimia ```csharp public record DetectionPolicy( double EarlyExitThreshold = 0.3, // Exit if < 30% = confident human double ImmediateBlockThreshold = 0.95, // Block only if 95%+ certain double AiEscalationThreshold = 0.6 // Escalate if risk unclear ); ``` **Keskeinen näkemys: Tuomittajat antavat todisteitaM SK1 Ei tuomioita** Jokainen detektaattori osallistuu lopulliseen päätökseen tekemättä sitä itse. `DetectionContribution` tallenteita: - `ConfidenceDelta`: Kuinka paljon tämä painostaa kohti robotia (+) tai ihmistä - `Weight`: Mitkä vaikutukset tällä tunnistuslaitteella on - `Signals`: lasketut tosiasiat - `Reason`: Inhimillinen Tämä ero merkitsee, että voitte - Add/remove detectors without changing aggregation logic - Tune-painot riippumatta havaitsemislogiikasta - Opi optimaalisista painoista ajan mittaan saadun palautteen perusteella **Vaihtoehtoinen LLM-hyväksyntä** Here's where it gets interesting: pattern supports **valinnainen laajentaminen LLM-järjestelmään** when the heuristic model is uncertain ```csharp // Default policy: fast heuristics only var defaultPolicy = new DetectionPolicy { FastPath = ["UserAgent", "Header", "Ip", "Behavioral"], EscalateToAi = false }; // High-security policy: escalate uncertain cases to LLM var strictPolicy = new DetectionPolicy { FastPath = ["UserAgent", "Header", "Ip"], SlowPath = ["Behavioral", "ClientSide"], AiPath = ["Onnx", "Llm"], // Optional ML/LLM detectors EscalateToAi = true, AiEscalationThreshold = 0.4 // Escalate when 40-60% uncertain }; ``` Kun nopeuttaminen käynnistää, LLM saa kerätyt signaalit ja antaa luonnollisen kielianalyysin, mutta constrainer soveltaa edelleen kynnysarvoja. **Wave-pohjainen orkestraatio** Järjestelmä toimii satelliittiseurantajärjestelmissä,, joille myöhemmät satelliititittina aktivoitetut asteittain tulevat satelliititM SK1 ```mermaid flowchart LR subgraph Wave0["Wave 0: Fast & Free"] W0A[UserAgent] W0B[Header] W0C[IP] end C1{Consensus?} subgraph Wave1["Wave 1: Expensive"] W1A[Behavioral] W1B[ClientSide] end C2{Still Uncertain?} subgraph Wave2["Wave 2: AI"] W2A[ONNX Model] W2B[LLM] end subgraph Policy["Policy Enforcement"] P1{Score > 0.95?} P2[Block] P3[Allow] P4[Log & Learn] end Wave0 --> C1 C1 -->|"Yes: 3+ agree"| Policy C1 -->|"No"| Wave1 Wave1 --> C2 C2 -->|"No"| Policy C2 -->|"Yes + AI enabled"| Wave2 Wave2 --> Policy P1 -->|Yes| P2 P1 -->|No| P3 P3 --> P4 style Wave0 stroke:#22c55e,stroke-width:2px style Wave1 stroke:#f59e0b,stroke-width:2px style Wave2 stroke:#ef4444,stroke-width:2px style Policy stroke:#8b5cf6,stroke-width:2px ``` Tämä on rajattu hämmennys **asteittainen syveneminen**: halpaa heuristiikkaa sovelletaan selviin tapauksiin , kallis AI käsittelee syrjäisiä tapauksia M SK2 ja politiikka asettaa rajoituksia jokaiseen askeleeseen **Oppiminen ilman riskiä** Koska constraineri vahvistaa turvallisuutta riippumatta siitä, mitä detektorit tuottavat, järjestelmä voi oppia turvallisesti. ```csharp // After each request, submit learning event (non-blocking) LearningCoordinator.TrySubmit("ua.pattern", new LearningEvent { Features = extractedFeatures, Label = actualOutcome, // Was it actually a bot? Confidence = detectionConfidence }); // Background: EMA weight update var alpha = 0.1; // Learning rate newWeight = existingWeight * (1 - alpha) + observedDelta * alpha; ``` Painot lähentyvät todellisten mallien suuntaan ajan mittaan. KorkeatM SK1luottamuksen havainnot vaikuttavat enemmän . Mutta huono painon päivitys ei voi koskaan aiheuttaa rajoittamatonta haittaaMSC3 Politiikan kynnysarvoja sovelletaan edelleen. **Miksi tämä on tärkeää** BotDetection osoittaa, että rajoitettu epämääräisyys ei koske erityisesti LLM:itä vaan kaikkia järjestelmiä, joissa 1. Useat epävarmat signaalit on yhdistettävä 2. Erilaisilla signaaleilla on erilainen luotettavuus 3. Vahvoja rajoituksia on sovellettava tulosten mukaan 4. Järjestelmän olisi opittava ja parannettava ajan myötä 5. Kustannustehokas analyysi on tehtävä vain silloin, kun halpa analyysi ei riitä LLM on vain yksi mahdollinen epämääräinen osatekijä. ## Milloin ei saa käyttää rajoitettua hämmennystä Muodot ovat kalliita. **Skip it when:** - **Tehtävä on täysin deterministinen.** Jos voitte kirjoittaa `if X then Y`, ette tarvitse' ei tarvitse esittelijää . kirjoita vain koodin - **Te olette valmistamassa prototypia** Ette vielä tiedä, mitkä rajoitukset ovat tärkeitä. - **Tuotanto on kertakäyttöinen.** Brainstorming, drafts, creative explorationM SK2 if a human reviews everything anyway , the constrainer is redundantMSC4 - **Occasional failures are acceptable.** Jos 5% halucinaatiotaso on asianmukainen käyttötapauksessanneM SK1 hillitsemisen tekniset kustannukset voivat ylittää epäonnistumista koskevat kustannukset - **Teillä ei ole pohjaa.** Jos pystytte't laskemaan pohjatodellisuutta, voitte 't rajoittaa sitäM SK3 EtteMSC4 petä sitä. Voitte joko löytää laskettavissa olevia tosiasioita tai hyväksyä epäselvyyden **Tämä malli on tarkoitettu järjestelmiin, joissa** - Probabilistiset tulokset pääsevät käyttäjiin tai muihin järjestelmiin ilman ihmisen arviointia - Ongelmat ovat vaikeita, kalliitaM SK1 tai yhdistettyjä - Teidän on opittava/ kehittymään vaarantamatta tuotantoa Jos se ei ole teidän tilanneenne, yksinkertaisempi lähestymistapa voittaa ## Integraatio evolutiivisiin järjestelmiin Rajoitettu hämmennys on entistäkin voimakkaampaa DiSE:n kanssa yhdistettynä. 1. **Generaatio** useat epämääräiset ehdotukset 2. **Validaatio** Invariantteja vastaan 3. **Tulos** rajoitetun tyytyväisyyden perusteella + käyttötarkoituksiin perustuvat mittarit 4. **Jätkää** paras, hylkää loput 5. **Yhdenmukaistaminen** puutteet koulutussignaaleina nopealle kehitykselle Keskeinen käsitys: **voitte kehittää ehdottajaa vaarantamatta järjestelmää**, koska constraineri vahvistaa turvallisuutta ja asianmukaisuutta riippumatta siitä, mitä ehdottaja tuottaa ```csharp public async Task EvolvePromptAsync( Prompt current, IReadOnlyList failures) { // Failures are safe to collect because constrainers caught them var patterns = AnalyzeFailurePatterns(failures); // Generate candidate prompt mutations var candidates = await _llm.GeneratePromptVariants(current, patterns); // Test each against held-out validation set var scored = await Task.WhenAll(candidates.Select(async c => { var results = await RunValidationSet(c); return (Prompt: c, Score: CalculateScore(results)); })); return scored.OrderByDescending(x => x.Score).First().Prompt; } ``` ## One-Sentence määritelmä > "Säännelty epämääräisyys on tapa antaa todennäköisten osatekijöiden ehdottaa merkitystä, kun taas deterministiset järjestelmät panevat täytäntöön totuuden ## Päätelmä: PuheenjohtajaM SK1 Ei moottori Palaan takaisin siihen LRU-キャッシュiin, joka sai älykkäämmäksi, kun se keskeytyi. Ratkaisu oli ' eikä se antanut lisää kapasiteettia. **sallitaan, että rajoitukset tekevät tehtävänsä**. Rajoitettu koko pakotti valinnan. Suljettu päättyminen pakotti unohtamaanM SK2 YhdessäMSC3 ne tekivät oppimisenMST4 Tämä on avainkäsitys. **en pysty korjaamaan probabilistisia järjestelmiä tekemällä niitä *vähemmän* todennäköisyys**. Te korjaatte ne jättämättä todennäköisyydet puuttumaan takuihinne. ```mermaid flowchart LR E[🔥 High-Variance
Engine] --> G[⚙️ Governor] --> O[✓ Constrained
Output] style E stroke:#ef4444,stroke-width:2px style G stroke:#22c55e,stroke-width:3px style O stroke:#3b82f6,stroke-width:2px ``` Hiilimoottori ei ymmärrä, että se pitäisi räjähtää, vaan kunnostaa, ja kuvernööri estää sen fyysisesti. LLM:llä ei ymmärretä, että ne pitäisi ymmärtää, että niiden pitäisi tuntea hallucinaatioita. Sama malli. Eräs vuosisataM SK1 Seuraavalla kerralla, kun olette kiusattu lisäämään järjestelmäänne vielä yhden kohdan, toivotte mallin ymmärtävän, että se on rajallinen. *Voinko laskea tämän rajoituksen?* Jos kyllä, lasketaan seM SK1 sitten rajoitetaan mallia siihen . Harvat rajat voittaa pehmeät ehdotukset. Joka kertaM SK1 --- ## Luettelo | Osuus | Muodos | Axis SSK3 |------|---------|------| | 1 | 2 | [Rajoitettu hämärä MoM](/blog/constrained-mom-mixture-of-models) | Useat osat | | 3 | [Rajoitettu hämärän taustan vetäminen](/blog/constrained-fuzzy-context-dragging) | Aika / muisti | | 4 | [Kuvan yhteenveto](/blog/constrained-fuzzy-image-intelligence) | Käytännön täytäntöönpano **Osa 2** laajentaa tätä rakennetta moniin järjestelmiin-agenttijärjestelmiin . Muodot eivät puhu toistensa kanssaM SK2 Ne julkaisevat kirjoitetut signaalit yhteiseen substrattiin. Rajoituksesta tulee itse viestintä **Osa 3** mallit saattavat huomata, mutta insinööri päättää, mikä pysyy. **Osa 4** osoittaa kaikki kolme mallia, jotka on otettu käyttöön [ImageSummarizer](https://github.com/scottgal/lucidrag)—aalto, -pohjainen kuvaanalyysiputki, jossa ColorWave laskee tosiasiat,