# व्यवहारिक आference: कैसे मैं चिंता करना बंद करने और संभाव्यवादी प्रणालियों को प्यार करने के लिए सीखा अधिकतर सॉफ्टवेयर अभी भी यह मानते हैं कि विश्व इसे शुद्ध इनपुट और स्थिर नियम सौंप देगा उत्पादन में आमतौर पर कोई भी नहीं होता यह पोस्ट एक थोड़े चीजों के पीछे के माध्यम से है मैं बना रहा हूँ [डीआईएसई](/blog/dise-architecture-overview), [अवरोधित अस्पष्टता](/blog/constrained-fuzziness-pattern), [सीएफएमओएम](/blog/constrained-mom-mixture-of-models), [कम RAG](/blog/reduced-rag), [स्टिलियोफ्लो](/blog/styloflow-signal-driven-workflows), [एआई इंजीनियरिंग के दस आदेश](/blog/tencommandments), और [स्टाइलोबोट](/blog/botdetection-part2-signature-pipeline-and-stylobot-architecture). मैं एक महान सिद्धांत के साथ शुरू करके यहाँ नहीं आया। इस तरह के पर्याप्त प्रणालियों का निर्माण करने के बाद मैं उन पर अलग-अलग चालों के रूप में सोचने को बंद कर दिया और उसी वास्तुकला को नीचे देखना शुरू किया - कमजोर संकेत एकत्रित करना - अनिश्चितता स्पष्ट रखें - समय के साथ साक्ष्य जमा करना - निर्णायक नीति को अंतिम कार्रवाई का स्वामित्व देना चाहिए कि मैं एक के द्वारा क्या मतलब का मूल है **व्यवहारिक निष्कर्ष प्रणाली**. यह भी स्पष्ट करता है कि क्यों ये वास्तुकला कोड LLMs के साथ अच्छी तरह काम करते हैं **इस श्रृंखला में पहले** - [DiSE के साथ खाना पकाना](/blog/dise-architecture-overview) - [संबन्धित अस्पष्टता: एक संभाव्य घटकों के लिए नियंत्रण प्रणाली पैटर्न](/blog/constrained-fuzziness-pattern) - [एजेंट चैटर पर संबन्धित अस्पष्ट MoM: संकेत संविदाएं](/blog/constrained-mom-mixture-of-models) - [प्रतिबंधित अस्पष्ट संदर्भ खींचना](/blog/constrained-fuzzy-context-dragging) - [Reduced RAG: Stop Stuffing Context Windows and Start Extracting Signals](/blog/reduced-rag) - [स्टिलियोफ्लो: संकीर्ण अस्पष्ट सिग्नल-प्रचालित कार्यप्रवाह](/blog/styloflow-signal-driven-workflows) - [एआई इंजीनियरिंग के दस आदेश](/blog/tencommandments) - [स्टिलियोबोट भाग 2: हस्ताक्षर पाइपलाइन और वास्तुकला](/blog/botdetection-part2-signature-pipeline-and-stylobot-architecture) [TOC] --- ## समस्या: गतिशील वातावरण, आंशिक साक्ष्य अधिकतर उत्पादन प्रणालियां अभी भी दो खराब डिफ़ॉल्टों में से एक के लिए पहुँचती हैं 1. अधिक नियम जोड़ें 2. एक बड़ा मॉडल जोड़ें दोनों कुछ समय तक काम कर सकते हैं क्या कई वास्तविक प्रणालियों वास्तव में है यह है ```mermaid flowchart LR A[Messy Input] --> B[Partial Signals] B --> C[Conflicting Evidence] C --> D[Uncertain Interpretation] D --> E[Need to Act Anyway] style A stroke:#ef4444,stroke-width:2px style E stroke:#22c55e,stroke-width:2px ``` उदाहरण - बोट पता लगाना - दस्तावेज निकालना - सिफारिश प्रणाली - श्रोता वर्गीकरण - धोखाधड़ी अंकन - अनुकूलित कार्यप्रवाह रूटिंग इन डोमेनों में आप शायद ही एक निर्णायक तथ्य प्राप्त कर सकते हैं यही कारण है कि मैं संकेतों के लिए वापस लौटता हूँ यदि आप एक प्रणाली को सुधारना चाहते हैं, तो आपको यह देखने की जरूरत है कि वह क्या देख रहा है। --- ## चयन दबाव के तहत DiSE: वास्तुकला महत्वपूर्ण कदम [डीआईएसई](/blog/dise-architecture-overview) नहीं था "एक LLM परिवर्तन कोड लेता है यह था > वास्तुकला को ऐसी वस्तु के रूप में देखना जो चयनात्मक दबाव के तहत उत्पन्न हो सकती है DiSE सॉफ्टवेयर को "buildM SK1 ship, patchMSC3 से "perceiveMST5 evaluateMS, mutate ```mermaid flowchart LR subgraph Traditional["Traditional Software"] T1[Build] --> T2[Ship] --> T3[Patch] end subgraph DiSE["DiSE"] D1[Perceive] --> D2[Evaluate] D2 --> D3[Mutate] D3 --> D4[Select] D4 --> D1 end style Traditional stroke:#ef4444,stroke-width:2px style DiSE stroke:#22c55e,stroke-width:2px ``` यह महत्वपूर्ण है क्योंकि कई प्रणालियों में आप पहले से नहीं जानते हैं - जो डिटेक्टर महत्वपूर्ण होंगे - जो साक्ष्यों के संयोजनों को बनाए रखेंगे - जो थ्रेसहोल्ड्स वास्तविक ट्रैफिक में जीवित रहते हैं - जो कि महंगे अवयव चलाने के लिए योग्य हैं तो सिस्टम को खोजने के लिए जगह की जरूरत है लेकिन केवल खोज ही काफी नहीं है --- ## सीमित अस्पष्टता: दीवार बनाए रखें [अवरोधित अस्पष्टता](/blog/constrained-fuzziness-pattern) नियंत्रण परत है जो पूरी बात mush में बदलने को रोकता है नियम सरल है > संभाव्यात्मक घटक प्रस्तावित कर सकते हैं ```mermaid flowchart TB I[Input] --> S[Deterministic Substrate] S --> P[Fuzzy Proposer] P --> C{Constrainer} C -->|Pass| O[Output] C -->|Partial| R[Rewrite / Hedge] C -->|Fail| F[Fallback] S -.evidence.-> C style S stroke:#22c55e,stroke-width:3px style P stroke:#f59e0b,stroke-width:3px style C stroke:#ef4444,stroke-width:3px ``` डीआईएसई का कहना है, “"”explore“."”Constrained Fuzziness कहता है, ”"”inside these boundaries”." इन सीमाओं के बिना संभाव्यतावादी प्रणालियां हमेशा क्या करते हैं - अधिभार - उछलना - प्रवाहित आउटपुट के पीछे अनिश्चितता छुपाएँ - वे कभी भी स्वामित्व में नहीं होना चाहिए स्थानों पर बोझ बनना इसीलिए [एआई इंजीनियरिंग के दस आदेश](/blog/tencommandments) विषय. "LLMs को राज्य का स्वामित्व नहीं होना चाहिए। सभी जगह एक ही नमूना दिखाई देता है - RAG, में मॉडल संश्लेषण करता है लेकिन भंडारण या फिल्टरिंग का स्वामित्व नहीं - छवि पाइपलाइनों में ',' दृश्य मॉडलों में captions प्रस्तावित होते हैं लेकिन संगणित तथ्य उन्हें प्रतिबंधित करते हैं - बॉट डिटेक्शन में\,\ डिटेक्टर साक्ष्य जारी करते हैं लेकिन नीति अपना कार्य करता है - कार्यप्रवाहों में , अवयव संकेत उत्सर्जित करते हैं लेकिन वाद्य मंडल को वृद्धि और side effects का स्वामित्व होता है ```mermaid flowchart LR A[DiSE
Search and Selection] --> B[Constrained Fuzziness
Bounded Proposal] B --> C[Behavioural Inference
Evidence Over Time] style A stroke:#3b82f6,stroke-width:2px style B stroke:#f59e0b,stroke-width:2px style C stroke:#22c55e,stroke-width:2px ``` इन दो विचारों को एक साथ रखिए और आप एक व्यावहारिक पैटर्न प्राप्त कर सकते हैं --- ## संकेतों: वास्तविक प्राथमिक यह है जहाँ [कम RAG](/blog/reduced-rag), [स्टिलियोफ्लो](/blog/styloflow-signal-driven-workflows), और संकेत-संविदा में काम [सीएफएमओएम](/blog/constrained-mom-mixture-of-models) सभी लाइन अप एक बार जब आप pretending कि एक मॉडल या एक नियम इंजन सब कुछ करने के लिए होना चाहिए-, एक उपयोगी डिजाइन मूलभूत हो जाता है **संकेत**. एक अच्छा संकेत है - गणना करने के लिए सस्ते - रचनात्मक - पर्याप्त मात्रा में विशिष्ट - लेखापरीक्षा योग्य - अनिश्चितता के अधीन उपयोगी सबसे महत्वपूर्ण यह है कि एक संकेत संकुचित व्यवहार है। ```mermaid flowchart LR R[Raw Reality] --> X[Extraction] X --> S1[Signal] X --> S2[Evidence Pointer] X --> S3[Confidence] S1 --> A[Accumulation] S2 --> A S3 --> A A --> I[Inference] style R stroke:#64748b,stroke-width:2px style A stroke:#3b82f6,stroke-width:2px style I stroke:#22c55e,stroke-width:2px ``` भिन्न डोमेन भिन्न संकेत उत्सर्जित करते हैं - bot detection: timing entropy - दस्तावेज निकालना: क्षेत्र समीपता, ओसीआर विश्वसनीयता - सिफारिश प्रणालियां: सत्र ड्रिफ्ट, आवास नमूनेM SK2 पुनरावृत्ति स्तब्धता - कार्यप्रणाली प्रणालियां: रिट्रीज़, लांसी स्पाइक संकेत आपको " से खिसकाने देता है, मॉडल सोचता है कि यह पीछे की चाल है [कम RAG](/blog/reduced-rag): बड़े संदर्भ विंडो को stuffing के बजाय सिग्नल बाहर निकालें यह भी खिसकना है [स्टिलियोफ्लो](/blog/styloflow-signal-driven-workflows)उत्सर्जित तथ्यों के चारों ओर समन्वय एक बार संकेत स्पष्ट होते हैं, आप बेहतर इंजीनियरिंग सवाल पूछ सकते है - जो संकेत वास्तव में निर्णयों को चलाता है - कौन सा ध्वनियुक्त है - हम कहां जल्दी बढ़ रहे हैं? - जो थ्रेसहोल्ड बहुत संपरक हैं - क्या नमूने गलत सकारात्मकों के साथ मेल खाते हैं - एक नया डिटेक्टर कहाँ है यह एक विशेषता भेजने और मशीन ट्यूनिंग के बीच अंतर है --- ## व्यवहारिक अंतरतंत्र पारंपरिक प्रणालियां प्रायः इस तरह दिखती हैं ```text Rules -> Decisions ``` व्यवहार आकलन प्रणालियां अधिक इस तरह दिखती हैं ```text Signals -> Evidence accumulation -> Behaviour inference -> Deterministic action ``` ```mermaid flowchart TD subgraph Old["Old Shape"] O1[Rules] --> O2[Decision] end subgraph New["Behavioural Inference Shape"] N1[Signals] N2[Evidence Accumulation] N3[Inference] N4[Policy Action] N1 --> N2 --> N3 --> N4 end style Old stroke:#ef4444,stroke-width:2px style New stroke:#22c55e,stroke-width:2px ``` इन प्रणालियों से क्या निष्कर्ष निकलता है - अभिप्राय - असामान्यता - श्रेणी - ढांचा - समन्वय - उछलना आमतौर पर एक ही पूर्ण तथ्य प्राप्त करने के बिना व्यवहार को पहचान से अधिक आसानी से अनुमान लगाया जा सकता है। यह मार्ग तय करने के लिए पर्याप्त है यह भी इन प्रणालियों को कोड LLMs के लिए अच्छा फिट करता है - स्पष्ट सीमाएँ - दृश्यात्मक अवस्था संक्रमण - मापनीय आउटपुट - स्थानीय ट्युनिंग सतह - बार-बार मूल्यांकन लूप एक व्यवहारिक निष्कर्ष प्रणाली इन चीजों को स्वाभाविक रूप से प्रकट करती है --- ## व्यवहारिक अंतर्वर्तन प्रणाली के रूप में स्टाइलोबोट [स्टिलोबोट भाग 2](/blog/botdetection-part2-signature-pipeline-and-stylobot-architecture) शायद अभी तक सबसे स्पष्ट ठोस उदाहरण है स्टेलोबोट केवल एक डिटेक्टरों का ढेर नहीं है ```mermaid flowchart LR R[Request] --> D[Detector Signals] D --> E[Evidence Aggregation] E --> T[Signature + Temporal Context] T --> I[Behaviour Inference] I --> P[Probability + Confidence + Risk] P --> A[Policy Action] A --> F[Response Feedback] F --> D style D stroke:#3b82f6,stroke-width:2px style T stroke:#8b5cf6,stroke-width:2px style P stroke:#f59e0b,stroke-width:2px style A stroke:#22c55e,stroke-width:2px ``` इस पाइपलाइन में कुछ बातें पहले के काम से ही आती हैं ### 1. डिटेक्टर परत DiSE के रूप में है कोई एकल डिटेक्टर पर्याप्त नहीं माना जाता है यह पूर्ण स्वायत्त विकास नहीं है, लेकिन यह एक ही आंतरिकता है। ### 2. नीति सतह संकीर्ण अस्पष्टता है स्टीलोबोट संभाव्यता और विश्वास को अलग रखता है, लेकिन क्रिया निर्णायक है - `Allow` - `Throttle` - `Challenge` - `Block` प्रमाण अस्पष्ट हो सकता है ### 3. हस्ताक्षर मॉडल व्यवहारिक स्मृति बनाता है एक विज़िटर को एक आईपी या एक उपयोगकर्ता में कम करने के बजाय यह अब सरल वर्गीकरण नहीं है ### 4. हस्तक्षेप और प्रवर्तन अलग हैं कम विश्वास के साथ उच्च संभाव्यता का उतना ही प्रतिक्रिया उत्प्रेरित नहीं होना चाहिए जितना कि उच्च विश्वसनीयता के साथ अधिक संभावितता प्रणाली अस्पष्टता को तब तक बनाए रखती है जब तक कि उसके पास मजबूत कार्रवाई के लिए पर्याप्त साक्ष्य न हो ### 5. अवलोकनशीलता इसे ट्यून करने योग्य बनाती है स्टिलोबोट का डिजाइन इस प्रकार है कि आप निर्णय मार्ग के लगभग हर महत्वपूर्ण भाग की जांच कर सकते हैं - जो डिटेक्टरों ने चलाया था - जो संकेतों को जारी किया गया था - क्या साक्ष्य एकत्रित किया गया - क्या हस्ताक्षर विशेषताएँ मिला - क्यों विश्वास बढ़ गया - जहाँ आरंभिक निकास हुआ था - जिस नीति सीमा ने कार्रवाई आरंभ की यह एक ब्लैक बॉक्स के बजाय एक ट्यूनबल इंजन बनाता है ```mermaid flowchart TD S1[Observable Signals] --> S2[Compare Outcomes] S2 --> S3[Tune Thresholds / Weights / Waves] S3 --> S4[Re-run on Traffic] S4 --> S5[Observe Drift / Improvement] S5 --> S1 style S1 stroke:#3b82f6,stroke-width:2px style S3 stroke:#f59e0b,stroke-width:2px style S5 stroke:#22c55e,stroke-width:2px ``` यह लूप बिल्कुल वहीं है जहां कोड एलएलएम्स मदद करते हैं - डिटेक्टर जोड़ें या परिष्कृत करें - संकेत जांच सिफारिश करें - ध्वनि थ्रेसहोल्ड - पुनर्संरचना तरंग आदेश - गलत सकारात्मक और गलतियों के चारों ओर निदान बनाना यह सिर्फ इसलिए काम करता है क्योंकि वास्तुकला पहले से ही ट्युनिंग को समर्थन देने के लिए पर्याप्त रूप से देखने योग्य है --- ## कोड एलएलएम्स का महत्व क्यों है उपयोगी परिवर्तन नहीं है "LLMs अब सॉफ्टवेयर लिख सकते हैं क्या बात है कि कोड एलएलएम्स खोज को सस्ता बनाता है [आरएजी मई में प्रकाशित किया गया।](https://arxiv.org/abs/2005.11401). पुनःप्राप्ति,, अंतःस्थापित खोज,MSC2 संकेत निष्कर्षण,, और साक्ष्य पैकेज नए विचार नहीं हैं। कोड एलएलएम उस लूप के अर्थशास्त्र को बदल गया वे आपको प्रारूप में मदद करते हैं - डिटेक्टर - परिवर्तित करता है - संविदा - मूल्यांकनकर्ता - श्रेणीकरण योजनाएं - संश्लेषित परीक्षण - निदान दृश्य - ट्यूनिंग हार्नेस ```mermaid flowchart LR A[Human Hypothesis] --> B[Code LLM Acceleration] B --> C[More Candidate Signals] C --> D[More Evaluation] D --> E[Better Selection Pressure] E --> F[Stronger Inference System] style B stroke:#8b5cf6,stroke-width:2px style F stroke:#22c55e,stroke-width:2px ``` LLM को रणनीतिक रूप से उपयोगी होने के लिए निर्णयकर्ता बनने की जरूरत नहीं है। लेकिन पहले के नियम अभी भी लागू होते हैं - एलएलएम का स्वामित्व नहीं है - एलएलएम के पास गौण प्रभाव नहीं हैं - एलएलएम सत्य को फिर से परिभाषित नहीं करता है - निर्णायक आधार आधार आधार बना रहता है तो हाँ, कोड एलएलएम महत्वपूर्ण है. वे इसलिए महत्वपूर्ण हैं क्योंकि वे खोज और अनुकुलन में तेजी लाते हैं. वे स्थापत्य की आवश्यकता को हटाने के लिए नहीं --- ## अन्य प्रणालियों के माध्यम से -लाइन वही आकार दिखाई देता है ### कम RAG में [कम RAG](/blog/reduced-rag)You extract deterministic signals at ingestion नहीं " मॉडल को सब कुछ दें और आशा करें ### सुस्पष्टRAG जहाँ स्टेलोबोट समय के साथ अनुरोधों से व्यवहार का निष्कर्ष निकालता है `lucidRAG` बहुमोडल साक्ष्य से अर्थ निकालता है: दस्तावेज संरचना, ओसीआर विश्वसनीयता भिन्न substrate. Same shape. ```mermaid flowchart LR subgraph Stylobot["Stylobot"] SB1[Request Signals] SB2[Temporal Evidence] SB3[Behaviour Inference] SB4[Policy Action] SB1 --> SB2 --> SB3 --> SB4 end subgraph LucidRAG["lucidRAG"] LR1[Content Signals] LR2[Evidence + Retrieval] LR3[Meaning Inference] LR4[Bounded Synthesis] LR1 --> LR2 --> LR3 --> LR4 end style Stylobot stroke:#3b82f6,stroke-width:2px style LucidRAG stroke:#22c55e,stroke-width:2px ``` न तो वास्तव में एक "app." दोनों भिन्न इनपुटों पर काम कर रहे निष्कर्ष इंजन हैं ### सीएफएमओएम में [प्रतिबंधित अस्पष्ट मोएम](/blog/constrained-mom-mixture-of-models)बहुसंभाव्यात्मक घटक प्रस्तावित कर सकते हैं, लेकिन वे टाइप किए गए संकेतों के माध्यम से संचार करते हैं और निर्णायक तर्क decides what survives कि बिना नियंत्रण छोड़ने के बहु-”-” मॉडल समन्वय ### संदर्भ खींचना में [प्रतिबंधित अस्पष्ट संदर्भ खींचना](/blog/constrained-fuzzy-context-dragging)तंत्र सीमाबद्ध स्मृति रखता है और संदर्भ के भागों को सुरक्षित करता है जो बाद में व्याख्या के लिए काफी लंबे समय तक महत्वपूर्ण हैं संदर्भ खींचने से बिना बाइंड किए मेमोरी का विकास करने के समय उपलब्ध होता है ### स्टिलियोफ्लो में [स्टिलियोफ्लो](/blog/styloflow-signal-driven-workflows)घटक एक-दूसरे को प्रत्यक्ष रूप से नहीं बुलाते यह कार्यप्रणाली अवसंरचना पर लागू व्यवहारिक निष्कर्ष है व्यवहार आकलन प्रणालियां""से बेहतर छत हैअभिकर्ता प्रणालियाँ" या "LLM अनुप्रयोगों." यह विपणन wrapper के बजाय वास्तुकला का वर्णन करता है --- ## डिजाइन नियम अगर मैं पूरे वंश को कुछ नियमों में संकुचित करना था 1. **fluent आउटपुट को सिस्टम ज्ञान के साथ भ्रमित न करें** 2. **पहले से संकेत निकालें** 3. **अनिश्चितता को आराम से अधिक समय तक सुरक्षित रखें** 4. **क्रिया निर्णायक बनाए रखें जब भी अनुमान संभाव्यात्मक है** 5. **साक्ष्य संकेतक भंडारित करें** 6. **अवयवों को प्रस्तावित करें** 7. **समय को सच का हिस्सा मानें** 8. **डिजाइन स्थान को खोजने के लिए एलएलएम का उपयोग करें** 9. **कुछ बनाओ जिसे आप एक इंजन के रूप में ट्यून कर सकते हैं** इन नियमों का सांविधिक संस्करण है [एआई इंजीनियरिंग के दस आदेश](/blog/tencommandments). यह लेख वास्तुकला संस्करण है ```mermaid flowchart LR A[Ten Commandments] --> B[Architectural Constraints] B --> C[Behavioural Inference Systems] C --> D[Tuneable Engines] style A stroke:#8b5cf6,stroke-width:2px style B stroke:#ef4444,stroke-width:2px style C stroke:#22c55e,stroke-width:2px style D stroke:#3b82f6,stroke-width:2px ``` ```mermaid mindmap root((Behavioural Inference)) DiSE Search Mutation Selection Constrained Fuzziness Substrate Proposer Constrainer Signals Evidence Confidence Provenance Time Memory Drift Temporal Context Action Policy Thresholds Deterministic Boundaries ``` --- ## यह क्यों महत्वपूर्ण है उत्पादन से बचने वाले एआई प्रणालियां आमतौर पर विशाल स्वचालित ब्लाब नहीं हैं वे भी नियमों के अंतहीन ढेर नहीं हैं वे ऐसी प्रणालियां हैं कि - संकीर्ण संकेत एकत्रित करना - समय के साथ साक्ष्य जमा करना - अस्पष्टता को ईमानदारी से बनाए रखना - निर्णायक नियंत्रण सतहों को प्रदर्शित करें - विकसित होने के लिए पर्याप्त निरीक्षण योग्य रहना यह एक बेहतर इंजीनियरिंग कहानी है " माडल स्मार्ट हो गया था ." मॉडलों में सुधार होगा. Fine. वास्तुकला अभी भी यह तय करता है कि क्या एक प्रणाली त्रुटिमोचन योग्य है। व्यवहार आकलन प्रणालियां इन बाधाओं को गंभीरता से लेते हैं --- ## समापन विचार पीछे की दृष्टि में यह वंशावली स्पष्ट दिखाई देती है ```mermaid flowchart LR D[DiSE
Explore and Select] --> CF[Constrained Fuzziness
Bound the Uncertain] CF --> BI[Behavioural Inference Systems
Infer from Weak Signals] BI --> ST[Stylobot / Reduced RAG / StyloFlow
Working Architectures] style D stroke:#3b82f6,stroke-width:2px style CF stroke:#f59e0b,stroke-width:2px style BI stroke:#22c55e,stroke-width:2px style ST stroke:#8b5cf6,stroke-width:2px ``` डिएसई ने मुझे वास्तुकला खोज के बारे में सोचने का एक तरीका दिया अवरोधित अस्पष्टता ने मुझे एक तरीका दिया कि संभाव्यात्मक घटकों को स्पष्ट सीमाओं के भीतर रखने का व्यवहारिक आकलन प्रणालियों को आप तब प्राप्त करते हैं जब उन विचारों को उत्पादन से बचने के लिए बाध्य किया जाता है Stylobot सिर्फ मौजूदा उदाहरण है एक बार जब आप निर्णयात्मक कार्य सतहों के साथ प्रमाण संचयक के रूप में सिस्टम को देखना शुरू करते हैं, तो बहुत से आधुनिक सॉफ्टवेयर लगना बंद कर देता है जैसे "AI विशेषताएँ