यह शायद नीचे क्या काम नहीं करेगा, मैं इन्हें बनाने के लिए कैसे और फिर सभी कदमों के रूप में और काम करने के लिए एक नमूना ऐप मिलता है... तुम चुपके से किया गया है और उन्हें देखा है! वे शायद मध्य-बार के लिए तैयार हो जाएगा.
## परिचय
हंस क्योंकि यह एक लंबी श्रृंखला होने जा रहा है!
यदि आप इस ब्लॉग के साथ पीछा किया गया है, तो आप जानते हैं कि मैं दिलचस्प तरीके से काम करने के लिए दिलचस्प तरीके खोज रहा हूँ।
खैर, मैं एक नई परियोजना मिल गया है कि चिट्ठाकारी, सी# और एआई के मेरे प्यार को साझा करता है: एक लेखन सहायक बनाने में मेरी मदद करता है कि एक नया ब्लॉग पोस्टों को एक ज्ञान आधार के रूप में मेरी मौजूदा सामग्री का उपयोग करने में मदद करता है।
ध्यान दें: यह एआई के साथ मेरे परीक्षण का हिस्सा है (जैसे कि मेरे स्वयं का संपादन).
उसी आवाज़ की तरह, उसी आवाज़ में एक - दूसरे का हाथ होता है; सिर्फ तेज़ उंगलियों को ।
इस बारे में सोचिए कि कानून के मुताबिक कानून के मुताबिक छोटे - छोटे काम कैसे किए जा सकते हैं ।
वे scrat - प्रणाली संदर्भों से शुरू नहीं करते, पिछले दस्तावेज़ों पर आधारित भाषा सुझाव देती है, और स्थापित पैटर्नों के साथ सुसंगतता बनाए रखता है.
यही कारण है कि हम यहाँ निर्माण कर रहे हैं, लेकिन ब्लॉग सामग्री के लिए।
फिर भी एक लेखन सहायक के लिए पूरी तरह से प्रयोग किया गया!
रैम रैमन्यूनतम
16: 16GB सिस्टम रैम
7B मॉडलों के लिए सिर्फ सीपीयू मेंसांत्वनायोग्य
: 32GBसीपीयू पर बड़े मॉडल के लिए बेहतर
मेरा सेटअप
: 96GB - अधिक काम, 32GB बहुत है
भंडारणएसडीडी
: मॉडल लोड करने के लिए अनुशंसितखाली जगह
: ~20GB मॉडल तथा सदिश डाटाबेस के लिएAndel/AmPUs के बारे में क्या?
**आधुनिक सीपीयू अब समर्पित एआई त्वरक शामिल हैं:*क्लेरल कोर यूलर(मर्क झील+) - इनेल एआई बूस्ट (एनपीयूपीयू)*एएम आरनेनियन एआई
(70/8040 क्रम) - Xen NPU
✅ Great for: On-device inference, battery efficiency (laptops)
⚠️ Limited for our use: Immature .NET/ONNX Runtime support
❌ Not ready for: This project's primary path
AMM Rynian एआई मैक्स
(स्ट्रिक्स बिन्दु) - 50 से ऊपरमहत्वपूर्ण: NPUUs केवल जोखिम के लिए हैं!
आप NPUS पर " निर्माण" या ट्रेन मॉडल नहीं है - वे करने के लिए बनाया गया हैचलाने के लिए
**पूर्व मॉडल अच्छी तरह से प्रशिक्षित।**बादलों में मॉडलों को प्रशिक्षित किया जाता है (या कार्य), तो डाउनलोड किया जाता है और NPUPUs के लिए NPUPUs के लिए तैनात किया जाता है।
**एनयूपीएस पर चलाने के लिए वर्तमान स्थिति (के रूप में):**क्यों न इस श्रृंखला के लिए NPUUUs?
सॉफ्टवेयर पर्यावरण: CUND में 15+ साल प्रौढ़ता का है, NPU समर्थन . NNT है nsent
मॉडल संगतता
: ज़्यादातर जीजीएफ मॉडल सीयू/ सीयूयूयू, NPUCP- अप मॉडलों की संख्या बहुत कम हैदस्तावेज़ीकरण: C# में एनयू विकास के लिए संसाधनों की सीमा
परफार्मेंस
: हमारे भार के लिए वर्तमान में धीमी गति से
प्रत्यक्षएमएल समर्थन
: अभी भी प्रयोग की गई जानकारी
# Use DirectML execution provider (supports NPU)
dotnet add package Microsoft.ML.OnnxRuntime.DirectML
# In code:
var sessionOptions = new SessionOptions();
sessionOptions.AppendExecutionProvider("DML"); // DirectML
var session = new InferenceSession("model.onnx", sessionOptions);
C# समर्थन उपयोग में हैपरफ़ॉर्मेंस वर्तमान में उपलब्ध है वी. सीयूडीए
NPU को कैसे कोशिश करें (एक सामान्य उपयोक्ता:):
भविष्य के बारे में
: एक बारऑन NNX रन समय
औरप्रत्यक्षएमएल
**प्रौढ़ उनका NPU समर्थन (जैसे 2024-2025), ये सहजता के लिए व्यावहारिक विकल्प बन जाएगा!**निचला लकीर
**: मैं Gugue-पी-पीपीव मार्ग दिखाता हूँ, लेकिन पूरे प्रकार से सीपीयू-सिर्फ विकल्प नोट करेंगे.**आप सिर्फ सीपीयू प्रारंभ कर सकते हैं तथा बाद में उन्नयन कर सकते हैं!
हम क्या बना रहे हैंअंतिम तंत्र में कई अवयव होंगे:
घड़ी की विपरीत दिशा में (t)- सभी ब्लॉग पोस्टों को प्रोसेस करता है, उन्हें बुद्धिमान रूप से अलग करता है, और स्कैनिंग तैयार करता है
सदिश डाटाबेस
- स्कैनिंग और समान सामग्री के लिए खोज सक्षम करता है
विंडो क्लाएंट अनुप्रयोग
एक डेस्कटॉप लेखन सहायक यूआई संपादक तथा सुझाव फलक के साथ
संयोजन
सामग्री की पीढ़ी के लिए स्थानीय जीपीपीपी-पीपीएन्स
प्रशस्ति-पत्र को कड़ी तैयार करें (m)
इससे संबंधित पोस्टों के आंतरिक लिंक तथा संदर्भ
स्टाइल संगतता इंजिन
आवाज तथा संरचना को बनाए रखने के लिए मौजूदा पोस्टों से पैटर्न सिखे
इसके बारे में सोचो "Guallikikiky मिलता है" लेकिन विशेष रूप से अपने ब्लॉग की सामग्री और शैली पर प्रशिक्षित.
क्यों "लेर्स"?
आज के कानून, कानून के बड़े - बड़े पुस्तकालयों में प्रशिक्षित किए गए हैं ताकि वे कानूनी दस्तावेज़ों की मदद कर सकें ।
एक चाल लिखने के दौरान, तंत्र:
संदर्भ संबंधित पूर्वनिर्धारितता तथा पिछला आर्गुमेंट सफल हैं
भाषा के नमूने सुझाव देती है कि इससे पहले काम किया गया है
जीयूपीयू-कैप्टर के लिए विंडोज़ स्थापित किया जा रहा है एआई कार्य लोड किया जा रहा है, संस्थापित किया जा रहा हैसीयूडीए, beninn, और कि C# वास्तव में देख सकते हैं और अपने जीपी का उपयोग कर सकते हैं कि जाँच.भाग ३: सामान्य समझ जो सदिश व डाटाबेस को शामिल करती हैगहरे रूप में जो अंतर्निर्मित वास्तव में है में, वे कैसे sulting खोज सक्षम करते हैं, और सही वेक्टर डाटाबेस चुनने के लिए: हम शायद इस्तेमाल करेंगे
यापीगवर्टर, पार्ट ४: १९ - १९.प्रक्रिया फ़ाइलों को नीचे कर रहा है, बुद्धिमान विवेकी नीतियाँ (आप सिर्फ पैराग्राफ पर विभाजित नहीं कर सकते) और हमारी सभी सामग्री के लिए अंतर्निर्मित बनाया जा रहा है.
? , यूआई बनाने और इसे वास्तव में इस्तेमाल करने के लिए सुखद बनाने.
भाग ६: स्थानीय संयोजन
स्थानीय उपयोग से मॉडल चल रहा हैऑन NNX रन समय
विलमा. बीपीपीबाइंडिंग, या अन्य दृष्टिकोण.
**यह A4000 का पूरा उपयोग कर रहे हैं!**पार्ट 7: सामग्री बनाना बनाने की इंजीनियरिंग की पूर्वसूचना देता है (g)
**यह सब एक साथ - साथ लाने के लिए ज़रूरी सामग्री, संदर्भ विंडो प्रबंधन के लिए, लिखने के लिए प्रायोगिक इंजीनियरिंग, और कोरपूर्ण सुझाव तैयार करने के लिए लाया जा रहा है ।**भाग ८: विस्तृत विशेषताएँ व उत्पादन सहायक
**संबंधित पोस्ट से स्वचलित लिंकिंग, शैली संगतता जांच, कोड साफ करने तथा तंत्र को वाक़ई दैनिक लेखन के लिए उपयोगी बनाया जा रहा है.**रेजी क्यों?
इससे पहले कि हम बनावट में रंगने से पहले, हम Reg (Regigirig) क्यों के बारे में बात करते हैं, सही तरीका है यहाँ है.
अच्छी तरह से दोष के साथ समस्या
आप शायद सोचें: "क्यों न सिर्फ सभी ब्लॉग पोस्टों पर अच्छी तरह से दोष लगाने के लिए"? ऐसे कई विषय हैं:
लागत व जटिलता
अच्छी तरह से तैयार करना महँगी है (दोनों की गणना और प्रयास में)
स्टेलापन
हर नए ब्लॉग पोस्ट का अर्थ है फिर से अभ्यास करना
ब्लैक बक्सा
मॉडल " सीख लिया" को समझने के लिए कठिन है
✅ Always up-to-date (just re-index new posts as you write them)
✅ Grounded in your actual writing (maintains consistency)
✅ Traceable (know which past posts influenced suggestions)
✅ Efficient (no expensive retraining for every new post)
✅ Flexible (can swap out LLMs or adjust search strategies)
✅ Privacy-preserving (everything runs locally)
हाल ही में सजग होइए!
कोई गारंटी नहीं है मॉडल कुछ भी नहीं करेगा
graph TB
A[Markdown Files] -->|Ingest| B[Chunking Service]
B -->|Text Chunks| C[Embedding Model]
C -->|Vectors| D[Vector Database]
E[User Writing] -->|Current Draft| F[Windows Client]
F -->|Embed Context| C
C -->|Query Vector| D
D -->|Similar Content| G[Context Builder]
G -->|Relevant Past Articles| H[Prompt Engineer]
H -->|Prompt + Context| I[Local LLM]
I -->|Generated Suggestions| J[Link Generator]
J -->|Suggestions + Citations| F
F -->|Display| K[Editor with Suggestions]
class C,I embedding
class D,K output
classDef embedding stroke:#333,stroke-width:4px
classDef output stroke:#333,stroke-width:4px
प्रशस्ति-पत्र को नहीं
आसानी से ट्रेस उत्तर स्रोत में वापस नहीं जा सकते
RAG इसे कैसे हल करता है
RAG दोनों दुनिया की सबसे अच्छी तरह से जोड़ता है: संदर्भ - स्पष्ट सामग्री बनाने के लिए खोज की क्षमता के साथ.
प्रवाह है:
उपयोक्ता लिखना शुरू करता है (जैसे, "केसंपिक के साथ एक पुनःसंत्र बनाना")
तंत्र को समान पिछले लेखों की यथार्थता से खोज आती है
तंत्र फीड तुमसे संबंधित वस्तु को लीएम के संदर्भ के रूप में दिखाता हैTLM सुझाव बनाता है पिछले विषयवस्तु के आधार पर जारी/ रद्दीकरण
तंत्र में स्रोत पोस्टों के संदर्भों के लिए सुझाव दिए गए हैं
इसका अर्थ है:
तंत्र यूनीक्यूशन
मुझे कुंजी घटकों को तोड़ दो हम निर्माण हो जाएगा:
1 ..
घड़ी की विपरीत दिशा में (t)
**यह अवयव:**ब्लॉग डिरेक्ट्री से फ़ाइलों को पढ़ा जा रहा है
**बहुत बड़ा है और आप LLL के संदर्भ विंडो बर्बाद.**हमें ऐसे बदलाव करने की ज़रूरत है, जो एक पूर्ण विचार या खण्ड हैं, और इसका मतलब यह नहीं कि कोई सीधा अनुच्छेद टूटता है ।
(कन- ऑफ-में- eueuk- open स्रोत)**3सदिश डाटाबेस**वेक्टर डाटाबेस स्टोर्डिंग तथा तीव्र समानता खोज सक्षम करता है.**जब आप के बारे में लिख रहे हैं "कोराइट" के बारे में, यह सबसे अधिक इसी तरह की पिछली सामग्री को खोजता है, लेकिन सामान्य रूप से संबंधित जानकारी।**तकनीक चयन
: हम मूल्यांकन करेंगे:
स्केल्स
आधुनिक, सी# क्लाएंट, डॉक-करी में लिखा गया है
पीगवर्टर
एसक्यूएल के लिए विस्तार (हम पहले से ही पोस्टग्रिस का उपयोग कर रहे हैं!)
## परिचय
