ये दार्शनिक नियम नहीं हैं

आप एलएलएम को अपना राज्य नहीं देंगे

अगर कुछ महत्वपूर्ण है तो यह मॉडल के बाहर रहता है

• राज्य स्थायी होना चाहिए।
• क्वेरी योग्य
• फिर से चलाया जा सकता
• श्रवणीय

संदर्भ विंडो भंडारण नहीं हैं स्मृति प्रवर्धन डाटाबेस नहीं हैं विश्वास सत्य नहीं है

आप LLM को एक पक्षीय प्रभाव का एकमात्र कारण नहीं बना सकते

अगर एक ईमेल भेजा गया था, एक भुगतान प्रक्रमित किया गया है, या एक फ्लिप फ्लिप सिर्फ इसलिए कि एक मॉडल करने के लिए फैसला कियाआपका तंत्र पहले से ही टूटा है

एलएलएम सिफारिश करना कार्य निर्धारात्मक प्रणालियों को शरीक होना them.

You shall separate causality from narration

एलएलएम क्या हुआ उसे स्पष्ट करने में उत्कृष्ट हैं

वे इस बात की गारंटी देने में भयभीत हैं

• संभाव्यता कोड में है
• वर्णन भाषा में आता है।
• दो को कभी भ्रमित न करें

यदि आपका सिस्टम गद्य से वास्तविकता निष्कर्षित करता है

IV. आप LLMs का उपयोग करेंगे जहाँ संभावना स्वीकार्य है

के लिए उनका उपयोग करें

• वर्गीकरण
• सारांश
• अभिप्राय पता लगाना
• प्रारूप-पाठ
• परिकल्पना निर्माण

करें (D) नहीं के लिए उनका उपयोग करें

• जीवन चक्र नियंत्रण
• अपरिवर्ती
• आदेश
• पूर्णता पहचान
• क्या ऐसा हुआ

You will never ask an LLM to decide a boolean that can be derived

यदि नियम को : के रूप में लिखा जा सकता है

if X then Y

…यह प्रवर्धन में शामिल नहीं है

एक राज्य संक्रमण सस्ता है। प्राकृतिक भाषा उन चीजों में से कोई नहीं है

आप विश्वसनीयता के लिए फ्युनसी को गलत मत समझें।

LLMs सही लगते हैं जब वे गलत होते हैं

कि उनके सुपर पावर है और उनका खतरा

संतुष्ट वाक्य का अर्थ नहीं है

• औजार चला गया
• भेजे गए ईमेल
• कार्यप्रणाली पूर्ण

ट्रस्ट सिग्नल सिस्टम से आने चाहिए

तुम असफलता को बड़ा बोहतान बनाओगे।

अच्छे प्रणालियों में असफलता

• स्पष्ट रूप से
• प्रत्यक्ष रूप-से
• बार-बार

LLM-पहली प्रणाली असफल होती है

• चुपचाप
• विनम्रतापूर्वक
• अस्पष्ट कारणों के लिए

अगर आप कर सकते हैं-'-क्या कहा नहीं कि क्या हुआ था-'-क्या नहीं हुआ है-MSC2-आप नहीं करते-M SK3-आप में कोई प्रणाली नहीं है।

आप एलएलएम को सलाहकार के रूप में डेमोट करेंगे

LLMs should:

• टिप्पणी करना
• सुझाव देना
• दर्जा
• स्पष्ट करना
• मनुष्यों की सहायता करना और मशीन

उन्हें नहीं चाहिए

• अपने आप में कार्यप्रणाली अग्रिम करें
• कार्य को पूर्ण मानें
• "remember" दायित्वों पर विश्वास किया जाना चाहिए

इंटर्नस नहीं चलाते वेतनroll भी नहीं LLMs.

तुम सबसे पहले बोर मशीनरी बनाओगे

कतार राज्य मशीनें रिट्रीज़ प्रतिबन्धन मैट्रिक्स

अगर आप इन जोड़ें बाद एजेंट असफल होता है

सिर्फ इसलिए कि विपणन कहता है, आप स्तरों को गिरा नहीं सकते

एक कार्यप्रवाह इंजन को एक सूक्ष्म से बदलना सरलता नहीं है

यह जटिलता धोना है

यदि आपके "AI प्लेटफार्म को " निर्धारक ट्रिगरों के लिए आवश्यक है कि वह विश्वसनीय रूप से काम करे

द इंटरनेशनर हॉल ऑफ शैम

ये अकल्पित नहीं हैं, यह अरबों के संसाधन वाले कंपनियों की वास्तविक असफलता है

पैटर्न को ध्यान दें: हर विफलता LLM को अनुमति दी जा रही है परिभाषित करना वास्तविकता के बजाय व्याख्या करना यह.

विविंट + Salesforce Agentforce

घरेलू सुरक्षा कंपनी Vivint Agentforce का उपयोग करता है ग्राहक समर्थन के लिए 2.5 मिलियन ग्राहकों को संभालने के लिए रिपोर्ट की गई सूचना कि एजेंट फोर्स कभी-कभी अस्पष्ट कारणों के लिए सर्वेक्षण भेजने में विफल "

समाधान ? विविंट Salesforce के साथ कार्य करने के लिए लागू किया गया था

सॉफ्टवेयर इंजीनियरिंग पाठ अगर आप को हर बार कुछ होने की ज़रूरत है, तो state machine या event trigger का उपयोग करें कमांड 2 - side effects require deterministic systems

मैकडोनाल्ड, एमएसके0, एस, एमएसएसके1, आईबीएम ड्राइव, एमएससी2 AI के माध्यम से

अमेरिका के स्थानों पर आईबीएम के साथ साझेदारी में आर्डरिंग सिस्टम के माध्यम से मैकडोनाल्ड एमएसके0 ने एक AI चलाया एमएसका1powered drive एमएसक2 यह सिस्टम नियमित रूप से बुनियादी संशोधनों को समझने में विफल रहा है

सॉफ्टवेयर इंजीनियरिंग पाठ क्रमादेश-कार्य एक संरचनात्मक डेटा समस्या है। कमांड V: यदि नियम इस रूप में लिखा जा सकता है if X then Yयह नहीं है

एयर कनाडा चाटबोट

एयर कानाडा के ग्राहक सेवा चैटबॉट ने एक वारेजमेंट फीस पॉलिसी का आविष्कार किया जो मौजूद नहीं था-मैसेके1-मै सेके2-एक ग्राहक को विश्वासपूर्वक बताता है कि वह पूरा-पूरा-मैसके3-फेयर उड़ान बुक कर सकते हैं और वापसी छूट के लिए आवेदन कर सकता है-मैसाके4-जब ग्राहक इस छूट का दावा करने की कोशिश करता था-मासेके5-एअर कानाडन ने मना कर दिया-मैसीके6-और बाद में एक ट्रिब्यूनल द्वारा आदेश दिया गया चैटबोट को मानने के लिए

सॉफ्टवेयर इंजीनियरिंग पाठ LLM नीति के लिए प्रामाणिक स्रोत नहीं हो सकता है स्पष्ट करना एक दस्तावेज भंडार से निकाला नीति, लेकिन सत्य का स्रोत बाहरी और सत्यापित होना चाहिए आदेश 1 (स्टेट मॉडल के बाहर रहता है कमांड 6 (प्रवाह विश्वसनीयता नहीं है

डीपीडी चैटबोट

पैकेल डिलिवरी कंपनी डीपीडी एमएसके0 ग्राहक सेवा चैटबोट एक निराश उपयोक्ता द्वारा जेल में टूट गया था क़समें खाकर कंपनी की आलोचना करते हुए और कविताएं लिखते हुए इस बारे में कि डीपीडी कितनी बेकार थी

सॉफ्टवेयर इंजीनियरिंग पाठ गार्डरेल वैकल्पिक नहीं हैं कमांड 8सलाहकार के लिए एलएलएम को डेमोट करें

Chevrolet डीलरशिप चैटजीपीटी

एक Chevrolet डीलरशिप ने चैटजीपीटी को अपने वेबसाइट में सम्मिलित किया। उन्हें एक 2024 Chevy Tahoe के लिए बेचने के लिए सहमत हैं, पाइथोन कोड लिखें, और बदलकर फोर्ड वाहनों को सिफारिश करें

सॉफ्टवेयर इंजीनियरिंग पाठ आप एक सार्वभौमिक | - |purpose LLM को किसी लेन-देन प्रणाली पर बोल्ड नहीं कर सकते और यह आशा करते हैं कि वह व्यापार नियमों को लागू करेगा कमांड 3कारण कोड में आता है

रेप्लिट एजेंट विप्स उत्पादन डाटाबेस

जुलाई में 2025, @info bug resolution आरंभ में SaaStr. कोड फ्रिज के दौरान उत्पादन कोड को न बदलने के स्पष्ट निर्देशों के बावजूद अभिकर्ता ने उत्पादन डाटाबेस मिटाया छिपा हुआ बनावटी उपयोगकर्ताओं को उत्पन्न करने के कारण क्षति

प्रत्युत्तर सीईओ अम्जद मासाद ने स्वीकार किया कि यह अस्वीकार्य था और कभी संभव नहीं होना चाहिए

सॉफ्टवेयर इंजीनियरिंग पाठ यह विकृति के बारे में नहीं है। कमांड 2 और कमांड ९side effects need deterministic systems, and boring machinery comes first

न्यूयार्क मैसी सिटी चैटबोट ने कानून तोड़ने की सलाह दी

न्यूयार्क सिटी एमएसके0 माइक्रोसॉफ्ट एमएसक1powered मेरे सिटी चैटबोट ने व्यापारियों को बताया। वे कानूनी रूप से कामगारों की कटौती कर सकते हैं

चैटबोट ऑनलाइन है

सॉफ्टवेयर इंजीनियरिंग पाठ कानूनी और नीतिगत मार्गदर्शन एक संक्षेपण कार्य नहीं है। आदेश 10 राज्य 1 और नीति 2 मॉडल से बाहर रहता है 3

iTutor समूह's AI आयु के आधार पर आवेदकों को अस्वीकार करता है

2023, शिक्षण कंपनी iTutor समूह में एक EEOC मुकदमे के निपटान के लिए $365,000 भुगतान इसके AI भर्ती सॉफ्टवेयर ने स्वचालित रूप से 55+ के आयु वाले महिला आवेदकों और 60+. की आयु वाले पुरूष आवेदकों को अस्वीकार कर दिया।

जब भी प्रौद्योगिकी भेदभाव को स्वचालित करता है, तब भी नियोक्ता उत्तरदायी रहता है,” एसईओसी के अध्यक्ष चार्लोट बर्रोस ने कहा

सॉफ्टवेयर इंजीनियरिंग पाठ में असमानता , असमान बाहर | . | यदि आपका प्रशिक्षण डेटा भेद को एनकोड करता है |, | आपका मॉडल भेद करेगा |- | विश्वसनीय और पैमाने पर कमांड 4 किराया पर लागू किया जाता है। :। वर्गीकरण LLMs के लिए स्वीकार्य है।

शिकागो सन ने AI के विभ्रमित पुस्तक सूची प्रकाशित की है

मई में 2025, शिकागो सन एक ग्रीष्मकालीन पठन सूची प्रकाशित की ऐसी किताबें सिफारिश कर रही है जो मौजूद नहीं हैं

सॉफ्टवेयर इंजीनियरिंग पाठ एलएलएम डाटाबेस नहीं हैं कमांड 6: फ्लेनसी विश्वसनीयता नहीं है

यह क्यों महत्वपूर्ण है

इन कंपनियों में से कोई भी अक्षम नहीं है। मानते हुए कि क्योंकि एलएलएम सुसंगत भाषा उत्पन्न कर सकते हैं, वे सही व्यवहार उत्पन्न करने के लिए विश्वास किया जा सकता है

विक्रेताओं को बेचने के लिए एक तरीका के रूप में "AI एजेंटों" नीरस काम skip the boring work

के रूप में आईओएमएसके0 के थोर ओलफसरूड नोट्सआपके डेटा को समझना और यह क्या आपको बताता है यह महत्वपूर्ण है, लेकिन यह आपके उपकरणों को समझने के लिए समान रूप से महत्वपूर्ण है।

उपर्युक्त प्रत्येक विफलता मूल सॉफ्टवेयर अभियांत्रिकी विधा के द्वारा रोका गया होता

ध्यान दें कि इनमें से कोई भी सुधार बेहतर मॉडल शामिल नहीं है

असफलता |---------|------------------------------| | Vivint सर्वेक्षण नहीं भेजता है। | मैकडोनाल्डन एयर कनाडा का बनावटी नीति | प्रामाणिक स्रोत से नीति खोज | डीपीडी उदारता | प्रतिक्रिया टेम्प्लेट | चेवी | $1 | कार || | लेन-देन पथ में कोई एलएलएम नहीं | रीप्लेट डाटाबेस वाइप करें NYC विधिक सलाह | सत्यापित पॉलिसी दस्तावेजों से प्राप्त करना | iTutor आयु भेदन | | | विशेषता सत्यापन |, | मानव समीक्षा गलत पुस्तक सूची | वास्तविक पुस्तक डाटाबेस क्वेरी करें

इस बात का ironie मोटा है। These companies implemented "deterministic triggers() बाद LLM असफल - जो सिर्फ अतिरिक्त चरणों और एक PR संकट के साथ सॉफ्टवेयर इंजीनियरिंग है

क्या सही दिखता है

शरम का कक्ष यह दिखाता है कि जब आप इन सिद्धांतों को अनदेखा करते हैं तो क्या होता है

ये सिद्धांत पहले से ही उत्पादन में काम करते हैं।

अविश्वसनीय देवताओं के साथ नियंत्रित विकास

डिएसई वास्तुकला LLMs को ठीक तरह से उन के रूप में व्यवहार किया जाना चाहिए अविश्वसनीय सलाहकार एक निर्णायक पिंजरे के भीतर कार्य कर रहा है

• क्यों संरचना भंगिता को हराती है - एलएलएम प्रस्तावित करता है
• LLMs को अविश्वसनीय माना जाना मॉडल शक्तिशाली है लेकिन स्पष्ट रूप से विकृत है
• एलिविएटर पिच - सत्यापित कार्यप्रणाली जहां LLM निर्माण सामग्री है

प्रमुख अंतर्दृष्टि LLM hypotheses उत्पन्न करने में उत्कृष्ट हैं DiSE दोनों का उपयोग करता है

बोट पता लगाना: सलाहकार के रूप में LLM

बोट खोज इंजन दिखाता है कमांड 8 व्यवहार में

• एलएलएम व्यवहारिक नमूने का विश्लेषण करता है और वर्गीकरण सुझाव देता है
• लेकिन पता लगाने का निर्णय स्पष्ट थ्रेसहोल्डों के साथ एक स्कोरिंग प्रणाली से आता है
• स्थिति डाटाबेस में रहती है, संदर्भ विंडो नहीं
• प्रत्येक निर्णय लेखापरीक्षा योग्य और पुनरावृत्ति योग्य है।

यह पैटर्न है। : LLM का उपयोग करता है।

संकीर्ण अस्पष्टता: नियंत्रण प्रणाली पैटर्न

प्रतिबंधित अस्पष्टता पैटर्न संभाव्यात्मक और निर्णायक घटकों के बीच संबंध को औपचारिक बनाता है

• उपstrate-type (facts प्रस्तावक (LLM), जो फीड करता है कंसट्रेनर (validate,rewrite
• एलएलएम कभी भी स्थिति या side effects का मालिक नहीं है
• प्रत्येक आउटपुट कठोर प्रतिबंधों द्वारा बाधित है

भाग 2: प्रतिबंधित अस्पष्ट मोएम इसका विस्तार बहुविध अभिकर्ता प्रणालियों तक करता है जहां बहुविध एलएलएम टाइप किए गए संकेतों के माध्यम से संचार करते हैं।

Zero-PII ग्राहक इंटेलिजेंस

पहचानों को भंडारित किए बिना अर्थानुभूति यह दिखाता है कि कैसे ग्राहक अंतर्दृष्टि के लिए एम्बेडिंग और एलएलएम का उपयोग किया जा सकता है जबकि खतरनाक भागों को रखने में।

LRU व्यवहार स्मृति

एलआरयू सीखना मेमोरी प्रबंधन भी इन सिद्धांतों का पालन करता है क्या याद रखना, लेकिन तंत्र याद करने का एक नीरस है

अंतिम नियम

LLMs वास्तविकता को व्याख्या करते हैं

प्रत्येक उपकरण का उपयोग करने के लिए यह क्या है

हमने पहले से ही स्थिति को हल किया है यह सिर्फ इसलिए नहीं सीखें कि डेमो सही दिखता है

और जब आप यह सही मिलते हैं, तो कुछ आश्चर्यजनक होता है, आप महंगे मॉडलों की जरूरत नहीं करते। क्योंकि इसके चारों ओर के निर्णायक प्रणालियां हर चीज़ को संभालती हैं जो वास्तव में सही होने की जरूरत है अग्रणी मॉडल आपको विश्वसनीयता बेच रहे हैं जिसे आप खुद बनाना चाहिए

बोरिंग मशीनरी बनाना. सलाहकार के लिए LLM को डेमोट करें।

यदि यह स्पष्ट लगता है, तो इसका मतलब है कि आप पहले से ही विश्वसनीय प्रणालियों का निर्माण कैसे कर सकते हैं।