जनरेटिव AI: आर्किटेक्चर, आधारभूत सिद्धांत और प्रोडक्शन इंजीनियरिंग

दशकों तक, आधुनिक मशीन लर्निंग मुख्य रूप से डिस्क्रिमिनेटिव (भेदभावपूर्ण / वर्गीकरण आधारित) थी।

हम डेटा को वर्गीकृत करने, पहचानने, अनुमान लगाने या फ़िल्टर करने के लिए एल्गोरिदम बनाते थे। दिए गए इनपुट $X$ के लिए, एक डिस्क्रिमिनेटिव मॉडल सशर्त संभाव्यता वितरण (conditional probability distribution) $P(Y \mid X)$ का अनुमान लगाता है:

"क्या यह ईमेल स्पैम है या नहीं?"
"क्या इस मेडिकल स्कैन में फ्रैक्चर दिखाई दे रहा है?"
"क्या संभावना है कि यह क्रेडिट कार्ड लेनदेन धोखाधड़ी है?"

इसके विपरीत, जनरेटिव AI (Generative AI) स्वयं डेटा के संयुक्त संभाव्यता वितरण $P(X, Y)$ या सीमांत वितरण $P(X)$ को मॉडल करता है। विभिन्न वर्गों को अलग करने के लिए सीमा रेखा खींचने के बजाय, एक जनरेटिव मॉडल यह सीखता है कि उच्च-आयामी लेटेंट स्पेस (latent space) में अंतर्निहित डेटा वास्तव में कैसे वितरित हुआ था।

एक बार जब सिस्टम उस वितरण की संरचना, संबंधों और विविधताओं को समझ लेता है, तो वह उसमें से नमूने लेकर पूरी तरह से नए, पहले कभी न देखे गए आर्टिफैक्ट्स संश्लेषित कर सकता है — चाहे वह त्रुटिहीन जावा कोड हो, उच्च-रिज़ॉल्यूशन छवियां हों, आणविक संरचनाएं हों या यथार्थवादी ऑडियो।

Discriminative Model: Input (X) ──────────► [ Decision Boundary ] ──► Class Label (Y) (P(Y|X)) Generative Model: Noise / Prompt (z) ─► [ Data Distribution ] ──► Novel Data Sample (X̂) (P(X))

1. मुख्य प्रतिमान बदलाव: डिस्क्रिमिनेटिव बनाम जनरेटिव

जनरेटिव AI की कम्प्यूटेशनल जटिलता को समझने के लिए, हमें यह देखना होगा कि मॉडल्स से क्या कैप्चर करने की अपेक्षा की जाती है:

आयाम	डिस्क्रिमिनेटिव AI	जनरेटिव AI
गणितीय लक्ष्य	सशर्त सीमा $P(Y \mid X)$ को सीखना।	डेटा वितरण $P(X)$ या $P(X, Y)$ को सीखना।
उद्देश्य	मौजूदा लक्ष्य लेबल को वर्गीकृत या भविष्यवाणी करना।	ट्रेनिंग वितरण की नकल करने वाले नए, यथार्थवादी डेटा पॉइंट्स उत्पन्न करना।
आउटपुट का प्रकार	असतत लेबल, संभाव्यताएं, रिग्रेशन मान।	उच्च-आयामी डेटा: प्राकृतिक भाषा पाठ, स्रोत कोड, चित्र, ऑडियो, वीडियो।
डेटा आवश्यकता	सुपरवाइज्ड डेटासेट्स (लेबल के साथ युग्मित फीचर्स)।	विशाल स्व-पर्यवेक्षित (Self-supervised) संग्रह (अनलेबल टेक्स्ट, चित्र, कोडबेस)।
विफलता के रूप	गलत वर्गीकरण, फॉल्स पॉजिटिव/नेगेटिव, एडवरसैरियल ड्रिफ्ट।	हैलुसिनेशन (Hallucination), मोड कोलैप्स, रिवॉर्ड हैकिंग, डिस्ट्रीब्यूशनल ड्रिफ्ट।

2. जनरेटिव AI को शक्ति प्रदान करने वाले आधारभूत आर्किटेक्चर

जनरेटिव मॉडल्स मुख्य रूप से चार बुनियादी आर्किटेक्चरल परिवारों पर निर्भर करते हैं, जिनमें से प्रत्येक की विशिष्ट गणितीय नींव और निष्पादन ट्रेड-ऑफ हैं:

┌── 1. ट्रांसफॉर्मर्स (टेक्स्ट/कोड के लिए ऑटोरिग्रेसिव सेल्फ-अटेंशन) │ जनरेटिव आर्किटेक्चर ───────┼── 2. डिफ्यूजन मॉडल्स (इमेजिस/वीडियो के लिए इटरेटिव स्टोकेस्टिक डिनॉइज़िंग) │ ├── 3. वेरिएशनल ऑटोएनकोडर्स (VAEs) (लेटेंट स्पेस कम्प्रेशन) │ └── 4. जनरेटिव एडवरसैरियल नेटवर्क्स (GANs) (मिनीमैक्स गेम डायनेमिक्स)

A. ट्रांसफॉर्मर्स (LLMs और कोड संश्लेषण का मुख्य इंजन)

2017 में पेश किए गए ट्रांसफॉर्मर ने पुनरावृत्ति (RNNs/LSTMs) को सेल्फ-अटेंशन (Self-Attention) से बदल दिया। चूंकि यह ट्रेनिंग के दौरान पूरे टोकन अनुक्रमों को समानांतर (parallel) में संसाधित करता है, यह वितरित जीपीयू क्लस्टर पर अत्यधिक कुशलता से स्केल करता है।

Token Embeddings + Positional Encodings │ ▼ ┌───────────────────────┐ │ Multi-Head Attention │ ◄─── Computes: Softmax(Q · Kᵀ / √dₖ) · V └───────────┬───────────┘ ▼ [ Layer Normalization ] │ ▼ ┌───────────────────────┐ │ Feed-Forward Network │ └───────────┬───────────┘ ▼ [ Output Distribution ]

स्केल्ड डॉट-प्रोडक्ट अटेंशन फॉर्मूला:

\text{Attention}(Q, K, V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V

यहाँ:

$Q$ (क्वेरी / Query): वर्तमान टोकन प्रतिनिधित्व क्या खोज रहा है।
$K$ (की / Key): अनुक्रम में अन्य टोकन कौन सी प्रासंगिक संदर्भ जानकारी प्रदान करते हैं।
$V$ (वैल्यू / Value): प्रत्येक टोकन का वास्तविक सामग्री या प्रासंगिक फीचर प्रतिनिधित्व।
$\sqrt{d_k}$: एक स्केलिंग कारक जो आंतरिक उत्पादों (inner products) को उच्च आयामों में अत्यधिक बड़ा होने से रोकता है, जिससे सॉफ्टमैक्स ग्रेडिएंट्स शून्य के निकट संतृप्ति में नहीं जाते।

ऑटोरिग्रेसिव डिकोडिंग (Autoregressive Decoding):

टेक्स्ट जेनरेशन के दौरान, मॉडल ऑटोरिग्रेसिव रूप से काम करते हैं: दिए गए टोकन $(x_1, x_2, \dots, x_t)$ के आधार पर, मॉडल शब्दावली $V$ पर अगले टोकन $x_{t+1}$ की संभावनाओं की गणना करता है:

P(x_1, x_2, \dots, x_T) = \prod_{t=1}^T P(x_t \mid x_1, \dots, x_{t-1})

B. डिफ्यूजन मॉडल्स (विजुअल और मीडिया संश्लेषण का मानक)

जबकि पहले विजुअल जेनरेशन में GANs का प्रभुत्व था, अब डिनॉइज़िंग डिफ्यूजन प्रोबेबिलिस्टिक मॉडल्स (DDPMs) और लेटेंट डिफ्यूजन मॉडल्स (LDMs) छवियों और वीडियो के लिए उद्योग मानक बन गए हैं।

Forward Process (Diffusion): Clean Image (x₀) ──► [+ Noise] ──► [+ Noise] ──► Pure Gaussian Noise (x_T) (Fixed Markov Chain) Reverse Process (Generation): Pure Noise (x_T) ──► [- Noise] ──► [- Noise] ──► Synthesized Image (x̂₀) (Learned Neural Network / U-Net)

फॉरवर्ड प्रोसेस (शोर जोड़ना): एक स्पष्ट छवि $x_0$ को $T$ टाइमस्टेप्स पर व्यवस्थित रूप से गॉसियन शोर जोड़कर दूषित किया जाता है जब तक कि यह पूरी तरह से शुद्ध नॉइज़ न बन जाए।
रिवर्स प्रोसेस (डिनॉइज़िंग): एक न्यूरल नेटवर्क (अक्सर U-Net या डिफ्यूजन ट्रांसफॉर्मर/DiT) को टाइमस्टेप $t$ पर जोड़े गए सटीक शोर $\epsilon_\theta(x_t, t)$ का अनुमान लगाने के लिए प्रशिक्षित किया जाता है।
लेटेंट डिफ्यूजन: उच्च-रिज़ॉल्यूशन पिक्सेल स्पेस में डिनॉइज़िंग चलाना कम्प्यूटेशनल रूप से अत्यधिक महंगा है। आधुनिक सिस्टम पहले ऑटोएनकोडर का उपयोग करके छवियों को कम-आयामी लेटेंट स्पेस में संपीड़ित करते हैं, उस लेटेंट मैनिफोल्ड के भीतर डिफ्यूजन निष्पादित करते हैं, और परिणाम को वापस पिक्सेल में डिकोड करते हैं।

C. वेरिएशनल ऑटोएनकोडर्स (VAEs)

एक VAE उच्च-आयामी इनपुट $X$ को एक सुचारू, संभाव्य लेटेंट स्पेस में मैप करता है जो माध्य ($\mu$) और प्रसरण ($\sigma$) द्वारा विशेषता रखता है, फिर उसका पुनर्निर्माण करता है।

एक नियमित लेटेंट स्पेस को लागू करके (कुलबैक-लीबलर डाइवर्जेंस के माध्यम से), हम यादृच्छिक बिंदुओं $z \sim \mathcal{N}(0, I)$ का नमूना ले सकते हैं और मान्य, नए डेटा नमूनों को उत्पन्न करने के लिए उन्हें डिकोडर के माध्यम से पारित कर सकते हैं।
आज, VAEs मुख्य रूप से डिफ्यूजन पाइपलाइनों और विसंगति का पता लगाने (anomaly detection) के लिए अवधारणात्मक संपीड़न रीढ़ के रूप में काम करते हैं।

D. जनरेटिव एडवरसैरियल नेटवर्क्स (GANs)

दो नेटवर्कों के बीच एक शून्य-योग मिनीमैक्स गेम:

द जनरेटर ($G$): ऐसा नकली डेटा बनाने का प्रयास करता है जिसे वास्तविक ट्रेनिंग डेटा से अलग नहीं किया जा सकता।
द डिस्क्रिमिनेटर ($D$): यह वर्गीकृत करने का प्रयास करता है कि दिया गया नमूना वास्तविक है या सिंथेटिक।

\min_G \max_D V(D, G) = \mathbb{E}_{x \sim p_{\text{data}}}[\log D(x)] + \mathbb{E}_{z \sim p_z}[\log(1 - D(G(z)))]

हालांकि GANs अनुमान (inference) के दौरान कम विलंबता प्रदान करते हैं, मोड पतन (mode collapse) और लुप्त होते ग्रेडिएंट्स के कारण उन्हें प्रशिक्षित करना कुख्यात रूप से कठिन है, जिसके परिणामस्वरूप डिफ्यूजन मॉडल्स रचनात्मक क्षेत्र में आगे निकल गए हैं।

3. एक फाउंडेशन मॉडल का संपूर्ण जीवन चक्र

एक अत्याधुनिक जनरेटिव मॉडल का निर्माण एक बहु-चरणीय इंजीनियरिंग पाइपलाइन है जिसके लिए भारी डेटासेट, पेटाफ्लॉप्स कम्प्यूट और मानवीय संरेखण की आवश्यकता होती है:

┌────────────────────────────────────────────────────────────────────────┐ │ फाउंडेशन मॉडल प्रशिक्षण पाइपलाइन │ ├────────────────────────────────────────────────────────────────────────┤ │ │ │ 1. प्री-ट्रेनिंग (Pre-Training - Self-Supervised) │ │ • वेब संग्रह, पुस्तकें, कोड रिपोजिटरीज़, सिंथेटिक टेक्स्ट │ │ • अगले टोकन का अनुमान लगाना / नॉइज़ हटाना │ │ • आउटपुट: बेस मॉडल (भाषा, पैटर्न, विश्व मॉडल को समझता है) │ │ │ │ │ │ │ ▼ │ │ 2. सुपरवाइज्ड फाइन-ट्यूनिंग (SFT / Instruction Tuning) │ │ • चयनित प्रॉम्प्ट-प्रतिक्रिया जोड़े ("गोल्ड स्टैंडर्ड" प्रदर्शन) │ │ • मॉडल को निर्देशों का पालन करना और सहायक के रूप में कार्य सिखाना │ │ • आउटपुट: इंस्ट्रक्ट-ट्यून्ड मॉडल │ │ │ │ │ │ │ ▼ │ │ 3. वरीयता संरेखण (Preference Alignment - RLHF / DPO) │ │ • मानव / AI मूल्यांकनकर्ता मॉडल की प्रतिक्रियाओं को रैंक करते हैं │ │ • उपयोगिता, ईमानदारी और सुरक्षा को पुरस्कृत किया जाता है │ │ • आउटपुट: प्रोडक्शन-रेडी अलाइंड मॉडल │ │ │ └────────────────────────────────────────────────────────────────────────┘

प्री-ट्रेनिंग (Pre-Training): कम्प्यूट का विशाल बहुमत (हजारों GPU हफ्तों या महीनों तक चलते हैं) इसी चरण में खर्च होता है। मॉडल ट्रिलियन टोकन को संपीड़ित करता है, अर्थपूर्ण प्रतिनिधित्व, तार्किक तर्क और विश्व ज्ञान विकसित करता है।
सुपरवाइज्ड फाइन-ट्यूनिंग (SFT): बेस मॉडल केवल पाठ को आगे बढ़ाने वाला होता है; वह सवाल के जवाब में दूसरा सवाल भी लिख सकता है। SFT उच्च-गुणवत्ता वाले प्रदर्शन प्रदान करता है कि एक सहायक को कैसे जवाब देना चाहिए।
वरीयता संरेखण (RLHF / DPO):
- RLHF (ह्यूमन फीडबैक से रीइन्फोर्समेंट लर्निंग): मानव प्राथमिकताओं पर एक अलग रिवॉर्ड मॉडल को प्रशिक्षित करता है, फिर PPO (प्रॉक्सिमल पॉलिसी ऑप्टिमाइज़ेशन) के माध्यम से पॉलिसी मॉडल को अनुकूलित करता है।
- DPO (डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन): एक अंतर्निहित इनाम फ़ंक्शन का उपयोग करके युग्मित वरीयता डेटा पर सीधे नीति को अनुकूलित करता है, जिससे अलग रिवॉर्ड मॉडल को बनाए रखने की परिचालन अस्थिरता समाप्त हो जाती है।

4. मल्टीमॉडल स्पेक्ट्रम

जनरेटिव AI स्वाभाविक रूप से मल्टीमॉडल है। वही मुख्य अवधारणाएं — लेटेंट स्पेस, सीक्वेंस-टू-सीक्वेंस ट्रांसफॉर्मर और डिफ्यूजन गतिशीलता — विभिन्न मीडिया प्रकारों में अनुकूलित की जाती हैं:

┌── टेक्स्ट और प्राकृतिक भाषा (GPT, Claude, Gemini, LLaMA) ├── कोड और औपचारिक सिंटैक्स (Claude Code, GitHub Copilot) मोडैलिटी परिदृश्य ───────┼── छवि संश्लेषण (Stable Diffusion, FLUX, Midjourney) ├── ऑडियो और स्पीच (Whisper, ElevenLabs, MusicLM) └── वीडियो और वर्ल्ड मॉडल्स (Sora, Runway Gen-3, Movie Gen)

कोड जेनरेशन: कोड प्राकृतिक भाषा की तुलना में अधिक संरचित और नियतात्मक (deterministic) होता है। मॉडल्स को एब्सट्रैक्ट सिंटैक्स ट्रीज (ASTs), कमिट इतिहास और रिपोजिटरी संदर्भों पर प्रशिक्षित किया जाता है, जिसके लिए सटीक टोकन-स्तरीय सटीकता की आवश्यकता होती है।
ऑडियो और स्पीच संश्लेषण: न्यूरल ऑडियो कोडेक्स (उदा. EnCodec) का उपयोग करके वेवफॉर्म्स को असतत अभ्यावेदन में परिवर्तित करता है और ऑटोरिग्रेसिव रूप से या डिफ्यूजन वोकोडर के माध्यम से स्पीच टोकन उत्पन्न करता है।
वीडियो जेनरेशन: 2D छवि डिफ्यूजन को तीसरे अस्थायी अक्ष (स्पेस-टाइम पैच) के साथ विस्तारित करता है। मॉडल स्थानिक स्थिरता (वस्तुएं कैसी दिखती हैं) को समय के साथ 3D भौतिकी के माध्यम से वस्तुएं कैसे चलती हैं (अस्थायी स्थिरता) के साथ सीखते हैं।

5. एंटरप्राइज अनुकूलन: RAG बनाम फाइन-ट्यूनिंग

एंटरप्राइज वातावरण में जनरेटिव मॉडल तैनात करने के लिए मालिकाना डेटा के साथ बेस नॉलेज को संवर्धित करने की आवश्यकता होती है। संगठन दो प्राथमिक दृष्टिकोणों में से चुनते हैं:

[ मालिकाना एंटरप्राइज डेटा ] │ ┌──────────────────────┴──────────────────────┐ ▼ ▼ [ रिट्रीवल-ऑगमेंटेड जेनरेशन (RAG) ] [ फाइन-ट्यूनिंग (LoRA / QLoRA) ] • एक्सटर्नल वेक्टर स्टोर + हाइब्रिड सर्च • आंतरिक वेट्स (weights) को संशोधित करता है • डायनेमिक संदर्भ में तथ्यों को इंजेक्ट करता है • शैली, सिंटैक्स और विशिष्ट कार्य सिखाता है • शून्य पुनःप्रशिक्षण आवश्यक • मापदंडों को अपडेट करने के लिए GPU कम्प्यूट चाहिए • ऑडिट करने योग्य, स्रोत संदर्भ • विनाशकारी विस्मरण (Catastrophic forgetting) का जोखिम

रिट्रीवल-ऑगमेंटेड जेनरेशन (RAG)

यह कैसे काम करता है: जब कोई उपयोगकर्ता क्वेरी करता है, तो वेक्टर डेटाबेस (घने एम्बेडिंग का उपयोग करके) और कीवर्ड इंडेक्स (BM25) से प्रासंगिक दस्तावेज के अंश निकाले जाते हैं, फिर सीधे एलएलएम के प्रॉम्प्ट में आधारभूत संदर्भ सामग्री के रूप में भेजे जाते हैं।
इसके लिए सर्वोत्तम: गतिशील, तेजी से अपडेट होने वाले ज्ञान आधार, ग्राहक सहायता मैनुअल और कानूनी अनुबंध जहां तथ्यात्मक सत्यापन और स्रोत संदर्भ अनिवार्य हैं।

पैरामीटर-कुशल फाइन-ट्यूनिंग (PEFT / LoRA)

अरबों वजन (weights) को फिर से प्रशिक्षित करने के बजाय, लो-रैंक अडैप्टेशन (LoRA) बेस मॉडल वेट्स $W_0$ को फ्रीज करता है और ट्रेन करने योग्य रैंक-डिकम्पोज़िशन मैट्रिस $A$ और $B$ को इंजेक्ट करता है:

W = W_0 + \Delta W = W_0 + B \cdot A

जहाँ $B \in \mathbb{R}^{d \times r}$ और $A \in \mathbb{R}^{r \times k}$, रैंक $r \ll \min(d, k)$ के साथ।

इसके लिए सर्वोत्तम: किसी मॉडल को मालिकाना कोडिंग फ्रेमवर्क में ढालना, एक विशिष्ट ब्रांड आवाज़ अपनाना, या अत्यधिक संकुचित JSON/XML स्कीमा आउटपुट करना।

6. प्रोडक्शन में महत्वपूर्ण इंजीनियरिंग बाधाएं

जनरेटिव AI को प्रूफ-ऑफ-कॉन्सेप्ट से उच्च-उपलब्धता उत्पादन परिवेश में ले जाने से मुख्य इंजीनियरिंग सीमाएं सामने आती हैं:

परिचालन बाधा	मूल कारण	इंजीनियरिंग समाधान
हैलुसिनेशन (Hallucination)	जनरेटिव मॉडल्स संभावित सांख्यिकीय निरंतरता उत्पन्न करते हैं, सत्यापित जमीनी तथ्य नहीं।	RAG के साथ ग्राउंडिंग, संरचित सत्यापन लूप और लॉगिट-बायस प्रतिबंध।
मेमोरी / VRAM दीवार	लंबे अनुक्रमों के लिए वेट्स और KV (Key-Value) कैश लोड करने में दसियों गीगाबाइट VRAM की खपत होती है।	4-बिट/8-बिट क्वांटाइजेशन (GGUF, AWQ, FP8), FlashAttention, और vLLM (PagedAttention)।
लेटेंसी और TTFT	ऑटोरिग्रेसिव जनरेशन टोकन को एक-एक करके उत्पन्न करता है, जिससे हाई Time-to-First-Token (TTFT) और धीमी गति होती है।	स्पेकुलेटिव डिकोडिंग, कंटीन्यूअस बैचिंग और सरल कार्यों को स्मॉल लैंग्वेज मॉडल्स (SLMs) पर रूट करना।
प्रॉम्प्ट इंजेक्शन और जेलब्रेक	दुर्भावनापूर्ण उपयोगकर्ता ऐसे निर्देश इंजेक्ट करते हैं जो सिस्टम गार्डरेल्स को ओवरराइड करते हैं।	सिमेंटिक इनपुट फायरवॉल, डुअल-LLM मध्यस्थ और सख्त इनपुट/आउटपुट सैनिटाइजेशन लेयर्स।

7. विकास यात्रा: स्थिर सामग्री से एजेंटिक निष्पादन तक

जनरेटिव AI कोई स्थिर अंतिम बिंदु नहीं है। इसका विकास स्पष्ट पीढ़ीगत बदलावों से चिह्नित है:

Gen-1: भविष्य कहनेवाला (2010–2020) ──► वर्गीकृत करना, लेबल लगाना, पहचानना (स्पैम, इमेजनेट) │ Gen-2: उत्पादक / जनरेटिव (2020–2024) ──► संश्लेषित करना, ड्राफ्ट बनाना, संवाद (ChatGPT, Midjourney) │ Gen-3: एजेंटिक (2025–आगे) ──► योजना बनाना, टूल्स का उपयोग, स्व-सुधार, मल्टी-स्टेप वर्कफ़्लो निष्पादन

जनरेटिव मॉडल्स केवल आदेश पर टेक्स्ट लिखने वाले इंटरैक्टिव टूल्स से आगे बढ़कर ऑटोनॉमस एजेंटिक सिस्टम्स के रीजनिंग इंजन (reasoning engines) के रूप में कार्य कर रहे हैं। वे अब चैट विंडो के भीतर गद्य लिखने तक सीमित नहीं हैं; वे API अनुरोध तैयार कर रहे हैं, डायनेमिक SQL लिख रहे हैं, रनटाइम लॉग्स का निरीक्षण कर रहे हैं, और संपूर्ण सॉफ्टवेयर डिलीवरी पाइपलाइनों को स्वचालित रूप से संचालित कर रहे हैं।

मुख्य आर्किटेक्चरल निष्कर्ष

जनरेटिव मॉडलिंग घनत्व अनुमान (Density Estimation) है: विभिन्न वर्गों के बीच निर्णय सीमाएं सीखने वाले डिस्क्रिमिनेटिव मॉडल्स के विपरीत, जनरेटिव मॉडल्स अंतर्निहित डेटा वितरण P(X) को कैप्चर और पुनर्निर्मित करना सीखते हैं।
ट्रांसफॉर्मर्स और डिफ्यूजन अग्रणी हैं: अटेंशन मैकेनिज्म टेक्स्ट और कोड के लिए ऑटोरिग्रेसिव अनुक्रम उत्पादन को संभालते हैं, जबकि डिफ्यूजन प्रक्रियाएं निरंतर, उच्च-निष्ठा मीडिया संश्लेषण को नियंत्रित करती हैं।
आर्किटेक्चर एंटरप्राइज रणनीति तय करता है: सफल उत्पादन प्रणालियां केवल कच्चे प्रॉम्प्ट्स पर निर्भर नहीं करती हैं; वे फाउंडेशन मॉडल को संरचित RAG पाइपलाइनों, फाइन-ट्यून किए गए एडेप्टर (LoRA) और डिटरमिनिस्टिक सत्यापन फाटकों के साथ जोड़ती हैं।

संबंधित तकनीकी पुस्तक

Generative AI: An Introduction

जेनेरेटिव AI के गणितीय आधारों, Transformer आर्किटेक्चर, Diffusion एल्गोरिदम और वास्तविक दुनिया के परिनियोजन वर्कफ़्लो को स्पष्ट करने वाली तकनीकी पुस्तक।

पुस्तकों में देखें Amazon पर खरीदें (ASIN: B0GL26R2XR)

संदर्भ और प्रामाणिक स्रोत

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017): Attention Is All You Need. Advances in Neural Information Processing Systems (NeurIPS 2017). arXiv:1706.03762. उपलब्ध लिंक: https://arxiv.org/abs/1706.03762
Ho, J., Jain, A., & Abbeel, P. (2020): Denoising Diffusion Probabilistic Models. Advances in Neural Information Processing Systems (NeurIPS 2020). arXiv:2006.11239. उपलब्ध लिंक: https://arxiv.org/abs/2006.11239
Rombach, R., Blattmann, A., Lorenz, D., Esser, P., & Ommer, B. (2022): High-Resolution Image Synthesis with Latent Diffusion Models. IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR 2022). arXiv:2112.10752. उपलब्ध लिंक: https://arxiv.org/abs/2112.10752
Hu, E. J., Shen, Y., Wallis, P., Allen-Zhu, Z., Li, Y., Wang, S., Wang, L., & Chen, W. (2021): LoRA: Low-Rank Adaptation of Large Language Models. International Conference on Learning Representations (ICLR 2022). arXiv:2106.09685. उपलब्ध लिंक: https://arxiv.org/abs/2106.09685
Rafailov, R., Sharma, A., Mitchell, E., Ermon, S., Manning, C. D., & Finn, C. (2023): Direct Preference Optimization: Your Language Model is Secretly a Reward Model. Advances in Neural Information Processing Systems (NeurIPS 2023). arXiv:2305.18290. उपलब्ध लिंक: https://arxiv.org/abs/2305.18290
Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., & Kiela, D. (2020): Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020. arXiv:2005.11401. उपलब्ध लिंक: https://arxiv.org/abs/2005.11401