गवर्नेंस एक सिस्टम समस्या है, नीति समस्या नहीं
नीति दस्तावेज़ किसी मॉडल को रात 2 बजे PII लीक करने से नहीं रोकते। रनटाइम प्रवर्तन रोकता है। उत्पादन में शासित-बाय-डिज़ाइन का वास्तव में क्या अर्थ है।
अब हर एंटरप्राइज़ के पास एक एआई नीति है। बहुत कम के पास एआई गवर्नेंस है — क्योंकि एक नीति PDF किसी इन्फ़रेंस कॉल को रोक नहीं सकती। दोनों के बीच का अंतर वहीं है जहाँ घटनाएँ रहती हैं।
शासित-बाय-डिज़ाइन का अर्थ है नियंत्रण अनुरोध पथ में हैं: मॉडल द्वारा प्रॉम्प्ट देखने से पहले रिडैक्शन, प्रॉम्प्ट परिवर्तन परिनियोजित होने से पहले मूल्यांकन द्वार, हर पुनर्प्राप्ति और टूल कॉल का ऑडिट रिकॉर्ड। यदि नियंत्रण को समय-सीमा के दबाव में छोड़ा जा सकता है, तो वह नियंत्रण नहीं है।
यह ठीक वही आर्किटेक्चर है जिसे हमने Algoryq Mind में उत्पादित किया, और यह पैटर्न वेंडर की परवाह किए बिना टिकता है: गवर्नेंस को वहाँ रखें जहाँ अनुरोध हैं, और नीति दस्तावेज़ इस बात का दस्तावेज़ बन जाता है कि प्रणाली पहले से क्या प्रवर्तित करती है।
