Emma

सारांश:

  • गुडहार्ट का कानून यह कहता है कि जब कोई माप महत्वपूर्ण लक्ष्य बन जाता है, तब वह एक अच्छा माप नहीं रहता, जो ओपनएआई को ध्यान में रखना होगा जब वह मापने में कठिन या महंगे होते हैं।
  • ओपनएआई जैसे जटिल लक्ष्यों को सहायकता और तथ्यात्मक सट्टापन्नता जैसे लक्ष्यों को अनुकूलित करने के लिए प्रॉक्सी लक्ष्यों जैसे प्रॉड मॉडल का उपयोग करता है, और प्रॉक्सी लक्ष्य को अनुकूलित करने के लिए सरल तकनीक अपनाता है।