Never Talk About Goblins

ओपनएआई के चैट जीपीटी मॉडल, जिसने $122 बिलियन जुटाए हैं, अजीब तरह से "गोब्लिन" शब्द का उपयोग कर रहे हैं। यह बात तब सामने आई जब चैट जीपीटी 5.5 में गोब्लिन का लगातार जिक्र होने लगा। OpenAI ने अपने मॉडल को गोब्लिन, ग्रैमलिन, रैकून, ट्रोल, ओग्रे और कबूतर जैसे शब्दों का इस्तेमाल न करने का निर्देश दिया है, जब तक कि यह उपयोगकर्ता के प्रश्न से सीधे संबंधित न हो। यह समस्या नवंबर में चैट जीपीटी 5.1 के लॉन्च के बाद बढ़ गई, जब गोब्लिन के उल्लेख में 175% की वृद्धि हुई। विश्लेषण से पता चला कि "नर्डी" व्यक्तित्व विशेषता वाले उपयोगकर्ताओं में यह भाषा विशेष रूप से आम थी। "नर्डी" प्रॉम्प्ट, जो चंचल और जिज्ञासु AI मेंटर को बढ़ावा देता है, ने अनजाने में मॉडल को गोब्लिन से संबंधित शब्दों का अधिक उपयोग करने के लिए प्रेरित किया। प्रशिक्षण के दौरान, "नर्डी" व्यक्तित्व में गोब्लिन का जिक्र लगातार बढ़ता गया, और यह व्यवहार अन्य मॉडलों में भी फैल गया। OpenAI ने "नर्डी" व्यक्तित्व को हटा दिया है, जिससे गोब्लिन के उल्लेखों में कमी आई है, लेकिन फिर भी वे अन्य मॉडलों की तुलना में अधिक हैं। वर्तमान में, चैट जीपीटी 5.5 पूरी तरह से गोब्लिन से संक्रमित है, जिससे OpenAI को गोब्लिन के उपयोग को कम करने के लिए डेवलपर प्रॉम्प्ट निर्देश जोड़ने पड़े हैं।