IISc के Department of Computational and Data Sciences में 30 सितंबर 2026 को पेश एक PhD thesis colloquium ने visual AI में bias को मापने के अलग-अलग स्तरों पर ध्यान दिलाया
मुख्य बात यह है कि किसी मॉडल का सही जवाब देना ही काफी नहीं; यह भी देखना होगा कि वह किसे, किस जगह को और किस तरह दिखाता है
Visual recognition और image generation मॉडल में bias को केवल accuracy से नहीं मापा जा सकता। अगर कोई मॉडल कुल मिलाकर अच्छे स्कोर ला रहा हो, तब भी वह कुछ तरह की तस्वीरों, कुछ तरह के सवालों या कुछ भौगोलिक संदर्भों को कम, गलत या रूढ़ छवियों में पेश कर सकता है। इसलिए bias की जांच कम से कम तीन स्तरों पर करनी पड़ती है: training dataset में क्या भरा गया, model के भीतर किस तरह की representation बनी, और output में वह डिफॉल्ट रूप से क्या दिखाता है।
इसी सवाल को नए सिरे से सामने लाने वाला एक अकादमिक संकेत IISc के Department of Computational and Data Sciences से आया है। विभाग की 30 सितंबर 2026 की event listing के अनुसार वहां “Understanding, Measuring, and Mitigating Bias in Visual Recognition and Generation” शीर्षक से PhD thesis colloquium प्रस्तुत किया गया। यह एक thesis colloquium है, यानी शोध-कार्य का अकादमिक प्रस्तुतीकरण; इसे अपने-आप में किसी एक peer-reviewed paper, बाज़ार में उतरे product या deployed AI system के रूप में नहीं पढ़ा जाना चाहिए।
परिचय: accuracy क्यों अधूरा पैमाना है
AI systems का सामान्य मूल्यांकन अक्सर इस सवाल से शुरू होता है कि मॉडल कितनी बार सही निकला। लेकिन bias का सवाल यह पूछता है कि मॉडल कब, कहाँ और किसके लिए सही या गलत है। उदाहरण के लिए, image classification में overall accuracy ऊंची हो सकती है, पर underrepresented examples पर performance गिर सकती है। इसी तरह text-to-image model तकनीकी रूप से साफ-सुथरी तस्वीर बना सकता है, फिर भी वह दुनिया को सीमित और दोहरावपूर्ण तरीके से दिखा सकता है।
यही वजह है कि representation एक अलग पैमाना बन जाती है। अगर कोई मॉडल किसी देश, शहर, माहौल या जीवन-शैली को तभी दिखाए जब prompt में उसे साफ-साफ लिखा जाए, तो यह केवल image quality का नहीं, default behaviour का प्रश्न है।
पृष्ठभूमि: IISc के thesis colloquium में क्या सामने आया
IISc CDS की आधिकारिक event entry में इस काम को visual recognition और generation में bias को समझने, मापने और कम करने की दिशा में रखा गया है। listing के मुताबिक thesis का पहला हिस्सा discriminative vision systems, जैसे image classification और visual question answering, में bias पर केंद्रित है। दूसरा हिस्सा text-to-image generation में geographic representation की समस्या को देखता है।
उपलब्ध abstract के अनुसार शोध यह भी जांचता है कि बड़े vision-language datasets में captions का भौगोलिक वितरण कुछ गिने-चुने देशों की ओर झुका हो सकता है। साथ ही, thesis में GeoDiv नाम का एक framework पेश करने की बात कही गई है, जिसका उद्देश्य यह देखना है कि किसी देश या क्षेत्र को सिर्फ कितनी बार नहीं, बल्कि किस विविधता के साथ दिखाया जा रहा है।
विश्लेषण: dataset, representation और generation behaviour
Bias को समझने का पहला चरण dataset है। अगर training data में कुछ तरह की छवियां अधिक हों और कुछ कम, तो मॉडल की दुनिया भी वैसी ही बनती है। दूसरा चरण representation है: model किन संकेतों को असली अर्थ की जगह shortcut की तरह पकड़ता है। यही वह जगह है जहां spurious correlation पैदा होता है, यानी मॉडल सही कारण से नहीं, आसान पैटर्न से जवाब सीख लेता है।
तीसरा चरण generation behaviour है। यहां सवाल यह नहीं कि मॉडल तस्वीर बना सकता है या नहीं, बल्कि यह कि बिना अतिरिक्त निर्देश के वह किस तरह की तस्वीर चुनता है। यदि geographic prompt न होने पर रोजमर्रा की दृश्य अवधारणाएं बार-बार कुछ ही देशों से जुड़ी imagery में बदल जाएं, तो यह बताता है कि bias केवल training imbalance नहीं, default generation preference का भी मामला है।
भारतीय संदर्भ में यह फर्क खास महत्व रखता है। भारत जैसे बहुभाषी, बहु-क्षेत्रीय और सामाजिक रूप से विविध देश में visual AI का इस्तेमाल शिक्षा, खोज, moderation, design और content tools तक फैल रहा है। ऐसे में केवल top-line accuracy देखना पर्याप्त नहीं होगा; यह भी देखना होगा कि किन अनुभवों को मॉडल सामान्य मानता है और किन्हें हाशिये पर छोड़ देता है।
सामाजिक और औद्योगिक अर्थ: अभी क्या कहा जा सकता है, क्या नहीं
इस प्रस्तुति का महत्व यह है कि यह bias को “मॉडल गलत है” बनाम “मॉडल सही है” जैसी सरल बहस से बाहर निकालती है। पर इसकी सीमा भी उतनी ही स्पष्ट है। उपलब्ध जानकारी एक institutional thesis abstract से आती है। इसलिए इससे किसी खास समुदाय, लिंग, जाति या पेशे के बारे में ठोस निष्कर्ष निकालना उचित नहीं होगा, जब तक अलग से प्रमाणित प्रकाशन उपलब्ध न हों।
इसी तरह यह कहना भी जल्दबाज़ी होगी कि कोई खास mitigation method अब वास्तविक दुनिया की सभी प्रणालियों में काम करेगी। thesis colloquium शोध की दिशा दिखाता है; deployed product, regulatory standard या industry benchmark बनने के लिए अलग स्तर की जांच चाहिए।
आगे की दिशा: अब किन सवालों पर नजर रहेगी
आगे का महत्वपूर्ण कदम यह होगा कि thesis के कौन-से हिस्से peer-reviewed papers के रूप में सामने आते हैं, किन datasets और benchmarks पर methods परखे गए, और क्या independent replication उपलब्ध होती है। bias measurement के लिए भी बहु-स्तरीय reporting की जरूरत है: overall score, subgroup या context-wise performance, geographic spread, और generated outputs की diversity—इन सबको साथ पढ़ना होगा।
फिलहाल IISc CDS का यह colloquium इतना जरूर स्पष्ट करता है कि visual AI में fairness का प्रश्न केवल “गलत पहचान” का नहीं, “दुनिया को कैसे देखा और दिखाया जाता है” का भी है। यही वह बदलाव है जिसे भारत में AI पर गंभीर सार्वजनिक चर्चा का हिस्सा बनना चाहिए.
