इंसानों जैसे आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल में शॉर्टकट खोजने की प्रवृत्ति होती है। एआई-असिस्टेड बीमारी का पता लगाने के मामले में, ये शॉर्टकट सेटिंग्स में तैनात होने पर क्लीनिकल गलतियों का कारण बन सकते हैं। इसकी चेतावनी शोधकतार्ओं ने दी।
अमेरिका में वाशिंगटन विश्वविद्यालय की एक टीम ने हाल ही में छाती रेडियोग्राफी से कोविड -19 का सटीक पता लगाने के लिए संभावित उपकरणों के रूप में सामने आए कई मॉडलों की जांच की। यह सिर्फ छाती के एक्स-रे के रूप में जाना जाता है।
नेचर मशीन इंटेलिजेंस नामक पत्रिका में प्रकाशित निष्कर्षों से पता चला है कि वास्तविक चिकित्सा विकृति सीखने के बजाय, ये मॉडल चिकित्सकीय रूप से अप्रासंगिक कारकों और बीमारी की स्थिति के बीच नकली जुड़ाव बनाने के लिए शॉर्टकट सीखने पर निर्भर हैं।
नतीजतन, मॉडल ने चिकित्सकीय रूप से महत्वपूर्ण संकेतकों को नजरअंदाज कर दिया और इसके बजाय टेक्स्ट मार्कर या रोगी स्थिति जैसी विशेषताओं पर भरोसा किया, जो यह अनुमान लगाने के लिए हर डेटासेट के लिए विशिष्ट थे कि किसी को कोविड था या नहीं।
यूडब्ल्यू के मेडिकल साइंटिस्ट ट्रेनिंग प्रोग्राम के सह-प्रमुख लेखक एलेक्स डेग्रेव ने कहा, "एक चिकित्सक आमतौर पर एक्स-रे से कोविड -19 की खोज की उम्मीद करता है जो छवि में विशिष्ट पैटर्न पर आधारित होता है । ये रोग प्रक्रियाओं को दर्शाता है।"
बीमारी की सटीक जानकारी के लिए एआई पर निर्भर रहना गलत।(Pixabay)
"लेकिन उन पैटर्नों पर भरोसा करने के बजाय, शॉर्टकट सीखने का उपयोग करने वाली एक प्रणाली, उदाहरण के लिए, यह निर्णय ले सकती है कि अगर कोई बुजुर्ग है तो उन्हें बीमारी होने की अधिक संभावना है क्योंकि यह पुराने रोगियों में ज्यादा आम है।"
डीग्रेव ने कहा, "शॉर्टकट प्रति गलत नहीं है, लेकिन एसोसिएशन अप्रत्याशित और पारदर्शी नहीं है और इससे अनुचित निदान हो सकता है।"
शोधकतार्ओं ने कहा कि वास्तविक चिकित्सा विकृति की तुलना में शॉर्टकट सीखना कम मजबूत है और आमतौर पर इसका मतलब है कि मॉडल मूल सेटिंग के बाहर अच्छी तरह से सामान्य नहीं होगा।
एआई निर्णय लेने की विशिष्ट अस्पष्टता के साथ मजबूती की कमी का संयोजन इन एआई मॉडल को 'सबसे खराब स्थिति' के रूप में जाना जाता है, जो इस तरह की नई बीमारी के लिए उपलब्ध प्रशिक्षण डेटा की कमी के कारण हो सकता है।
शोधकतार्ओं ने नोट किया इस परि²श्य ने इस संभावना को बढ़ा दिया कि मॉडल प्रशिक्षण डेटा से रोग की अंतर्निहित विकृति को सीखने के बजाय शॉर्टकट पर भरोसा करेंगे।(आईएएनएस)