जनरेटिव्ह आर्टिफिशियल इंटेलिजन्स (AI): WHO ने LMM च्या गव्हर्नन्सवर नवीन मार्गदर्शन जारी केले

कोण लोकसंख्येच्या आरोग्याचा प्रचार आणि संरक्षण करण्यासाठी त्यांच्या योग्य वापरासाठी मोठ्या मल्टी-मॉडल मॉडेल्स (LMMs) च्या नैतिकता आणि प्रशासनावर नवीन मार्गदर्शन जारी केले आहे. LMMs हा एक प्रकारचा झपाट्याने वाढणारा जनरेटिव्ह आहे कृत्रिम बुद्धिमत्ता (AI) तंत्रज्ञान ज्यामध्ये आरोग्यासाठी पाच व्यापक अनुप्रयोग आहेत in 

1. निदान आणि क्लिनिकल काळजी, जसे की रुग्णांच्या लिखित प्रश्नांना प्रतिसाद देणे; 

2. रुग्ण-मार्गदर्शित वापर, जसे की लक्षणे आणि उपचार तपासण्यासाठी; 

3. कारकुनी आणि प्रशासकीय कार्ये, जसे की इलेक्ट्रॉनिक आरोग्य नोंदींमध्ये रुग्णांच्या भेटींचे दस्तऐवजीकरण आणि सारांश; 

4. वैद्यकीय आणि नर्सिंग शिक्षण, प्रशिक्षणार्थींना सिम्युलेटेड रुग्ण भेटीसह प्रदान करणे, आणि; 

5. नवीन संयुगे ओळखणे यासह वैज्ञानिक संशोधन आणि औषध विकास. 

तथापि, हेल्थकेअरमधील हे ऍप्लिकेशन्स खोटी, चुकीची, पक्षपाती किंवा अपूर्ण विधाने तयार करण्याचे धोके चालवतात, ज्यामुळे आरोग्यविषयक निर्णय घेताना अशा माहितीचा वापर करून लोकांना हानी पोहोचू शकते. शिवाय, LMM ला वंश, वंश, वंश, लिंग, लिंग ओळख किंवा वयानुसार, खराब दर्जाच्या किंवा पक्षपाती असलेल्या डेटावर प्रशिक्षित केले जाऊ शकते. आरोग्य प्रणालींसाठी देखील व्यापक धोके आहेत, जसे की सर्वोत्तम कामगिरी करणाऱ्या LMM ची प्रवेशयोग्यता आणि परवडणारीता. एलएमएम हे आरोग्य सेवा व्यावसायिक आणि रुग्णांद्वारे 'ऑटोमेशन बायस' ला देखील प्रोत्साहन देऊ शकतात, ज्याद्वारे त्रुटींकडे दुर्लक्ष केले जाते ज्या अन्यथा ओळखल्या गेल्या असत्या किंवा कठीण निवडी चुकीच्या पद्धतीने एलएमएमकडे सोपवल्या जातात. LMM, इतर प्रकारांप्रमाणे AI, सायबरसुरक्षा जोखमीसाठी देखील असुरक्षित आहेत ज्यामुळे रुग्णाची माहिती किंवा या अल्गोरिदमची विश्वासार्हता आणि आरोग्य सेवेची तरतूद अधिक व्यापकपणे धोक्यात येऊ शकते. 

म्हणून, सुरक्षित आणि प्रभावी LMM तयार करण्यासाठी, WHO ने LMM च्या सरकार आणि विकासकांसाठी शिफारसी केल्या आहेत. 

एलएमएमच्या विकासासाठी आणि तैनातीसाठी आणि सार्वजनिक आरोग्य आणि वैद्यकीय हेतूंसाठी त्यांचे एकत्रीकरण आणि वापर यासाठी मानके सेट करण्याची प्राथमिक जबाबदारी सरकारची आहे. सार्वजनिक, खाजगी आणि गैर-नफा क्षेत्रातील विकासकांसाठी प्रवेशयोग्य संगणकीय शक्ती आणि सार्वजनिक डेटा संच यासह सरकारांनी गैर-नफा किंवा सार्वजनिक पायाभूत सुविधांमध्ये गुंतवणूक करावी किंवा प्रदान केली पाहिजे, ज्यासाठी वापरकर्त्यांनी नैतिक तत्त्वे आणि मूल्यांचे पालन करणे आवश्यक आहे. प्रवेशासाठी देवाणघेवाण. 

· आरोग्य सेवा आणि औषधांमध्ये वापरल्या जाणाऱ्या एलएमएम आणि ऍप्लिकेशन्सची खात्री करण्यासाठी कायदे, धोरणे आणि नियमांचा वापर करा, याशी संबंधित जोखीम किंवा लाभ विचारात न घेता AI तंत्रज्ञान, नैतिक दायित्वे आणि मानवी हक्क मानकांची पूर्तता करणे जे प्रभावित करतात, उदाहरणार्थ, एखाद्या व्यक्तीची प्रतिष्ठा, स्वायत्तता किंवा गोपनीयता. 

· आरोग्य सेवा किंवा औषधांमध्ये वापरासाठी असलेल्या LMMs आणि अनुप्रयोगांचे मूल्यांकन आणि मंजूरी देण्यासाठी विद्यमान किंवा नवीन नियामक एजन्सी नियुक्त करा – संसाधन परवानगी म्हणून. 

· जेव्हा LMM मोठ्या प्रमाणावर तैनात केला जातो तेव्हा स्वतंत्र तृतीय पक्षांद्वारे डेटा संरक्षण आणि मानवी हक्कांसह अनिवार्य पोस्ट-रिलीज ऑडिटिंग आणि प्रभाव मूल्यांकन सादर करा. लेखापरीक्षण आणि प्रभाव मूल्यांकन प्रकाशित केले जावे 

आणि वापरकर्त्याच्या प्रकारानुसार वेगळे केलेले परिणाम आणि प्रभाव समाविष्ट केले पाहिजेत, उदाहरणार्थ वय, वंश किंवा अपंगत्व यासह. 

· LMM केवळ शास्त्रज्ञ आणि अभियंतेच तयार करत नाहीत. संभाव्य वापरकर्ते आणि वैद्यकीय प्रदाते, वैज्ञानिक संशोधक, आरोग्य सेवा व्यावसायिक आणि रुग्णांसह सर्व प्रत्यक्ष आणि अप्रत्यक्ष भागधारकांनी सुरुवातीच्या टप्प्यापासूनच गुंतले पाहिजे. AI संरचित, सर्वसमावेशक, पारदर्शक डिझाइनमध्ये विकास आणि नैतिक समस्या, आवाजाची चिंता आणि त्यासाठी इनपुट प्रदान करण्याची संधी दिली AI विचाराधीन अर्ज. 

आरोग्य यंत्रणांची क्षमता सुधारण्यासाठी आणि रुग्णांच्या आवडी वाढवण्यासाठी आवश्यक अचूकता आणि विश्वासार्हतेसह योग्य-परिभाषित कार्ये करण्यासाठी LMMs डिझाइन केले आहेत. विकसकांना संभाव्य दुय्यम परिणामांचा अंदाज लावण्यास आणि समजण्यास सक्षम असावे. 

*** 

स्त्रोत: 

WHO 2024. आरोग्यासाठी कृत्रिम बुद्धिमत्तेचे नैतिकता आणि प्रशासन: मोठ्या मल्टी-मॉडल मॉडेल्सवर मार्गदर्शन. येथे उपलब्ध https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***