जगभरातील कृत्रिम बुद्धिमत्ता विकसित करणाऱ्या कंपन्या आता सार्वजनिक आरोग्य व्यवस्थेच्या अधिक जवळ येत असताना, भारताने एक गोष्ट स्पष्टपणे लक्षात ठेवली पाहिजे. लोकांच्या आरोग्यसेवेचे भवितव्य ठरवणाऱ्या व्यवस्था शेवटी जनतेपुढेच जबाबदार राहायला हव्यात.
आधुनिक रुग्णालये हळूहळू अशी ठिकाणे बनत आहेत जिथे उपचार आणि आरोग्यसेवा संगणकीय प्रणालींवर अधिक अवलंबून होत आहेत. England मध्ये हा बदल मोठ्या चर्चेचा विषय बनला आहे. कारण Palantir Technologies ही संस्था National Health Service च्या आरोग्य माहिती व्यवस्थेमध्ये महत्त्वाची भूमिका बजावत आहे. या व्यवस्थेचा उद्देश रुग्णालयांमधील माहिती एकत्र आणणे, नियोजन सुधारणे, प्रतीक्षा कमी करणे आणि आरोग्यसेवा अधिक वेगवान बनवणे हा आहे. राष्ट्रीय आरोग्य सेवेनुसार रुग्णांची माहिती अजूनही सरकारी नियंत्रणाखाली आहे, पण वाद फक्त माहिती सुरक्षेपुरता मर्यादित नाही. खरी गोष्ट विश्वासाची आहे. सार्वजनिक आरोग्य व्यवस्था लोकांच्या विश्वासावर चालते आणि जेव्हा तिची मुख्य संगणकीय व्यवस्था अशा संस्थेकडून येते ज्याची ओळख संरक्षण, गुप्तचर आणि देखरेखीच्या कामांमुळे तयार झाली आहे, तेव्हा लोकांचा विश्वास कमी होऊ लागतो.
भारताने याकडे अत्यंत गंभीरपणे पाहिले पाहिजे. अलीकडेच अर्थमंत्री निर्मला सीतारमण यांनी Anthropic च्या एका कृत्रिम बुद्धिमत्ता नमुन्याबाबत इशारा दिला होता. त्यामध्ये सायबर सुरक्षेचा धोका आणि महत्त्वाच्या पायाभूत व्यवस्थांच्या असुरक्षिततेचा मुद्दा उपस्थित करण्यात आला होता. आरोग्य व्यवस्था देखील आता अशाच महत्त्वाच्या राष्ट्रीय पायाभूत व्यवस्थांच्या चौकटीत पाहण्याची गरज निर्माण झाली आहे. रुग्णालये, विमा व्यवस्था, रोगनियंत्रण जाळे (disease surveillance networks) आणि इलेक्ट्रॉनिक स्वरूपातील आरोग्य नोंदी (electronic health records (EHRs) या आता फक्त सेवा देणाऱ्या साध्या व्यवस्था राहिलेल्या नाहीत. जेव्हा त्या परदेशात विकसित झालेल्या कृत्रिम बुद्धिमत्ता व्यवस्थांवर अवलंबून होतात, तेव्हा त्या राष्ट्रीय सुरक्षा आणि सार्वभौमत्वाच्या प्रश्नांशी जोडल्या जातात.
Google DeepMind ने आधीच भारतातील सरकारी संस्था आणि वैद्यकीय संशोधन संस्थांसोबत भागीदारी जाहीर केली आहे. यावरून एक गोष्ट स्पष्ट होते. जगातील मोठ्या कृत्रिम बुद्धिमत्ता संस्था आता विज्ञान, वैद्यकशास्त्र आणि सार्वजनिक आरोग्यासारख्या संवेदनशील क्षेत्रांमध्ये वेगाने प्रवेश करत आहेत. आज आरोग्यकेंद्रित राज्यव्यवस्थेच्या केंद्रस्थानी असलेला खरा प्रश्न असा आहे की तंत्रज्ञानाचा राजकीय स्वभाव आणि कृत्रिम बुद्धिमत्ता संस्थांच्या मागे असलेले लोक व त्यांचे राष्ट्रीय हितसंबंध वेगळे करता येतील का? जर भविष्यात रुग्णालये आणि आरोग्य व्यवस्था शासनव्यवस्थेचा भाग बनणार असतील, तर भारताने एक मूलभूत प्रश्न विचारलाच पाहिजे - या संपूर्ण व्यवस्थेची मूलभूत संगणकीय रचना कोण तयार करत आहे? कारण कृत्रिम बुद्धिमत्ता सार्वभौमत्वाची सुरुवात याच प्रश्नापासून होते. जर सार्वजनिक आरोग्य व्यवस्थेचा मूलभूत तर्क, निर्णयप्रक्रिया आणि तांत्रिक नियंत्रण सार्वजनिक व्यवस्थेबाहेर आकार घेत असेल, तर ती व्यवस्था पूर्णपणे सार्वजनिक राहू शकत नाही.
ब्रिटनमधील राष्ट्रीय आरोग्य सेवा व्यवस्थेभोवती निर्माण झालेला वाद हा त्या व्यवस्थेच्या प्रचंड आकारमानामुळे अधिक गंभीर बनतो. राष्ट्रीय आरोग्य सेवेशी संबंधित “फोरसाईट कृत्रिम बुद्धिमत्ता” नावाचा सुरक्षित माहिती पर्यावरण प्रकल्प या व्यवस्थेच्या वाढत्या विस्ताराची कल्पना देतो. या व्यवस्थेमध्ये 5.7 कोटींपेक्षा अधिक लोकांच्या ओळखविरहित वैद्यकीय नोंदी, 10 अब्जांहून अधिक आरोग्यविषयक घटना, आजारांचे निदान, उपचारपद्धती, औषधे आणि लसीकरणाशी संबंधित 40,000 हून अधिक प्रकारच्या नोंदींचा समावेश आहे. राष्ट्रीय आरोग्य सेवेची “एकत्रित माहिती व्यवस्था” हा याच प्रकल्पाचा भाग नसला, तरी आरोग्य नोंदींना प्रशासकीय आणि कार्यकारी बुद्धिमत्तेमध्ये रूपांतरित करण्याच्या व्यापक प्रक्रियेचा तो एक भाग आहे. Palantir Technologies यांच्या नेतृत्वाखालील समूहाला 2023 मध्ये ही व्यवस्था उभारण्याचा करार देण्यात आला. हा करार 7 वर्षांसाठी असून त्याची किंमत तब्बल 330 दशलक्ष पौंडांपर्यंत जाऊ शकते. या व्यवस्थेचा विस्तार 240 हून अधिक आरोग्य संस्थांपर्यंत होण्याची शक्यता आहे.
एकदा रुग्णालयांची उपचारनियोजन व्यवस्था एखाद्या खासगी संस्थेच्या संगणकीय रचनेवर अवलंबून झाली की, ती रचना हळूहळू संस्थात्मक निर्णयप्रक्रियेलाही आकार देऊ लागते. कोणती बाब तातडीची वाटेल आणि कोणती बाब प्रशासकीयदृष्ट्या गौण ठरेल, हे ठरवण्याची शक्ती त्या व्यवस्थेकडे जाऊ लागते.
राष्ट्रीय आरोग्य सेवेने या कराराभोवती स्पष्ट मर्यादा आखण्याचा प्रयत्न केला आहे. पॅलंटीरला केवळ “माहिती प्रक्रिया करणारी संस्था” म्हणून वर्णन करण्यात आले आहे. रुग्णांची माहिती राष्ट्रीय आरोग्य सेवेच्या नियंत्रणाखालीच राहील, माहिती प्रक्रिया ब्रिटनमध्येच होईल आणि संस्थेला त्या माहितीचे व्यापारीकरण करण्याची किंवा स्वतःच्या कृत्रिम बुद्धिमत्ता नमुन्यांना प्रशिक्षण देण्यासाठी वापरण्याची परवानगी नसेल, असे सांगण्यात आले आहे.
हे संरक्षणात्मक नियम महत्त्वाचे असले, तरी त्यांची मर्यादा देखील स्पष्ट आहे. सार्वजनिक व्यवस्थांकडे माहितीचे कायदेशीर स्वामित्व राहू शकते; पण त्या माहितीभोवती निर्माण होणाऱ्या सवयी, प्रक्रियात्मक अवलंबित्व आणि निर्णयप्रणालींवरील प्रत्यक्ष नियंत्रण हळूहळू कमी होऊ शकते. एकदा रुग्णालये उपचारनियोजनासाठी एखाद्या खासगी संगणकीय व्यवस्थेवर अवलंबून झाली की, ती व्यवस्था संस्थेच्या विचारपद्धतीलाच दिशा देऊ लागते. कोणत्या गोष्टीला प्राधान्य दिले जाईल आणि कोणती गोष्ट प्रशासकीय अडथळा मानली जाईल, हे त्या प्रणालीद्वारे ठरू लागते.
Palantir Technologies ची आधीपासूनची ओळख आणि प्रतिमा या चिंतेला आणखी वाढवतात. गुप्तचर आणि सुरक्षाक्षेत्रातील कामांमुळे या संस्थेची प्रतिमा आधीच वादग्रस्त राहिली आहे. त्यामुळे आरोग्य क्षेत्रात तिचा प्रवेश हा फक्त तांत्रिक विषय राहिलेला नाही, तर तो राजकीय चर्चेचाही मुद्दा बनला आहे, जरी करारातील नियम कठोर आणि मर्यादित दिसत असले तरीही. अलीकडेच या संस्थेच्या जाहीरनाम्यासारख्या भाषेवर मोठा वाद झाला होता. ब्रिटनच्या संसदेतील काही लोकांनी त्या भाषेला “एखाद्या चित्रपटातील खलनायकासारखी विचित्र बडबड” अशी टीका केली होती. हा वाद महत्त्वाचा ठरला कारण त्यातून एक मोठी भीती समोर आली. लोकांच्या सेवेसाठी उभ्या असलेल्या आरोग्य व्यवस्थांमध्ये कठोर शक्तिकेंद्रित तंत्रज्ञानाची मानसिकता आणली जात आहे का? ऑस्ट्रेलियामध्ये देखील पॅलंटीरच्या सरकारी करारांची तपासणी करावी किंवा त्यांच्यावर मर्यादा आणाव्यात, अशी मागणी होत आहे. यावरून ही चिंता आता अनेक लोकशाही देशांमध्ये पसरत असल्याचे दिसते.
जेव्हा National Health Service ने पहिल्यांदा Palantir Technologies सोबतचा करार सार्वजनिक केला, तेव्हा 586 पानांपैकी तब्बल 417 पाने पूर्णपणे काळी करून लपवण्यात आली होती. यामुळे इतकी माहिती का लपवली गेली, यावर मोठा वाद निर्माण झाला. त्यानंतर Good Law Project या संस्थेने या गोपनीयतेविरोधात न्यायालयीन कारवाई सुरू केली, नंतर राष्ट्रीय आरोग्य सेवेला कमी माहिती लपवून हा करार पुन्हा प्रसिद्ध करावा लागला. त्यामध्ये वैयक्तिक माहितीच्या संरक्षणाशी संबंधित बाबींचाही समावेश करण्यात आला. लोकांच्या विश्वासावर चालणाऱ्या अशा व्यवस्थेसाठी ही सुरुवात अत्यंत धोकादायक आणि विश्वास कमी करणारी ठरली.
पॅलंटीरविरोधातील आंदोलन हे फक्त खासगी तंत्रज्ञान कंपन्यांविरोधातील सामान्य विरोध नाही; तर ते अधिक सुसंगत आणि गंभीर चिंता व्यक्त करणारे आहे. सामाजिक कार्यकर्ते आणि नागरी समाजातील संघटनांचे म्हणणे आहे की राष्ट्रीय आरोग्य सेवा अशी माहिती-आधारित रचना उभी करत आहे, ज्यासाठी आवश्यक असलेला सार्वजनिक विश्वास आणि सामाजिक मान्यता योग्य प्रकारे मिळवलेली नाही. “आमच्या राष्ट्रीय आरोग्य सेवेमध्ये पॅलंटीर नको” या मोहिमेअंतर्गत विविध आरोग्य संस्था आणि एकत्रित आरोग्य मंडळांना पॅलंटीरचे तंत्रज्ञान नाकारण्याचे आवाहन करण्यात आले आहे. कारण या संस्थेची व्यापक ओळख लष्करी, सुरक्षाविषयक आणि स्थलांतर नियंत्रणाशी संबंधित कामांमुळे तयार झाली आहे. ब्रिटीश मेडिकल असोसियशनने देखील 2025 मधील आपल्या वार्षिक अधिवेशनात या माहिती व्यवस्थेच्या विस्ताराला विरोध दर्शवला होता. तसेच ब्रिटिश संसदेपुढे सादर करण्यात आलेल्या सार्वजनिक याचिकेमध्ये पुढील विस्तारापूर्वी लोकांशी सल्लामसलत आणि राष्ट्रीय स्तरावरील स्पष्ट “माहिती-वापर नकार पर्याय” देण्याची मागणी करण्यात आली होती. सरकारने यावर उत्तर देताना असे म्हटले की, जेव्हा माहिती प्रक्रिया थेट उपचारांशी संबंधित असेल, कायद्याने आवश्यक असेल किंवा ओळखविरहित स्वरूपात केली जात असेल, तेव्हा राष्ट्रीय माहिती नकार पर्याय लागू होत नाही.
एखादा रुग्ण आपल्या सुरक्षित उपचारांसाठी त्याची माहिती राष्ट्रीय आरोग्य व्यवस्थेमध्ये वापरणे आवश्यक आहे, हे स्वीकारू शकतो. पण त्याचा अर्थ असा होत नाही की त्याने स्थलांतर नियंत्रण आणि लष्करी लक्ष्यनिर्धारणाशी संबंधित कामांसाठी ओळखल्या जाणाऱ्या संस्थेच्या मदतीने उभारलेली राष्ट्रीय माहिती व्यवस्था देखील स्वीकारली आहे.
आरोग्य क्षेत्रातील कृत्रिम बुद्धिमत्तेच्या इतर काही अपयशांमधून ही व्यवस्था किती संवेदनशील आणि धोकादायक ठरू शकते हे दिसून आले आहे. Google DeepMind च्या “रॉयल फ्री” प्रकरणात 16 लाख रुग्णांच्या वैद्यकीय नोंदी वापरण्यात आल्या होत्या. नंतर ही माहिती योग्य पारदर्शकता आणि स्पष्ट कायदेशीर परवानगीशिवाय वापरल्याबद्दल टीका झाली. अमेरिकेमधी रुग्णालयांमध्ये वापरल्या जाणाऱ्या “एपिक सेप्सिस” प्रणालीने स्वतंत्र चाचण्यांमध्ये खराब परिणाम दिले. अनेक रुग्णांच्या प्रकरणांमध्ये तिची अचूकता खूप कमी आढळली. तसेच Cigna च्या “पीएक्सडीएक्स” प्रणालीने फक्त काही सेकंदांत लाखो विमा दावे नाकारल्याची माहिती समोर आली. यामुळे मशीनद्वारे घेतले जाणारे निर्णय किती वेगाने आणि मानवी तपासणीशिवाय होऊ शकतात, हे स्पष्ट झाले. भारतासाठी यामधील मोठा धडा असा आहे की आरोग्य क्षेत्रातील कृत्रिम बुद्धिमत्तेकडे फक्त नवीन तंत्रज्ञान म्हणून पाहून चालणार नाही. ती सरकारी व्यवस्थेमध्ये किती नियंत्रण मिळवते, लोकांना तिच्यावर किती अवलंबून बनवते आणि सामान्य नागरिकांना त्या निर्णयांवर प्रश्न विचारता येतात का, हेही तितकेच महत्त्वाचे आहे.
भारताकडे आरोग्यक्षेत्रातील कृत्रिम बुद्धिमत्तेकडे “भविष्यात कधीतरी नियंत्रित करायचा विषय” म्हणून पाहण्याची मुभा उरलेली नाही. कारण बाजारपेठ शासनव्यवस्थेपेक्षा अधिक वेगाने रुग्णांच्या पहिल्या भीतीपर्यंत पोहोचत आहे. Boston Consulting Group च्या 15 देशांमधील अभ्यासानुसार, इंटरनेट वापरणाऱ्या जवळपास 60 टक्के लोकांनी आरोग्यविषयक सल्ल्यासाठी कृत्रिम बुद्धिमत्ता साधनांचा वापर सुरू केला आहे. त्याच अभ्यासातील अहवालानुसार भारतात हे प्रमाण तब्बल 85 टक्क्यांपर्यंत पोहोचले आहे. म्हणजेच, रुग्ण आता वैद्यकीय अनिश्चिततेची उत्तरे शोधण्यासाठी प्रथम दवाखान्याकडे नव्हे, तर संगणकीय प्रणालींकडे वळू लागले आहेत.
मोठ्या तंत्रज्ञान कंपन्या आता रुग्णांच्या पहिल्या आरोग्यविषयक चिंतेच्या क्षणापर्यंत थेट पोहोचू लागल्या आहेत. OpenAI ने “चॅटजीपीटी आरोग्य” सेवा सुरू केली असून, दर आठवड्याला 23 कोटींहून अधिक आरोग्यविषयक प्रश्न या प्रणालीकडे येत असल्याचा दावा केला आहे. या सुविधेमुळे लोकांना त्यांच्या वैद्यकीय नोंदी आणि आरोग्यविषयक अनुप्रयोग प्रणाली जोडण्याची मुभा देण्यात आली आहे. Google DeepMind ची “मेडजेम्मा” प्रणाली आधीच All India Institute of Medical Sciences सोबत बाह्यरुग्ण तपासणी आणि त्वचारोग परीक्षणासाठी कार्यरत आहे. तसेच Google ही National Health Authority सोबत विखुरलेल्या वैद्यकीय नोंदींना एकसंध माहिती स्वरूपात रूपांतरित करण्यासाठी काम करत आहे, ज्यामुळे विविध आरोग्य माहिती व्यवस्था अधिक सुलभपणे परस्पर माहिती देवाणघेवाण करू शकतील. Microsoft च्या “एआय डायग्नोस्टिक ऑर्केस्ट्रेटर (MAI-DxO) प्रणालीने OpenAI च्या “O3” नमुन्यासोबत वापरल्यावर “New England Journal of Medicine” (NEJM) च्या जटिल वैद्यकीय प्रकरणांमध्ये 85.5 टक्के अचूकता नोंदवली. त्याच चाचणीत वैद्यांची अचूकता केवळ 20 टक्के होती. ही आकडेवारी एक गंभीर बदल दाखवते - रुग्णांच्या भीती आणि वैद्यकीय निर्णयप्रक्रियेच्या मधोमध आता एक नवीन संगणकीय स्तर निर्माण होत आहे. आणि जो या स्तरावर नियंत्रण ठेवेल, तो लोक आजार, धोका आणि उपचारांची गरज कशी समजून घेतात हे ठरवू लागेल.
कोणतीही कृत्रिम बुद्धिमत्ता प्रणाली केवळ कंपनीच्या सादरीकरणावर, परदेशातील चाचण्यांवर किंवा मर्यादित प्रयोगांवर आधारित मोठ्या प्रमाणावर वापरात आणली जाऊ नये. विशेषतः जे प्रयोग भारतीय परिस्थितीत स्वतंत्रपणे पुन्हा तपासले गेलेले नाहीत, त्यांच्यावर आंधळा विश्वास ठेवणे धोकादायक ठरू शकते.
भारताने काही संरक्षणात्मक पावले उचलण्यास सुरुवात केली आहे; पण आता ती कायदेशीरदृष्ट्या बंधनकारक करावी लागतील. “भारतातील आरोग्य क्षेत्रासाठी कृत्रिम बुद्धिमत्ता धोरण” या चौकटीने एक धोरणात्मक दिशा दिली आहे. तसेच Indian Institute of Technology Kanpur आणि National Health Authority यांच्या सहकार्याने सुरू करण्यात आलेल्या “आरोग्य कृत्रिम बुद्धिमत्तेसाठी खुली माहिती मापन व्यवस्था”मुळे विविध ओळखविरहित आरोग्य माहिती संचांवर कृत्रिम बुद्धिमत्ता नमुन्यांची चाचणी घेण्याचा मार्ग तयार झाला आहे. ही प्रक्रिया सार्वजनिक आरोग्य व्यवस्थेत मोठ्या प्रमाणावर कोणतीही कृत्रिम बुद्धिमत्ता प्रणाली वापरण्यापूर्वी अनिवार्य केली पाहिजे. कोणतीही प्रणाली केवळ कंपनीच्या दाव्यांवर, परदेशी निकषांवर किंवा लहान चाचण्यांवर आधारित स्वीकारली जाऊ नये.
खरी सावधगिरी खरेदी प्रक्रियेमध्ये दिसली पाहिजे. एखाद्या परदेशी संस्थेला संवेदनशील आरोग्य व्यवस्थेमध्ये प्रवेश देण्यापूर्वी शासनाला त्या संस्थेची रचना, आर्थिक हितसंबंध आणि माहिती कोणत्या मार्गाने प्रवास करणार आहे हे पूर्णपणे समजले पाहिजे. करारांमध्ये शासनाला प्रत्यक्ष तपासणीचे अधिकार असले पाहिजेत. माहितीचा अनधिकृत पुनर्वापर झाल्यास कठोर दंडाची तरतूद असली पाहिजे. तसेच भविष्यात प्रणाली बदलण्याची वेळ आल्यास रुग्णसेवा विस्कळीत न होता दुसऱ्या व्यवस्थेकडे स्थलांतर करता येईल, यासाठी आर्थिक आणि तांत्रिक तयारी आधीपासूनच ठेवली पाहिजे. रुग्णांशी थेट संवाद साधणाऱ्या कृत्रिम बुद्धिमत्ता प्रणालींसाठी अधिक कठोर निकष आवश्यक आहेत.कारण त्या वैद्यांच्या हस्तक्षेपापूर्वीच लोकांपर्यंत पोहोचतात. अशा प्रणालींची चाचणी भारतीय लोक प्रत्यक्ष वापरत असलेल्या भाषांमध्ये झाली पाहिजे आणि रुग्णांना हानी झाल्यास तक्रार नोंदवण्यासाठी सोपी व प्रभावी व्यवस्था उपलब्ध असली पाहिजे.
आरोग्य क्षेत्रातील कृत्रिम बुद्धिमत्ता सार्वभौमत्वाचा अर्थ परदेशी तंत्रज्ञानाला पूर्णपणे बंदी घालणे असा नाही. भारताला बाहेरील तज्ज्ञतेची गरज राहणारच आहे, पण सार्वजनिक आरोग्य व्यवस्था अशा साधनांवर अवलंबून राहू नये, ज्यांची अंतर्गत कार्यपद्धती शासनाला समजत नाही किंवा ज्यांच्यापासून वेगळे होणे रुग्णसेवा विस्कळीत न करता शक्य नाही. नियामक संस्थांना आरोग्य व्यवस्था नेमकी कशी कार्य करते हे समजण्याची क्षमता असली पाहिजे. तसेच स्वयंचलित प्रणालींमुळे हानी झाल्यास नागरिकांकडे त्या निर्णयांना आव्हान देण्याचा अर्थपूर्ण अधिकार असला पाहिजे. जर ही शिस्त आणि नियंत्रण राखले गेले नाही, तर अवलंबित्वच नवकल्पना वाटू लागेल, जोपर्यंत त्याची किंमत इतकी मोठी होत नाही की तिला दुर्लक्षित करणे अशक्य ठरेल.
के. एस. उपलब्ध गोपाळ हे 'ऑब्झर्व्हर रिसर्च फाउंडेशन'च्या 'हेल्थ इनिशिएटिव्ह'मध्ये असोसिएट फेलो (Associate Fellow) आहेत.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Dr. K. S. Uplabdh Gopal is an Associate Fellow with the Health Initiative at the Observer Research Foundation. He writes and researches on how India’s ...
Read More +
PREV
.webp)
.png)