Gates के इंटरव्यू का वह हिस्सा जिसका जवाब कोई नहीं दे रहा

मैंने वह इंटरव्यू देखा जिसमें Bill Gates कहते हैं कि AI को लेकर उनकी राय बदल गई है। उसका ज़्यादातर हिस्सा वैसा ही है जैसी आप उम्मीद करेंगे। क्षमताएँ उनके अंदाज़े से जल्दी आ गईं। बायोटेरर, साइबर, नौकरियाँ। लेकिन एक शिकायत बार-बार लौटकर आती रही, और वह मेरे मन में उससे ज़्यादा देर तक रही जितना डरावने हिस्से रहे। वे बार-बार कहते हैं कि अभी हमारे पास बस स्वैच्छिक समीक्षा है, और उसकी भी कोई कसौटी नहीं। कंपनियाँ अपना होमवर्क ख़ुद जाँचती हैं, और किसी ने यह तक लिखकर नहीं रखा कि इम्तिहान होना क्या चाहिए।

वे यह बात लगभग एक चुनौती की तरह कहते हैं। और इसे देखते हुए मैं बार-बार सोचता रहा: मुझे सच में पता है कि वह इम्तिहान कैसा दिखता है। हर चीज़ के लिए नहीं। चिकित्सा के लिए, उस क्षेत्र के लिए जिसमें मेरी ट्रेनिंग हुई है।

अस्पतालों के बारे में एक अजीब बात है जिस पर कोई रुककर ध्यान नहीं देता। आप किसी ऐसे शहर के अस्पताल में जा सकते हैं जहाँ आप पहले कभी नहीं गए, अपनी जान पूरी तरह अजनबियों के हाथ में सौंप सकते हैं, और यह सामान्य लगता है। क्यों? उनमें से किसी पर इसलिए भरोसा नहीं किया जाता कि वे होशियार लगते हैं। उनमें से हर कोई एक सिलसिले से होकर आया है। इम्तिहान, रेज़िडेंसी, एक अटेंडिंग जिसने उनसे हर ऑर्डर की वजह ज़ोर से बोलकर बताने को कहा, एक कॉन्फ़्रेंस जहाँ उनकी गलतियों की साथियों के सामने चीर-फाड़ होती है। चिकित्सा ने धीरे-धीरे, और बहुत नुक़सान झेलने के बाद, यह सीखा कि क़ाबिल लगना कोई मानक नहीं है। उसने इसकी जगह जवाबदेही को मानक बनाया, और भरोसा उसी से अपने आप निकल आया।

तो जब Gates पूछते हैं कि कसौटियाँ कैसी होंगी, तो मुझे नहीं लगता कि जवाब शून्य से गढ़ना पड़ेगा। कम से कम चिकित्सा में, आप उसे उधार ले सकते हैं।

सबसे आसान इम्तिहान से शुरू कीजिए। अगर कोई सिस्टम इस पर असर डालने वाला है कि किसी मरीज़ के साथ क्या होगा, तो उससे एक ही सवाल दो बार पूछिए। अगर वह दो अलग जवाब देता है, तो बात वहीं ख़त्म हो जानी चाहिए। यह बेतुकी हद तक नीची रखी गई कसौटी लगती है। आज का ज़्यादातर मेडिकल AI इसे भी पार नहीं कर पाता।

फिर उससे पूछिए क्यों, वैसे ही जैसे एक अटेंडिंग पूछता है। कोई ऐसा पैराग्राफ़ नहीं जो सुनने में ठीक लगे, बल्कि असली आधार। कौन-सी वैल्यू, कौन-सा थ्रेशोल्ड, कौन-सा सबूत। अगर तर्क की जाँच नहीं की जा सकती, तो उससे असहमत भी नहीं हुआ जा सकता, और जिस चीज़ से आप असहमत नहीं हो सकते, उसका किसी मरीज़ के आसपास कोई काम नहीं।

फिर गलतियों की दर, जिसे कोई और मापे, ऐसे डेटा पर जिसे सिस्टम ने पहले कभी नहीं देखा। यह दवाओं की मंज़ूरी वाली वही पुरानी समझ है। कोई निर्माता की बात पर यक़ीन नहीं करता, और अब किसी को शुरू भी नहीं करना चाहिए।

और जब सिस्टम कुछ नया सीखता है, और ये सिस्टम सीखते रहेंगे, इनका पूरा मक़सद ही यही है, तो वह नया व्यवहार इंतज़ार करता है। वह चुपचाप चलता है, दर्ज करता है कि वह क्या करता, और कोई इंसान तय करता है कि वह पास होकर आगे बढ़े या नहीं। चिकित्सा अपने साथ यह पहले से करती है। उम्मीद जगाने वाला नतीजा ट्रायल का इंतज़ार करता है, ट्रायल गाइडलाइन का। यह धीमा है, और यही वजह भी है कि आपकी दवाओं की अलमारी आपकी जान नहीं लेती।

आपत्ति हमेशा इनोवेशन की होती है। हमेशा। लेकिन मुझे लगता है यह आपत्ति दो अलग कामों को एक में घोल देती है। जो AI एक करोड़ रिकॉर्ड में ऐसे पैटर्न खोजता है जिन्हें किसी ने अब तक दर्ज नहीं किया, उसे खुली छूट मिलनी चाहिए, क्योंकि ज़्यादातर समय गलत होना ही तो परिकल्पनाओं का काम है। लगाम की ज़रूरत उस AI को है जो सामने मौजूद एक मरीज़ पर कदम उठाता है। दो काम, अलग नियम, और उनके बीच एक दरवाज़ा जो सिर्फ़ समीक्षा के बाद खुलता है। Gates ख़तरनाक मॉलिक्यूल डिज़ाइन कर सकने वाले मॉडलों की निगरानी के बारे में लगभग यही बात कहते हैं। इंडस्ट्री को इसमें लगभग कुछ भी ख़र्च नहीं होगा। फिर भी न जाने क्यों यह अब तक नहीं हो रहा।

मैं यहाँ अपनी पहुँच को लेकर सावधान रहना चाहता हूँ। साइबर हथियारों या बायोसिक्योरिटी के लिए ऐसी सूची क्या होगी, मुझे बिल्कुल अंदाज़ा नहीं। यह मेरा क्षेत्र नहीं है, और मुझे हर उस इंसान पर शक होने लगा है जो एक साथ हर क्षेत्र में धाराप्रवाह हो। लेकिन मैं देखता हूँ कि जब Gates कसौटी शब्द बोलते हैं, तो सब गंभीरता से सिर हिलाते हैं और कोई कुछ नहीं लिखता। दुनिया के मेरे कोने में यह सूची लिखी जा सकती है। उसका ज़्यादातर हिस्सा ऊपर है, लगभग चार सौ शब्दों में।

और बता दूँ, मैं यह इस टेक्नोलॉजी से डरने वाले इंसान के तौर पर नहीं लिख रहा। मैं हर दिन इसके साथ काम करता हूँ, और इस काम में आया ही इस वजह से कि जब चिकित्सा देर से पहुँचती है तो क्या होता है। मैं जानता हूँ उसकी क्या क़ीमत होती है। इसीलिए तो कसौटियाँ मायने रखती हैं। AI के बड़े पैमाने पर लोगों की सचमुच मदद करने का सबसे तेज़ रास्ता, उन जगहों पर जिन पर अस्पतालों, रेगुलेटरों और अदालतों का नियंत्रण है, यह है कि कोई दिखाए कि जवाबदेही कैसी दिखती है, सबके सामने, जहाँ उसकी जाँच हो सके। चिकित्सा ने यह प्लेबुक लगभग एक सदी पहले लिख दी थी। बस किसी को उसे उठाना है।

स्रोत: The Atlantic का इंटरव्यू। ((Z))