کلینیکل اے آئی کس کے کام آتا ہے

چند سال پہلے امریکی اسپتالوں میں سب سے زیادہ استعمال ہونے والے سیپسس کی پیش گوئی کرنے والے ماڈل کا آزادانہ جائزہ لیا گیا۔ سیپسس وہ حالت ہے جب ایک عام انفیکشن جسم میں ایک ایسا سلسلہ وار ردِعمل شروع کر دیتا ہے جو اعضا کو ناکارہ کرنے لگتا ہے۔ یہ چند گھنٹوں میں جان لے سکتا ہے، اکثر اس سے پہلے کہ کسی کو اندازہ ہو کہ مریض کتنا بیمار ہے۔ جو ماڈل اسے پکڑنے کے لیے بنایا گیا تھا، وہ اصل کیسوں میں سے صرف تین میں سے ایک کو پکڑ سکا، اور اسپتال میں داخل ہر پانچ میں سے ایک مریض کو زیادہ خطرے والا قرار دے دیا۔

معالجین نے بہت جلد سبق سیکھ لیا۔ الرٹ ان مریضوں پر مسلسل بجتا رہتا ہے جن کی حالت نہیں بگڑ رہی، اور جن کی بگڑ رہی ہوتی ہے ان میں سے اکثر کو پکڑ ہی نہیں پاتا۔ چند ہفتوں بعد آپ اس پر بھروسا کرنا چھوڑ دیتے ہیں۔ آپ کو اس پر بھروسا چھوڑنا ہی پڑتا ہے۔ الرٹ محض شور بن جاتا ہے۔ جو نظام بگڑتی حالت کو پکڑنے کے لیے خریدا گیا تھا، اس نے سب کو بگڑتی حالت کو نظر انداز کرنا سکھا دیا تھا۔

یہ پہلا مسئلہ ہے: غلط حساب۔ سگنل کا رخ طے کرنے والا کوئی فیصلہ اسے ٹھیک نہیں کر سکتا۔ ایک خراب نظام کا رخ آپ کسی بھی طرف موڑ دیں، وہ مریضوں کے کام نہیں آئے گا۔ سیپسس ماڈل جانچ کے مرحلے پر ہی ناکام ہو گیا تھا، اور اس کے بعد کا کوئی قدم اسے نہیں بدل سکتا۔

یہ 2021 کی بات تھی۔ اس مہینے MIRA Nature میں شائع ہوا۔ یہ ایک خودمختار طبی اے آئی ایجنٹ ہے جو مریضوں کی ہسٹری پڑھتا ہے، ٹیسٹ آرڈر کرتا ہے، نتائج کی تشریح کرتا ہے اور علاج کے منصوبے لکھتا ہے۔ ایک جیسے کیسوں پر اس کی تشخیص 87.8 فیصد درست رہی، جبکہ بورڈ سرٹیفائیڈ ڈاکٹروں کی 78.1 فیصد۔ یہ علاج کے مسلمہ معیار پر ان ڈاکٹروں سے زیادہ باقاعدگی سے عمل کرتا ہے جن سے اس کا موازنہ کیا گیا۔ آج اس میدان کی اگلی صف ایسی دکھائی دیتی ہے۔

MIRA جانچ میں کامیاب رہا۔ حساب درست ہے۔ اور یہی بات ایک مختلف سوال کو فوری بنا دیتی ہے۔

وہی ماڈل، بالکل وہی نتائج دیتے ہوئے، صرف ایک فیصلے کی بنیاد پر بالکل مختلف لوگوں کے کام آتا ہے: پیش گوئی جاتی کہاں ہے۔

اگر اس کا نتیجہ سب سے پہلے کسی معالج تک پہنچے تو یہ مریض کے کام آتا ہے، کیونکہ معالج اس پر عمل کر سکتا ہے۔

اگر یہ سب سے پہلے انشورنس کوریج کے فیصلے تک پہنچے تو یہ بیمہ کمپنی کے کام آتا ہے۔ زیادہ خطرے والے مریضوں کو بیمار ہونے سے پہلے ہی انکار کے لیے نشان زد کر دیا جاتا ہے، اور مریض کو یہ سگنل کبھی نظر ہی نہیں آتا۔

اسے بیڈ مینجمنٹ کی طرف بھیج دیں تو یہ اسپتال کے انتظامات کے کام آتا ہے، اور مریض بستروں سے تیزی سے گزرتے ہیں۔ درستی وہی، آقا مختلف۔ مریض کی تشخیص آخرکار ہو ہی جاتی ہے، مگر سگنل کا رخ اسپتال نے طے کیا، مریض نے نہیں۔

ماڈل کبھی نہیں بدلا۔ حساب درست ہے۔ یہ کس کے کام آتا ہے، یہ بات آخرکار اس پر آ کر ٹھہرتی ہے کہ سگنل کا رخ کس نے طے کیا۔

تو ان میں سے کسی بھی نظام کے بارے میں پوچھنے کے لائق سوال یہ ہے کہ اس کا نتیجہ کون دیکھتا ہے، اس پر عمل کون کرتا ہے، اور جب یہ غلط ہو تو قیمت کون چکاتا ہے۔

سیپسس ماڈل کے معاملے میں یہ سوال تقریباً غیر متعلق ہے، کیونکہ ماڈل ہی خراب ہے۔ نقصان ہر طرف پہنچتا ہے۔ وہ ڈاکٹر یا نرس جس نے الارم کو سنی ان سنی کرنا سیکھ لیا، وہ اسپتال جس پر قانونی ذمہ داری آتی ہے، اور ان سب کے نیچے دبا ہوا مریض، جس کی بگڑتی حالت کسی کی نظر میں نہیں آتی، کیونکہ سب ایک ایسے نظام کو نظر انداز کر رہے ہوتے ہیں جو اتنی بار جھوٹا شور مچا چکا ہے کہ اب اس کی کوئی نہیں سنتا۔

MIRA کے معاملے میں جواب کوئی اتفاق نہیں۔ کسی نے طے کیا کہ سگنل کہاں جائے، اور نظام کو بنایا ہی اس طرح کہ وہ اسے وہیں بھیجے۔

اور جواب واضح اور ٹھوس ہونا چاہیے۔ “یہ مریضوں کے کام آتا ہے” اس قسم کی بات ہے جو سننے میں ٹھیک لگتی ہے مگر کسی چیز کی ذمہ داری نہیں لیتی۔ “یہ بیڈ مینجمنٹ ٹیم کے کام آتا ہے، جو ایک ایسا نتیجہ دیکھتی ہے جو مریض کبھی نہیں دیکھے گا” ایک ٹھوس جواب ہے۔ اگر آپ فریق کا نام نہیں لے سکتے، تو آپ نے دراصل جواب دیا ہی نہیں۔

اگر آپ کسی ایسے اسپتال میں کام کرتے ہیں جو یہ ٹیکنالوجی خرید رہا ہے، تو آپ کو اس کی جانچ پھر بھی کرنی ہوگی۔ طبی شواہد، تعصب کی جانچ، ناکامی کی باقاعدہ درج شدہ صورتیں۔ یہ کام حقیقی ہے، اور MIRA آٹھ تشخیصوں میں اس پر پورا اترا، جبکہ سیپسس ماڈل اس پر ذرا بھی پورا نہیں اتر سکا۔

لیکن جانچ آپ کو صرف یہ بتاتی ہے کہ کوئی اے آئی یا پیش گوئی کا ماڈل کام کرتا ہے یا نہیں۔ یہ اس بارے میں کچھ نہیں بتاتی کہ وہ کس کے کام آتا ہے۔ ایک ماڈل آپ کے ہر امتحان میں پاس ہو سکتا ہے اور پھر بھی اس کی تاریں غلط فریق کی خدمت سے جڑی ہو سکتی ہیں۔ بے عیب شواہد اور غلط ترغیبات ایک ہی نظام میں بڑے آرام سے ساتھ رہتی ہیں۔ یہ دو الگ مسئلے ہیں، اور پہلے میں کامیابی دوسرے کو چھوتی تک نہیں۔

دونوں چیزیں ضروری ہیں۔ درست حساب، اور پھر اس سوال کا سچا جواب کہ یہ کس کے کام آتا ہے۔ زیادہ تر نظام حساب ہی درست نہیں کر پاتے۔ اور جو کر لیتے ہیں، ان میں سے زیادہ تر دوسرا سوال کبھی پوچھتے ہی نہیں۔

عمومی LLM ماڈل اب سیدھے اسپتالوں میں پہنچ رہے ہیں۔ مریض ChatGPT، Claude اور باقی سب کو اپنے لیب کے نتائج پڑھنے اور یہ طے کرنے کے لیے استعمال کر رہے ہیں کہ کسی بات کے لیے ڈاکٹر کے پاس جانا بنتا ہے یا نہیں۔ اسپتال انہیں یہ طے کیے بغیر لگا رہے ہیں کہ ان کا نتیجہ آخر کہاں جانا چاہیے۔ پریشان کن بات یہ نہیں ہے۔

پریشان کن بات یہ ہے کہ مریض چپکے سے خود وہ شخص بن گیا ہے جو سگنل کا رخ طے کرتا ہے۔ کوئی شخص لیب کا ایک نتیجہ پڑھتا ہے، چیٹ بوٹ سے پوچھتا ہے کہ اس کا کیا مطلب ہے، اور یہ سارا لین دین کسی اسپتال، کسی معالج، اور کسی بھی ایسے نظام سے باہر ہوتا ہے جو اس کے سامنے جواب دہ ہونے کے لیے بنایا گیا ہو۔ اس جواب کو جو چیز بھی شکل دیتی ہے، وہ بہت پہلے طے ہو چکی ہوتی ہے، اس نے طے کی جس نے ماڈل کو تربیت دی اور اس کی ترغیبات مقرر کیں۔ کسی ایسے شخص نے نہیں جو مریض کے سامنے جواب دہ ہو۔

ایک خراب الارم کو نظر انداز کرتا ہوا معالج ایک مقامی ناکامی ہے، ایک اسپتال میں خریداری کا ایک غلط فیصلہ۔ عام صارفین کے لیے بنے کسی چیٹ بوٹ کے ذریعے اپنی تشخیص خود کرتا ہوا مریض اس سے کہیں بڑی چیز ہے: طبی فیصلہ سازی کا کلینک سے پوری طرح نکل جانا، اور ایسے نظاموں میں چلے جانا جن پر طب کے شعبے میں کسی کا اختیار نہیں۔ سوال اب یہ نہیں رہا کہ اسپتال سگنل کہاں بھیجتا ہے۔ سوال یہ ہے کہ ماڈل بنانے والی کمپنی نے کیا طے کیا کہ آپ کو کیا معلوم ہونا چاہیے۔

اس میں سے کسی بات کے لیے یہ سمجھنا ضروری نہیں کہ نیورل نیٹ ورک کیسے کام کرتا ہے۔ ضرورت صرف سوال پوچھنے کی ہے۔ یہ کس کے کام آتا ہے، اتنی وضاحت سے کہ آپ اسے لکھ سکیں: وہ اصل فریق جس کے مفادات نے طے کیا کہ آپ کو کیا دیکھنے کی اجازت ہے۔ ((Z))