الجزء الذي لا يجيب عنه أحد في مقابلة غيتس

شاهدت المقابلة التي يقول فيها بيل غيتس إنه غيّر رأيه بشأن الذكاء الاصطناعي. معظمها متوقع. وصلت القدرات أسرع مما ظن. الإرهاب البيولوجي، والهجمات السيبرانية، والوظائف. لكن شكوى واحدة ظلت تتكرر، وبقيت معي أطول مما بقيت الأجزاء المخيفة. فهو يكرر أن كل ما لدينا الآن مراجعة طوعية بلا معايير. الشركات تصحح واجباتها بنفسها، ولم يكتب أحد حتى ما ينبغي أن يكون عليه الاختبار.

يقولها كأنها تحدٍّ تقريبًا. وأنا أشاهده، ظللت أفكر: أنا أعرف فعلًا كيف يبدو هذا الاختبار. ليس في كل شيء. في الطب، المجال الذي تدربت فيه.

إليك الأمر الغريب في المستشفيات، الذي لا يتوقف أحد ليلاحظه. يمكنك أن تدخل مستشفى في مدينة لم تزرها قط، وتسلّم حياتك لغرباء تمامًا، ويبدو ذلك طبيعيًا. لماذا؟ لا أحد من هؤلاء يحظى بالثقة لأنه يبدو ذكيًا. كل واحد منهم مرّ عبر سلسلة: امتحانات، وإقامة طبية، وطبيب مشرف أجبره على تبرير كل أمر علاجي بصوت عالٍ، واجتماع تُشرَّح فيه أخطاؤه أمام زملائه. تعلّم الطب، ببطء وبعد قدر هائل من الأذى، أن الظهور بمظهر الكفء ليس معيارًا. فجعل المساءلة هي المعيار بدلًا من ذلك، وجاءت الثقة نتيجة لذلك.

لذا حين يسأل غيتس كيف ستبدو المعايير، لا أظن أن الإجابة يجب أن تُخترع من العدم. في الطب على الأقل، يمكنك أن تستعيرها.

ابدأ بأبسط اختبار ممكن. إذا كان نظام ما سيؤثر فيما يحدث لمريض، فاسأله السؤال نفسه مرتين. إن أعطاك إجابتين مختلفتين، فهذا وحده ينبغي أن ينهي النقاش. يبدو هذا عتبة منخفضة إلى حد العبث. ومعظم الذكاء الاصطناعي الطبي اليوم لا يستطيع تجاوزه.

ثم اسأله لماذا، كما يسأل الطبيب المشرف لماذا. لا لتحصل على فقرة تبدو معقولة، بل على الأساس الفعلي. أي قيمة، وأي عتبة، وأي دليل. إذا لم يكن ممكنًا فحص المنطق، فلا يمكن الاعتراض عليه، وما لا يمكنك الاعتراض عليه لا مكان له بجوار مريض.

ثم معدل الخطأ، يقيسه شخص آخر، على بيانات لم يرها النظام من قبل. هذه ببساطة غريزة اعتماد الأدوية. لا أحد يأخذ كلام المصنّع على علّاته، ولا ينبغي لأحد أن يبدأ الآن.

وحين يتعلم النظام شيئًا جديدًا، وهذه الأنظمة ستظل تتعلم، فهذا هو الغرض منها أصلًا، ينتظر السلوك الجديد. يعمل بصمت، ويسجّل ما كان سيفعله، ويقرر إنسان هل يتخرج. الطب يفعل هذا بنفسه أصلًا. النتيجة الواعدة تنتظر التجربة السريرية، والتجربة تنتظر الدليل الإرشادي. إنه بطيء، وهو أيضًا السبب في أن خزانة أدويتك لا تقتلك.

الاعتراض دائمًا هو الابتكار. هكذا هو الحال دائمًا. لكنني أظن أن هذا الاعتراض يخلط بين وظيفتين مختلفتين. الذكاء الاصطناعي الذي يبحث في عشرة ملايين سجل عن أنماط لم يقنّنها أحد ينبغي أن يُترك ليجول بحرية، لأن الخطأ في معظم الأحيان هو بالضبط ما وُجدت الفرضيات من أجله. أما الذكاء الاصطناعي الذي يتصرف بشأن المريض الواحد الذي أمامه فهو الذي يحتاج إلى لجام. وظيفتان، وقواعد مختلفة، وباب بينهما لا يُفتح إلا بعد المراجعة. ويطرح غيتس الفكرة نفسها تقريبًا بشأن مراقبة النماذج القادرة على تصميم جزيئات خطرة. لن يكلف ذلك الصناعة شيئًا يُذكر. ومع ذلك، لسبب ما، لم يحدث بعد.

أريد أن أكون حذرًا بشأن حدود ما أعرفه هنا. ليست لدي أدنى فكرة عن القائمة المقابلة للأسلحة السيبرانية أو للأمن البيولوجي. ليس مجالي، وقد صرت أرتاب في كل مَن يتحدث بطلاقة في كل المجالات دفعة واحدة. لكنني ألاحظ أنه حين يقول غيتس كلمة «معايير»، يومئ الجميع برؤوسهم بجدية ولا يكتب أحد شيئًا. في ركني من العالم، القائمة قابلة للكتابة. ومعظمها مكتوب أعلاه، في نحو أربعمئة كلمة.

وللعلم، لا أكتب هذا بوصفي شخصًا يخاف من هذه التقنية. أبني بها كل يوم، ودخلت هذا العمل بسبب ما يحدث حين يصل الطب متأخرًا. أعرف كم يكلف ذلك. ولهذا بالضبط تهم المعايير. أسرع طريق ليساعد الذكاء الاصطناعي الناس فعلًا، على نطاق واسع، في الأماكن التي تتحكم فيها المستشفيات والجهات التنظيمية والمحاكم، هو أن يُظهر أحدهم كيف تبدو المساءلة، علنًا، حيث يمكن التحقق منها. كتب الطب هذا الدليل قبل نحو قرن. ولا يحتاج الأمر إلا إلى أحد يلتقطه.

المصدر: مقابلة The Atlantic. ((Z))