الجزء الذي لا يجيب عنه أحد في مقابلة غيتس
مترجمة عن الإنجليزية. اقرأ النص الأصلي

شاهدت المقابلة التي يقول فيها بيل غيتس إنه غيّر رأيه بشأن الذكاء الاصطناعي. معظمها كما تتوقع. وصلت القدرات أسرع مما ظن. الإرهاب البيولوجي، والهجمات السيبرانية، والوظائف. لكن شكوى واحدة ظلت تتكرر، وبقيت في ذهني أطول من الأجزاء المخيفة. فهو يكرر أن كل ما لدينا الآن مراجعة طوعية بلا معايير. الشركات تصحح واجباتها بنفسها، ولم يدوّن أحد بعدُ حتى ما ينبغي أن يكون عليه الاختبار.
يقولها بنبرة أقرب إلى التحدي. وطوال المشاهدة ظللت أفكر: أنا أعرف فعلًا كيف يبدو هذا الاختبار. لا في كل شيء. بل في الطب، المجال الذي تدربت فيه.
في المستشفيات أمر غريب لا يتوقف عنده أحد. يمكنك أن تدخل مستشفى في مدينة لم تزرها قط، وتسلّم حياتك لغرباء لا تعرفهم، ويبدو ذلك طبيعيًا. لماذا؟ لا أحد منهم نال ثقتك لأنه يبدو ذكيًا. كل واحد منهم جاء عبر سلسلة: امتحانات، وإقامة طبية، وطبيب مشرف أجبره على تبرير كل أمر علاجي بصوت عالٍ، واجتماع تُشرَّح فيه أخطاؤه أمام زملائه. تعلّم الطب، ببطء وبعد قدر هائل من الأذى، أن الظهور بمظهر الكفء ليس معيارًا. فجعل المساءلة هي المعيار بدلًا من ذلك، وجاءت الثقة نتيجة لذلك.
لذا حين يسأل غيتس كيف ستبدو المعايير، لا أظن أننا نحتاج إلى اختراع الإجابة من العدم. في الطب على الأقل، يمكنك أن تستعيرها.
ابدأ بأبسط اختبار ممكن. إذا كان نظام ما سيؤثر فيما يحدث لمريض، فاسأله السؤال نفسه مرتين. إن أعطاك إجابتين مختلفتين، فهذا وحده ينبغي أن ينهي النقاش. يبدو هذا حدًّا أدنى إلى درجة السخف. ومع ذلك يعجز عنه معظم الذكاء الاصطناعي الطبي اليوم.
ثم اسأله عن السبب، كما يسأل الطبيب المشرف. لا لتحصل على فقرة تبدو معقولة، بل على الأساس الفعلي. أي قيمة، وأي عتبة، وأي دليل. ما لا يمكن فحص منطقه لا يمكن الاعتراض عليه، وما لا يمكنك الاعتراض عليه لا شأن له بالاقتراب من مريض.
ثم معدل الخطأ، يقيسه شخص آخر، على بيانات لم يرها النظام من قبل. وهذه ببساطة الغريزة نفسها التي تحكم إجازة الأدوية. لا أحد يأخذ كلام المصنّع على علّاته، ولا ينبغي لأحد أن يبدأ الآن.
وحين يتعلم النظام شيئًا جديدًا، وهذه الأنظمة ستظل تتعلم، فذلك هو الغرض منها، فإن السلوك الجديد ينتظر. يعمل بصمت، ويسجّل ما كان سيفعله، ويقرر إنسان هل يتخرج. والطب يفرض هذا على نفسه أصلًا. النتيجة الواعدة تنتظر التجربة السريرية، والتجربة تنتظر الدليل الإرشادي. إنه بطيء، وهو أيضًا ما يحول دون أن تقتلك خزانة أدويتك.
والاعتراض دائمًا هو الابتكار. دائمًا. لكنني أظن أن هذا الاعتراض يخلط بين وظيفتين مختلفتين. الذكاء الاصطناعي الذي يبحث في عشرة ملايين سجل عن أنماط لم يقنّنها أحد ينبغي أن يُطلق له العنان، لأن الخطأ في معظم الأحيان هو بالضبط ما وُجدت الفرضيات من أجله. أما الذكاء الاصطناعي الذي يتصرف بشأن المريض الواحد الذي أمامه فهو الذي يحتاج إلى لجام. وظيفتان، وقواعد مختلفة، وباب بينهما لا يُفتح إلا بعد المراجعة. ويطرح غيتس الفكرة نفسها تقريبًا بشأن مراقبة النماذج القادرة على تصميم جزيئات خطرة. لن يكلف ذلك الصناعة شيئًا يُذكر. ومع ذلك، لسبب ما، لا أحد يفعله حتى الآن.
وأريد هنا أن أحترس من تجاوز حدود ما أعرفه. ليست لدي أدنى فكرة عن القائمة المقابلة للأسلحة السيبرانية أو للأمن البيولوجي. ليس مجالي، وقد صرت أرتاب في كل مَن يتحدث بطلاقة في كل المجالات دفعة واحدة. لكنني ألاحظ أنه حين يقول غيتس كلمة «معايير»، يومئ الجميع برؤوسهم بجدية ولا يكتب أحد شيئًا. أما في ركني من العالم، فالقائمة يمكن كتابتها. ومعظمها مكتوب أعلاه، في نحو أربعمئة كلمة.
وللعلم، لا أكتب هذا بوصفي شخصًا يخاف من هذه التقنية. أبني بها كل يوم، ودخلت هذا العمل بسبب ما يحدث حين يصل الطب متأخرًا. أعرف كم يكلف ذلك. ولهذا بالضبط تهم المعايير. أسرع طريق ليساعد الذكاء الاصطناعي الناس فعلًا، على نطاق واسع، في الأماكن التي تتحكم فيها المستشفيات والجهات التنظيمية والمحاكم، هو أن يُظهر أحدهم كيف تبدو المساءلة، علنًا، حيث يمكن التحقق منها. كتب الطب هذا الدليل قبل نحو قرن. ولا ينقص إلا أن يلتقطه أحد.
المصدر: مقابلة The Atlantic. ((Z))