Der Teil des Gates-Interviews, auf den niemand antwortet

Ich habe das Interview gesehen, in dem Bill Gates sagt, er habe seine Meinung zu KI geändert. Das meiste ist, was man erwarten würde. Die Fähigkeiten kamen schneller, als er dachte. Bioterror, Cyberangriffe, Arbeitsplätze. Aber eine Klage kehrte immer wieder, und sie beschäftigte mich länger als die beängstigenden Teile. Er sagt immer wieder, dass wir im Moment nur freiwillige Prüfungen ohne Kriterien haben. Die Unternehmen benoten ihre eigenen Hausaufgaben, und niemand hat aufgeschrieben, wie der Test überhaupt aussehen soll.

Er sagt es fast wie eine Herausforderung. Und während ich zusah, dachte ich immer wieder: Ich weiß tatsächlich, wie dieser Test aussieht. Nicht für alles. Für die Medizin, das Fach, in dem ich ausgebildet bin.

Krankenhäuser haben etwas Seltsames an sich, das kaum jemandem auffällt. Man kann in einer Stadt, in der man noch nie war, in eines hineingehen und sein Leben völlig Fremden anvertrauen, und es fühlt sich normal an. Warum? Keinem dieser Menschen vertraut man, weil er klug wirkt. Jeder von ihnen ist durch eine Kette gegangen. Prüfungen, Facharztausbildung, ein Oberarzt, der sie jede Anordnung laut begründen ließ, eine Konferenz, auf der ihre Fehler vor den Kollegen auseinandergenommen werden. Die Medizin hat langsam und nach sehr viel Schaden gelernt, dass fähig zu wirken kein Maßstab ist. Stattdessen hat sie Rechenschaft zum Maßstab gemacht, und das Vertrauen kam am anderen Ende heraus.

Wenn Gates also fragt, wie Kriterien aussehen würden, glaube ich nicht, dass die Antwort aus dem Nichts erfunden werden muss. In der Medizin jedenfalls kann man sie sich leihen.

Fangen wir mit dem einfachsten denkbaren Test an. Wenn ein System beeinflussen soll, was mit einem Patienten geschieht, stellen Sie ihm zweimal dieselbe Frage. Bekommen Sie zwei verschiedene Antworten, sollte allein das die Sache beenden. Das klingt nach einer absurd niedrigen Hürde. Die meiste medizinische KI nimmt sie heute nicht.

Dann fragen Sie nach dem Warum, so wie ein Oberarzt nach dem Warum fragt. Nicht nach einem Absatz, der vernünftig klingt, sondern nach der tatsächlichen Grundlage. Welcher Wert, welcher Schwellenwert, welche Evidenz. Wenn sich die Begründung nicht prüfen lässt, kann man ihr nicht widersprechen, und etwas, dem man nicht widersprechen kann, hat in der Nähe eines Patienten nichts verloren.

Dann die Fehlerrate, gemessen von jemand anderem, an Daten, die das System nie gesehen hat. Das ist schlicht der Instinkt der Arzneimittelzulassung. Niemand verlässt sich auf das Wort des Herstellers, und niemand sollte jetzt damit anfangen.

Und wenn das System etwas Neues lernt, und diese Systeme werden weiter lernen, genau darum geht es ja, dann wartet das neue Verhalten. Es läuft im Stillen mit, protokolliert, was es getan hätte, und ein Mensch entscheidet, ob es aufsteigen darf. Die Medizin macht das längst mit sich selbst. Ein vielversprechendes Ergebnis wartet auf die Studie, die Studie wartet auf die Leitlinie. Das ist langsam, und es ist auch der Grund, warum Ihre Hausapotheke Sie nicht umbringt.

Der Einwand lautet immer Innovation. Jedes Mal. Aber ich glaube, dieser Einwand vermengt zwei verschiedene Aufgaben zu einer. Eine KI, die zehn Millionen Akten nach Mustern durchsucht, die noch niemand festgehalten hat, sollte sich austoben dürfen, denn meistens falschzuliegen ist genau das, wofür Hypothesen da sind. An die Leine gehört die KI, die bei dem einen Patienten handelt, der vor ihr liegt. Zwei Aufgaben, unterschiedliche Regeln und dazwischen eine Tür, die sich erst nach einer Prüfung öffnet. Gates sagt fast dasselbe über die Überwachung der Modelle, die gefährliche Moleküle entwerfen können. Es würde die Branche fast nichts kosten. Und irgendwie geschieht es immer noch nicht.

Ich will hier vorsichtig sein, was meine eigene Zuständigkeit angeht. Ich habe keine Ahnung, wie die entsprechende Liste für Cyberwaffen oder Biosicherheit aussieht. Nicht mein Fachgebiet, und ich bin jedem gegenüber misstrauisch geworden, der sich in allen Bereichen gleichzeitig auskennt. Aber mir fällt auf, dass, wenn Gates das Wort Kriterien sagt, alle ernst nicken und niemand etwas aufschreibt. In meiner Ecke der Welt lässt sich die Liste schreiben. Das meiste davon steht oben, in etwa vierhundert Wörtern.

Und nebenbei bemerkt: Ich schreibe das nicht als jemand, der Angst vor der Technologie hat. Ich baue jeden Tag damit, und ich bin zu dieser Arbeit gekommen wegen dessen, was geschieht, wenn die Medizin zu spät kommt. Ich weiß, was das kostet. Genau deshalb sind die Kriterien so wichtig. Der schnellste Weg, auf dem KI Menschen wirklich hilft, in großem Maßstab, an den Orten, die Krankenhäuser, Aufsichtsbehörden und Gerichte kontrollieren, besteht darin, dass jemand zeigt, wie Rechenschaft aussieht, öffentlich, wo man es überprüfen kann. Die Medizin hat dieses Drehbuch vor etwa einem Jahrhundert geschrieben. Jemand muss es nur in die Hand nehmen.

Quelle: das Interview mit The Atlantic. ((Z))