Cogito
Text: Louis Grosjean, Partner altrimo
Tsahal, die israelische Armee, verwendete KI-Anwendungen zur Auswahl von Zielen im Gazastreifen. Der Entscheid bleibe aber dem menschlichen Soldat vorbehalten, so die offizielle Version. Wenn aber die Analyse-Arbeit der KI ein (Schuss-)ziel mit einer 98-%-Wahrscheinlichkeit definiert, so ist der Soldat nicht in der Lage, dies zu überprüfen: Er schiesst. Die Entscheidung hat er nur auf dem Papier getroffen.
Im Alltag begleitet uns mittlerweile ein zweites Gehirn: unser Smartphone. Im Gespräch mit Freunden über ein Fachthema dauert es nicht lange, bis eine Antwort fehlt: Prompt zücken die Leute ihr Smartphone und stellen einer KI-App die Frage. Praktisch, nicht? Und auch im geschäftlichen Umfeld machen uns viele KI-Anwendungen das Leben einfacher.
Was sollen wir davon halten? Wir können jede KI-Anwendung einzeln beurteilen und sagen, ob sie gut ist oder nicht. Spätestens aber bei Dual-Use-Anwendungen wird dies schwierig. Ich möchte in diesem Artikel zum Nachdenken auf einer höheren Ebene einladen: Ist es OK, dass wir Menschen das Denken an eine KI delegieren?
Cogito ergo sum
«Ich denke, also bin ich.» Auch Nicht-Philosophen dürfte dieser Aphorismus des französischen Philosophen René Descartes (1596-1650) bekannt sein. Descartes befasst sich in seinen Principes de la Philosophie mit der Erkenntnistheorie: Was können wir wissen? Als Erstes postuliert er, dass wir so viel wie möglich bezweifeln sollen.
Nur durch kritisches Denken tritt die Wahrheit ans Licht. Dieses Zweifeln, dieses durch Rationalität geprägte Denken ist das «cogito». Dass wir diese Fähigkeit besitzen, beweist, dass wir existieren. Das ist das «ergo sum». Nach Descartes ist das «Ich denke, also bin ich» der allererste Satz, den wir in einer von Vernunft und Logik geprägten Erkenntnistheorie als wahr akzeptieren können. Unser kritisches Denken, unsere Vernunft macht uns Menschen aus.
Descartes’ Gedankengut wird beim Thema KI auf unheimliche Weise aktuell.
Zuerst das Wissen, dann das Denken
Mit der Verbreitung der Internet-Suchmaschinen haben wir zuerst das Wissen delegiert. Fehlt mir ein Fakt, ein Datum, eine wissenschaftliche Erklärung, so kann ich seit einigen Jahren problemlos «googeln». Ich brauche eigentlich nicht mehr etwas zu wissen. Ich muss nur suchen, und das Internet gibt mir die Antwort. Dieser Delegationsvorgang beschränkte sich zunächst auf Wissenssätze.
Mit der Ausbreitung von KI-Anwendungen delegieren wir nunmehr nicht nur das Wissen, sondern auch noch das Denken. Die kritische Beurteilung von Wissen und die Herleitung von Handlungsoptionen oder Erkenntnissen können wir mittlerweile bequem KI-Anwendungen überlassen.
Der Tsahal-Soldat muss sich nur mit der Wahrscheinlichkeit zufriedengeben. Die Nachrichtenbeschaffung und -auswertung hat KI für ihn übernommen. Wie akkurat diese ist, kann der Soldat nicht beurteilen. Sein Entscheid kann somit nicht durch kritisches Denken getroffen werden.
Auch in der Diskussion unter Freunden fragen wir eine KI-Instanz, von der wir nicht wissen, mit welchen Daten und moralischen Sätzen sie trainiert wurde.
Einfacheres, bequemes Leben
KI macht uns das Leben einfacher. Betrachtet man die einzelnen KI-Anwendungen, so führen die meisten zur Optimierung eines isoliert betrachteten Prozesses.
Allerdings werden wir Menschen dadurch faul. Uns droht die Verwahrlosung unseres Denkvermögens. Wie sollen wir KI-Aussagen und -Arbeitsergebnisse beurteilen können, wenn wir das Wissen und das Denken verlernt haben?
Zurück zu Descartes: Wenn wir das Denken aus Bequemlichkeit immer mehr an die KI delegieren, geben wir ein wesentliches Merkmal unserer Menschlichkeit ab. «Non Cogito, ergo non sum.»
Denk-Fitnesstraining
Ähnliches bedrohte uns mit der Erfindung des Automobils in Bezug auf unsere Beine. Auch die Erfindung von Computern hat uns viel Rechenarbeit erspart. Wir konnten uns als Spezies trotzdem weiterentwickeln. Die körperliche Ertüchtigung erfolgt durch sportliche Aktivitäten in der Freizeit. Das Rechnen lernen wir immer noch in der Schule.
Mit dem Denken soll es uns genauso gehen. Wir dürfen es nicht verlernen. Wir müssen uns wie in einer Sportstunde anstrengen. Wir müssen trainieren, immer wieder.
