«Analoge Möglichkeiten sollen erhalten bleiben»

Mathias Binswanger, Sie erwarten, dass der Einsatz von KI zu mehr Bürokratie führe und das Leben kompliziere, anstatt es zu vereinfachen. Wie kommen Sie zu dieser Aussage, die der landläufigen Meinung zur KI fast diametral entgegensteht?
KI ist zwingend an Big Data gebunden, sie funktioniert nur mit grossen Datenmengen, die möglichst in Echtzeit vorliegen. Die mit KI verbundene Datenflut ermöglicht es, Menschen und Prozesse noch in viel mehr Details zu überwachen und zu kontrollieren, sodass Controlling-Aktivitäten immer weiter ausgeweitet werden. Gleichzeitig erhöht sich die Komplexität des Systems. Es braucht neue Regulierungen, Richtlinien, Gesetze, Weisungen, mit denen sich dann unter anderem Compliance-Abteilungen beschäftigen müssen. All dies führt zu mehr Bürokratie.

Es wird oft versprochen, dass Digitalisierung den Bürokratieabbau fördert und die Effizienz steigert. In Wirklichkeit führe sie jedoch zu mehr Controlling-Aktivitäten und damit zu mehr Bürokratie, sagen Sie. Weshalb?
Es herrscht eine naive Digitalisierungseuphorie, die davon ausgeht, dass Qualität und Effizienz mit dem Grad der Digitalisierung steigen. Je mehr Algorithmen Mensch, Wirtschaft und Gesellschaft selbstständig steuern, so der Glaube, desto besser und effizienter funktionieren Staat, Wirtschaft und Gesellschaft. Das ist aber eine Illusion. Stattdessen werden Controlling-Aktivitäten durch die neuen, mit KI verbundenen Möglichkeiten immer mehr ausgebaut, was zu mehr Controlling-Bürokratie führt.

Sie befürchten auch, dass die «Controlling-Bürokratie» die traditionelle Beamtenbürokratie ersetze.
Diese Entwicklung ist schon längst im Gange. Der heutige Bürokrat ist kein Beamter, sondern ein Compliance-Officer, ein Zertifizierungsauditor, ein Qualitätsmanager oder ein Rechtsberater.

Das heisst, dass Digitalisierung und KI die Controlling-Bürokratie weiter verstärken, da die Menge an Echtzeit-Daten und deren Nutzung zur Steuerung von Menschen und Prozessen zunimmt?
Genau so ist es. Alles, was überwacht, kontrolliert und optimiert werden kann, wird auch überwacht, kontrolliert und optimiert. Da bietet die KI fantastische neue Möglichkeiten.

Ist es demnach eine Illusion zu glauben, dass Qualität und Effizienz mit dem Grad der Digitalisierung steigen?
Ja, aber dazu müssen wir Unternehmen oder staatliche Organisationen ganzheitlich betrachten. Schauen wir nur einzelne Prozesse, etwa die Produktion, an, dann erhöht KI die Effizienz, da es dort kaum noch Menschen braucht. Wenn wir das aber gesamte Unternehmen oder Organisationen betrachten, sehen wir, wie die interne Bürokratie gleichzeitig zunimmt, zum Beispiel durch eine wachsende Compliance-Abteilung. Auf höherer Ebene resultiert dann keine Effizienzverbesserung.

Das Hauptproblem ist also nicht der Mangel an Daten, sondern die Bewältigung zu vieler Daten, was den Bedarf an noch mehr Datenverarbeitung und Optimierung erhöht?
Ja, wir rennen der Realität stets hinterher, weil sie sich in immer noch detaillierteren Daten auflöst. Deshalb sind wir am Schluss trotz viel mehr Daten auch nicht besser informiert.

Die Intensivierung der Datenerhebung und die immer grössere Datenflut schaffen also neue Herausforderungen und erfordern zusätzliche bürokratische Massnahmen?
Ja, genau. Das können wir ja heute schon beobachten. Die Datenschutzgrundverordnung oder die jetzt in der EU bald eingeführte KI-Regulierung (AI-Act) sind eigentliche Bürokratiemonster.

Was empfehlen Sie demzufolge im Hinblick auf den Einsatz von KI?
Analoge Möglichkeiten sollen erhalten bleiben. Das muss der Staat garantieren. Ich muss weiterhin in einem nicht smarten Haus leben dürfen, ohne dadurch finanzielle Nachteile zu erleiden. Oder ich muss das Recht haben, meinen Körper nicht digital durch Nanosensoren überwachen zu lassen.

Und wie sehen Sie staatliche Regulierungen?
Diese erweisen sich weitgehend als Illusion. Statt Datenschutz schafft man Datenschutzbürokratie. Man kann nur Dinge wirkungsvoll regulieren, die man auch kontrollieren kann. Aber diese Kontrolle funktioniert bei KI nicht.

Zum Schluss: Wem empfehlen Sie die Teilnahme am «Grenzdenken» vom 18./19. Oktober?
Allen Menschen, die neugierig sind und Lust haben, Referenten mit unkonventionellen Ansichten zu erleben. Und dies in einer schönen Umgebung auf dem Lilienberg.