Die große Schwäche der KI: Warum Recht haben nicht reicht – scobel

00:00:00: Stur zu sein und zu bleiben ist eine Strategie, die wir gerne verwenden um uns vor neuen unliebsamen Einsichten zu schützen.

00:00:07: Wir müssen ja unser Denken unsere Überzeugungen und schlimmer noch uns selbst ändern wenn wir zugeben würden dass wir Unrecht haben.

00:00:15: Sturheit ist auch ein Mittel sich gegen die unauffaltsame Veränderung all dessen was wir kennen und uns lieb geworden ist zu schützen.

00:00:23: leider Das Stur hat kein gutes Mittel.

00:00:25: Der Dauorismus ist eine Philosophie, die nicht zuletzt um diese Einsicht herum entstanden ist und es ist verblüffend was passiert wenn man diese Philosophies auf KI-Systeme anwendet?

00:00:37: Hat KI haben KI gesteuerte Roboter so etwas wie DAO?

00:00:41: sind sie vielleicht sogar besser darin dem DAO zu folgen als wir?

00:00:45: mit Fragen wie diesen befasst sich die amerikanische Philosophien Robin Wang und darum geht das in der neusten Ausgabe von Scoble.

00:01:03: Robin Wang ist Professorin für Philosophie an der Loyola Marymount University in Los Angeles, forscht am Center for Advanced Study in the Behavioral Sciences der Stanford University und forscht Majifu Akademie der Seijang-Universität in Wangzhou.

00:01:21: Sie setzt sich aktiv für die Gestaltung der Zukunft der philosophischen Forschung auf globaler Ebene ein, vor Kurzem war sie Gast am Center for Science and Thought in Bonn und hat dort unter anderem einen Vortrag gehalten über DAO basierte Modelle von natürlichen und künstlicher Intelligenz.

00:01:38: den Link zum Vortag findet ihr.

00:01:42: Fun fact, Robin Wang war Kulturberaterin für den Film Karate Kid aus dem Jahr Zwei Tausend Zehn.

00:01:48: In dieser Ausgabe beziehe ich mich auf Robin Wangs Vortrag aber sie befasst sich schon länger mit KI-Systemen.

00:01:57: Beispielsweise argumentierte sie in ihrem Artikel Can Machine Flow Like Dao, The Daoist Philosophy on Artificial Intelligence.

00:02:06: Dass sich Leben und Tod durch das Vorhandensein beziehungsweise die Abwesenheit von Chi der Lebensenergie beschreiben lassen.

00:02:15: Der Fluss dieser Energie kann durch vieles gestört oder eingeschränkt werden.

00:02:20: Grundsätzlich so ihr Argument gilt das natürlich auch für Technologie.

00:02:25: Deshalb warmt der Dausismus aber nicht grundsätzlich vor.

00:02:28: Technologien, wearables beispielsweise also die Uhren am Handgelenk werden explizit begrüßt weil sie helfen können eine gesunde Lebensführung und durchaus auch dauistische Praxis umzusetzen und zu verwirklichen.

00:02:42: gefährlich wird es erst dort wo Technologin wie KI die Gefahr mit sich bringen uns von unserer ursprünglichen Natur wegzuführen.

00:02:51: Portiert formuliert ist also der Feind nicht künstliche Intelligenz, sondern dieses Wegführen – künstlige Dummheit!

00:02:59: Der entscheidende Maßstab ist es nicht grundsätzlich fortschulden ja oder nein

00:03:03: K.I.,

00:03:04: ja oder Nein, sondern ob eine Technologie den Menschen näher bringt zum Dao und damit auch näher zu sich selbst, ob diese Technologie ihn im Gegenteil davon wegführt.

00:03:16: Was KI erst noch lernen muss, so Wang ist das es nicht um Starregeln und unsere Anpassung an diese Regeln geht sondern dass das Leben äußerst komplex ist.

00:03:27: Es geht also um die Fähigkeit angemessen auf eine Umwelt zu reagieren, die sich ständig laufen verändert und die vor allem weil sie komplex ist immer wieder für uns unvorhersehbar ist.

00:03:40: Wir müssen also in Resonanz zu ihr treten, in einen wirklichen Kontakt um weitere Schritte zu ermöglichen und uns anzupassen und zwar in Echtzeit und in einer Umwelt, die für uns nie wirklich vollkommen beherrschbar oder vollkommen durchblickbar ist.

00:04:00: Genau das sogar redet uns aber KI sehr häufig, wir kennen verschiedene Beziehungsmodi wie Widerspruch, Interdependenz, wechselseitige Durchdringung, Resonanz, Komplementarität, Transformation und so weiter.

00:04:14: Wangs Standpunkt ist da erfrischend undurkmatisch.

00:04:17: sie sagt ein Go-Spielendes System.

00:04:20: dass dieses Spiel nämlich GO gewinnt Gewinnt nur dieses Spiel.

00:04:24: Es kann aber nicht flexibel auf veränderten Regeln oder ganz andere Kontexte und realen Umwelten reagieren, zum Beispiel eine gefüllte T-Tasse mitten im dichten Straßenverkehr von A nach B bringen.

00:04:39: Und dabei Menschen und Wetter beobachten.

00:04:41: Anders als wir Menschen ist KI eben nicht existenziell in biologisch körperliche Lebenszusammenhänge verwoben, indem wir uns bewähren und an die wir uns adaptieren müssen weil sie sich ständig verändern.

00:04:54: Aber es geht noch weiter.

00:04:55: Und darum ging's in Ihrem Vortrag mit dem Titel Can AI Learn Tong?

00:05:00: Suck the proximity and a Dao-based model of intelligence, hm?

00:05:05: Worum geht das

00:05:12: da?

00:05:13: Angenommen ihr sagt an Teenager eher dass sie soll nach fünf Stunden scrollen endlich mal das Handy weglegen und was Vernünftiges machen wie mit dem Hund spazieren gehen weil naja aus verschiedenen Gründen ist dieser kontinuierliche, handige Brauch oder Missbrauch eben gesundheitsschädigend und kann mental verstörend wirken.

00:05:33: Das sind wir inzwischen.

00:05:34: Diese Aufforderung beruht auf einer ganze Reihe von Studien- und Setzen die sich begründen lassen und durchaus wahr sind.

00:05:42: doch die Tatsache dass es sich um eine Tatsachen handelt und der Satz war ist bedeutet ja noch in keiner Weise das er auch befolgt wird.

00:05:50: im Gegenteil bestes Beispiel dafür ist der Klimawandel.

00:05:53: Wir alle wissen was Fakt ist, aber wir handeln nicht oder wir handelen gewissermaßen mit einer Trotzreaktion und werden widerspenstig.

00:06:04: Jetzt erst recht nicht!

00:06:05: Das chinesische unterscheidet aus diesem Grund zwischen zwei Wörtern die im Deutschen meist nur durch eines wiedergegeben werden.

00:06:13: Dui heißt dass etwas sachlich richtig zutreffend stimmig ist zum Beispiel die Antwort für die man dann in einer Prüfung volle Punktzahl bekommt, durch Tong hingegen hat eine ganz andere Bedeutung.

00:06:29: Es bezeichnet den Prozess des hindurchdringens und bedeutet sich einen Weg zu Bahn anzukommen.

00:06:36: Man benutzt das Zeichen zum Beispiel für eine Straße die durchgängig befahrbar ist oder dass man in einem Examen mit dem was man gelernt hat gut durchkommt.

00:06:46: Tong fragt also nicht ob ein Satz stimmt Es fragt, ob die Sache der Prozess gelingt, indem er unter den gegebenen Umständen, die sich verändern können, dennoch durchkommt.

00:07:05: Robin Wang entwickelt mit Hilfe dieser Unterscheidung eine Diagnose der künstlichen Intelligenz.

00:07:11: Ihre These lautet das heutige KI-Systeme im Kern sogenannte Aristotelische Systeme sind.

00:07:18: Das heißt, Systeme rechnen klassifizieren Vorhersagen, um dann diese Vorhnersagen weiter zu optimieren.

00:07:26: Unschärfen, Zweideutigkeiten und vieles andere das uns ja tagtäglich in unserem Leben begegnet im Alltag wird wegoptimiert.

00:07:36: Jede Unschärke ist ein Mangel der durch eine bessere Voraussage unbedingt behoben werden muss.

00:07:43: Kis sind Prediction-Modelle, Vorhiersagemodelle.

00:07:46: Das Problem, man kann jemandem der ausschließlich oft durchtrainiert wird.

00:07:51: Also auf das was stimmt und Regeln entspricht überhaupt verstehen und lernen was tong ist also wie etwas ankommt denn man kann ja durchaus recht haben und trotzdem kommt man nicht durch wie gesagt Beispiel Klimawandel.

00:08:06: Das ist kein Widerspruch sondern wie ihr beispielsweise ganz oft in der Politik beobachten könnt der absolute Normalfall.

00:08:15: Natürlich muss man nicht chinesisch lernen, um den Unterschied zwischen diesen beiden Bedeutungen begreifen zu können.

00:08:21: Aber im Chinesischen ist der Unterschied naheliegender und vielleicht auch folgenreicher als im Deutschen.

00:08:28: Wir benutzen ja gerne das Wort bekommen.

00:08:30: Man bekommt ein Geschenk eine Grippe einen Rüffel Und keins davon verlangt unsere Zustimmung.

00:08:37: aber die Grippe und der Rüffe kommen ja bei uns an.

00:08:40: Anzukommen bedeutet man richtet sich ein mit dem was isst.

00:08:45: Man kriegt halt dummerweise so eine Scheißgrippe, die dann bei einem ankommt.

00:08:49: Durchkommen bedeutet ne Prüfung bestehen in Winter überstehen.

00:08:52: dabei reicht es eben nicht korrekt zu sein.

00:08:55: man muss schon ein bisschen klüger sein eben anpassungsfähig um wirklich durch die Schwierigkeiten hindurchzukommen die so einen strenger winter zum Beispiel verursacht entkommen.

00:09:05: wir entgehen dem Zugriff von etwas unabhängig von der Frage ob der Angriff gegen uns berechtigt war oder nicht.

00:09:12: Wir entkommen.

00:09:13: und schließe ich dann das Wort Ankommen, das ja eine dreifache Bedeutung hat.

00:09:18: Ich komme an und treffe ein... ich komme an im Sinne von Ah!

00:09:22: Ich gefall den Leuten und dann in der Wendung Naja.

00:09:25: es kommt ganz darauf an.

00:09:27: In all diesen Bedeuten wird nicht nach der Wahrheit eines Satzes gefragt oder zumindest nicht in erster Linie danach gefragt.

00:09:34: Es geht vor allem darum sich einen Weg zu bahnen.

00:09:37: Klar Im Daoismus geht es ja um dass DAO Den Weg.

00:09:48: Und wie verhält es sich nun mit diesem Unterschied zwischen Recht haben und Ankommen, also zwischendurch und tong?

00:09:56: Wang beruft sich auf den daoistischen Philosophen Zhuangzi dessen Lehre über das Wuwei – das Nichthandeln ich ja euch vor kurzem hier vorgestellt habe.

00:10:05: Zhuangze sagt dass das was uns hindert mit den wechselnden Umständen des Lebens fertig zu werden oft Chongqing ist das fertig geformte Bewusstsein.

00:10:18: Wirklich übersetzt ist das Herz hingemeint, also die Einheit von Körper und Geist und Bewusstsein in der etwas bereits Gestalt angenommen hat und nun keine andere Gestalt mehr haben kann oder

00:10:30: soll.".

00:10:31: In der Psychologie würde man wahrscheinlich sagen, dass es so eine Art Confirmation-Bias ist.

00:10:36: Zhuangzi hat das bereits vor zweitausend Jahren beschrieben.

00:10:39: Interessant ist was daraus folgt?

00:10:42: Man prüft einen neuen Gedanken ja selten darauf, ob er stimmt.

00:10:46: Man pruft ihn geradezu unmittelbar zunächst auf, ob es zu dem passt was man ohnehin schon für wahrgehalten hat.

00:10:54: also mit dem ganzen Wissen das man so im Hintergrund hat und ihr wisst dass man sich in dem was man weiß was man so Im hintergrund hat richtig übel.

00:11:04: irgendein fügt der neue gedanke sich dann ein ist okay und wird übernommen.

00:11:10: Widerspricht er, wird er sehr oft verworfen.

00:11:13: im Bereich des Rechts sprechen die Juristen gerne von der sogenannten Feststellung.

00:11:18: also das was festgestellt wird von einem Richter zum Beispiel vom Gericht beruht auf einen Verwaltungsakt und der kann durchaus unangemessen oder sogar falsch sein.

00:11:29: da gibt es eine Feststellung obwohl das Verfahren noch gar nicht zu Ende ist und gar noch nicht alle Fakten auf dem Tisch liegen.

00:11:36: Trotzdem wird etwas festgestellt zunächst mal und ist damit rechtsverbindlich.

00:11:41: Das bedeutet, dass bevor etwas tatsächlich auf Herz und Nieren – das auch auf Wahrheit hingeprüft werden kann – steht es einfach fest!

00:11:51: Es darf keine weitere Bewegung mehr geben.

00:11:54: Ein Chancin, also ein festgestelltes Bewusstsein besteht aus Feststellungen und ist festgefahren.

00:12:01: Es gibt nur einen Weg.

00:12:03: Punkt Und das weiß man schon vorher.

00:12:06: Zhuangze erläutert diese Sture gegen jede Veränderung gerichtete Haltung, die ja häufig zu weiteren Fehlern und zu neuen Problemen führt anhand der Geschichte vom Affenwärter.

00:12:16: Also ergibt morgens den Affen in Käfig drei Kastanien und abends vier – und die Affen rebellieren und sind total empört!

00:12:26: Und dann ändert es einfach.

00:12:28: Ergibt ihn morgens vier Kastанien und Abends drei.

00:12:32: Alle sind zufrieden.

00:12:34: Was ist passiert?

00:12:35: In der Summe hat sich überhaupt nichts geändert!

00:12:38: Es brauchte gar keine neue Information oder eine neue Wahrheit, es brauchte lediglich eine Verschiebung der Reihenfolge also rein der Form.

00:12:48: Menschen so argumentiert Weng trocken sind in dieser Hinsicht nicht anders als die Affen.

00:12:53: sehr häufig setzen wir im Alltag dieses affenartige Verhalten einfach weiter fort.

00:12:59: Wir wollen also erst drei dann vier und nicht umgekehrt oder genau umgekehrt, wie auch immer.

00:13:06: Wir sind Stur.

00:13:15: Nun könnte man meinen Tong sei deshalb wie Anpasso vielleicht sogar Anpassung um jeden Preis aber das ist überhaupt nicht der Fall.

00:13:24: Wang weiß darauf ausdrücklich hin.

00:13:26: wäre es so würde das ganze Modell des flexiblen Wegs auf den es ja ankommt dass beweglich sein reine Gefälligkeit und würde in Anpasserei kippen, also eine neue Form von Sturrheit.

00:13:38: Ein Konsens der nur erkauft ist weil man jede Kante an sich selbst abgeschliffen hat führt zu neuen Problemen.

00:13:46: Man verliert sich selbst dabei.

00:13:48: Also muss noch etwas weiteres hinzukommen und das ist entscheidend.

00:13:52: Chen Das echte dass was einer Person oder einer Sache wirklich eigen ist oder vielleicht sogar Als eigentümlich zukommt und sich nicht beliebig austauschen lässt.

00:14:04: Junze erläutert das in drei kleinen Geschichten.

00:14:07: Da ist zuerst die vom Mann, der sein Echo hast.

00:14:10: Er schreit so lange gegen dieses Echo an bis ihm die Stimme versagt.

00:14:14: Das Echo aber bleibt natürlich unverändert Und ist immer noch da.

00:14:17: Ein anderer hasst seinen Schatten und läuft vor ihm davon Bis er zusammenbricht.

00:14:23: Der Schatten weicht dem immer noch nicht von der Stelle Gang dieser Menschen in dieser fremden Stadt, übt ihn perfekt ein bis er ihm emittieren kann und verlernt darüber so das eigene Gehen.

00:14:40: So vollständig dass er zuletzt auf allen Viren nach Hause kriechen muss.

00:14:44: Wer sich selbst derart verleugnet und anpasst und zwar verleuchtet nur um anzukommen geht nirgends mehr hin.

00:14:53: Er geht nicht sondern wenn überhaupt kriegt er.

00:14:57: daustisch formuliert Tong ohne Chen ist kein Ankommen, kein Weg mit Haltung.

00:15:03: Es ist reine Anbieterei wobei offen bleibt ob das woran man sich anpasst überhaupt gut ist.

00:15:17: Aus diesen drei Elementen also durch Tong und Chen baut Wang ein Modell dass sie subtle proximity nennt im Deutschen vielleicht am besten übersetzt als feine oder subtile Annäherung.

00:15:31: Was ist damit gemeint?

00:15:32: Auch dafür gibt es ja bei uns im Bereich des Rechts ein passendes Wort und dieses Wort ist Gewehrleistung.

00:15:38: Zunächst muss das, was zugesichert wird auch geprüft und überprüft werden.

00:15:44: Die Sache muss korrekt sein – das ist sozusagen die Duriseite!

00:15:48: Die Erfüllung dagegen also ob eine Zusage, die ich gemacht habe tatsächlich auch in Handeln im Vollzug ankommt, eingelöst wird, tatsächlich realisiert wird.

00:16:02: Das ist die Tong-Seite, das Ankommen.

00:16:04: Ein Vertrag kann in jeder einzelnen Klausel gewährleistet sein und trotzdem nie erfüllt sein – das gilt für eine Reihe von Verträgen.

00:16:12: also für mich ist immer noch ein Beispiel das Gute-Kita-Gesetz dass ja an sich richtig ist ne gute Überlegung aber nie wirklich überall umgesetzt wird einfach ganz schlicht und ergreifend weil die Ressourcen fehlen.

00:16:26: Tonn gilt aber auch für Sätze für wahre Sätze die gewissermaßen nie in der Umsetzung ankommen, aber auf den Weg gebracht werden sollen.

00:16:35: Aber erst das dritte Element stellt sicher, dass die Erfüllung nicht zur Kapitulation wird – also zur Anpassung und Verlust jeder eigenen Haltung!

00:16:46: Denn was bleiben muss ist ja die Verantwortlichkeit demgegenüber, was wahr-und echt ist auch wenn sich die Form fortwährend ändert.

00:16:55: Wie schwer es ist dieses Gleichgewicht in der Praxis durchaus zu halten, erläutert Schwangste folgendermaßen.

00:17:02: Ein Gesandter wird auf eine gefährliche Mission geschickt die ihn zu zereiben droht gleich wie er sich verhält.

00:17:09: Greift der nicht ein gefährdet er sein Land greift er ein riskiert er sein Leben dabei.

00:17:15: Weder der kategorische Imperativ also Kant noch einen Nutzenkalkül das eine gegen das andere abzuwägen helfen hier wirklich weiter, denn beide setzen ja Regeln voraus die für diesen Fall aber überhaupt nicht formuliert werden können.

00:17:34: Zhuangzi's Antwort der Weg den er weist ist folgerichtig.

00:17:38: auch keine Regel weil sie führte nur in Widersprüche oder übertragen auf KI-Systemen ist kein Algorithmus.

00:17:46: Denn es gibt für diese Lösung des Dilemmas keinen Algorithmos Keine Regel!

00:17:52: Welche soll das sein?

00:17:54: Was Joneses stattdessen anbietet, sind Bilder und Gleichnisse.

00:17:58: Eines dieser Gleichnisse ist der Donteur, der Hunger und Wut eines Tigers im Gleichgewicht behält so dass er ihn gut zähmen und mit ihm umgehen kann.

00:18:08: Ein anderes ist der Pferdetrainer dem zu viel Zuneigung ebenso zum Verhängnis wird wie zu strenge Führung.

00:18:17: Genau, die Mitte ist richtig.

00:18:18: Intelligenz zeigt sich hier nicht in der richtigen Formel, die dann stur angewendet wird.

00:18:24: Sie zeigt sich vielmehr in der Fähigkeit zu einer flexiblen Anpassung, die nie aufhört und ebenso wenig ein Ende wie eine Regel kennt.

00:18:40: Ob eine Maschine das je erlernen kann lässt Wang zunächst mal offen.

00:18:45: Zurecht finde ich, denn die Antwort wäre selbst wieder nur ne Regel!

00:18:51: eine Tatsache.

00:18:52: Richtig oder falsch, trainierbar oder nicht?

00:18:55: Die interessante Verschiebung liegt meiner Ansicht nach woanders.

00:18:58: man hat seit Alan Thuring ja lange gefragt ob künstliche Intelligenz nicht genauer rechnen kann bessere Modelle macht besser irgendwelche Tests besteht als wir selber.

00:19:09: die eigentliche Frage aber lautet aus der Sicht des Dauismus ob ein KI System in der Lage ist anzukommen.

00:19:17: Und Ankommen heißt eben nicht nur Recht haben und besser rechnen zu können.

00:19:22: Durchzukommen bedeutet, als der oder diejenige den man nun selber ist in einer sehr komplexen sich veränderndenen Umwelt anzukommen – durchzukommen!

00:19:33: Das gelingt nicht allein durch die Produktion von Rechenergebnissen, Zahlen und Setzen, die mehr oder weniger wahr sein können.

00:19:41: Es gelingt nur durch immer wieder genaues Hinsehen, Flexibilität Wofür es ein einziges Wort gibt bei uns?

00:19:50: Weisheit.

00:19:51: Ob wir lernen, Weise zu sein und zu handeln – daran wird sich am Ende alles entscheiden!

00:19:59: Und KI-Systeme jedenfalls im Moment haben noch keine Fähigkeit zur Weiszeit.

00:20:05: Und Tschüss!

00:20:15: Pascal Hadré, Sprecherin Kimplette Meyer.

00:20:18: Finanziert wird dieses Projekt von der gemeinnützigen Stiftung AVE dem Institut für Achtsamkeit Verbundenheit und Engagement.

00:20:26: Den Link dazu findet ihr in der Folgenbeschreibung.