Warum bringt man einer KI das Jassen bei?

Algorithmen und künstliche Intelligenz können menschliche Entscheidungsfindungsprozesse unterstützen. Am Beispiel des Jassens zeigen wir auf unserer Website, wie das funktioniert. Der Einsatz von KI im Rahmen von Entscheidungen ist umstritten. Problematisch ist der Einsatz von KI insbesondere, wenn die Entscheidungen intransparent und weitgehend abgekoppelt vom menschlichen Handeln getroffen werden. Dass Maschinen Entscheidungen fällen, die zum Nachteil einzelner Menschen gereichen, ist nicht hinnehmbar. SRF Doc hat zu solchen Fällen am 29. Juni 2023 eine interessante Dokumentation gesendet.

PoemAI arbeitet ebenfalls mit dem Einsatz von KI im Rahmen von Entscheidungsfindungen. Wir sehen darin ein riesiges Potenzial, das genutzt werden kann, ohne dass dabei jemand zu Schaden kommt. Denn es gibt erstens unzählige Einsatzmöglichkeiten, die keinerlei Einfluss auf menschliche Existenzen haben. Das Zuweisen von Kundenanfragen an den dafür am besten qualifizierten Sachbearbeiter hat für niemanden negative Konsequenzen. Oder wenn eine Buchhaltungssoftware die Kontierung von Belegen mittels künstlicher Intelligenz vorbereitet, kann kein grösserer Schaden als eine Fehlbuchung entstehen.

Zweitens kann KI durchaus auch bei heikleren Vorgängen einen Teil der Arbeit erledigen und Nutzen stiften, ohne Schaden anzurichten. Die KI muss im Einsatzgebiet der Entscheidungsfindung nicht zwingend ein Fluch sein. Es liegt nämlich immer in der Hand des Menschen bzw. des Betriebes, der eine KI einsetzt, zu entscheiden, ob ein Mensch den Prozess überwachen und Entscheide überprüfen soll (human in the loop). Ebenso liegt es im Ermessen des Menschen vorzugeben, dass eine Entscheidung final immer von einem Menschen gefällt werden muss (human in the lead). Über solche ethischen Fragen wie Fairness, Autonomie, Schadensvermeidung, Transparenz und Rechenschaftspflicht werde ich mich in einem separaten Blogbeitrag auseinandersetzen.

In den Medien tauchen in der Regel imposante Beispiele zum Einsatz von künstlicher Intelligenz auf, die von grossen Unternehmen genutzt und von noch grösseren entwickelt werden. Im Sinne eines Kontrapunktes zeigen wir an einem ganz lokalen und harmlosen Beispiel auf, wie künstliche Intelligenz in Entscheidungsfindungsprozessen eingesetzt werden kann und welche Leistungen es erbringen kann. Und das Schönste daran ist, und darauf freuen wir uns besonders: alle können mitreden. Mit Sicherheit wird sich zeigen, dass die künstliche Intelligenz den Profis unterlegen ist. Das macht aber nichts – einmal mehr wollen wir illustrieren, dass künstliche Intelligenz einen Mehrwert bringen und unterstützen kann, ohne dass sie exzellent und fehlerfrei sein muss.

Jassen mit künstlicher Intelligenz – selber ansagen oder doch lieber schieben?

Du kennst die Situation: ihr sitzt zu Viert am Jasstisch beim Schieber. Du wunderst du dich ab und zu darüber, warum deine Partnerin jenes angesagt hat anstatt zu schieben. Oder du wirst mehr oder weniger freundlich darauf hingewiesen, dass man mit deinen Karten dieses statt jenes hätte tun sollen. Weil mit Dreifärber muss man doch zwingend ansagen oder Nell As zu fünft reicht aus – auch wenn man keine Böcke hat.

Das Beispiel Jassen illustriert das Potenzial von KI in Entscheidungsprozessen sehr gut. Probier doch mal unsere Demo aus, würfle ein paar Kartendecks und überprüf die Qualität der Empfehlungen und Erläuterungen der KI. Oder lass Dir die Demo in unserem YouTube Video vorführen. Der Auftrag der KI in unserem Demobeispiel ist, beim Schieber zu entscheiden, ob man selber ansagen soll, und wenn ja, was. Oder ob man mit diesen Karten besser schieben sollte. Und sie soll ihre Entscheidung kurz begründen.

Die Begründung ist unseres Erachtens ein zentrales Element, wenn KI Urteilsfindungen vorbereiten. Anhand der Begründung kann der Mensch, der die finale Entscheidung fällt, die Qualität der vorbereiteten Entscheidung besser abschätzen und sie plausibilisieren. Genauso wie wir es von Mitarbeitenden kennen, die zuhanden ihrer Vorgesetzten eine Entscheidungsgrundlage vorbereiten und diese mit Argumenten unterlegen. Darin liegt übrigens auch der grosse Vorteil der KI-Lösung im Vergleich zur klassischen IT. Es gibt schon längst sehr gute Jassprogramme, die wunderbar funktionieren. Hut ab vor den Programmierer*innen! Allerdings ist es mit Sicherheit um ein Vielfaches aufwändiger, Jassen mit klassicher IT zu programmieren als mit künstlicher Intelligenz. Was die klassische IT zudem nicht erleisten kann, ist die Produktion einer kurzen, knackigen und semantisch ansprechenden Begründung. Ganz anders die auf Sprachmodellen beruhende KI. Wir haben in unserer Jass-Demo ausschliesslich mit Sprachmodellen gearbeitet und nicht mit machine learning. Sprachmodelle sind besonders stark darin, die Regeln und Prinzipen, die sie zur Lösungsfindung anwenden, in ihre Erklärungen einzubringen.

Alte und neue Erkenntnisse

Jassen ist keine exakte Wissenschaft (man erinnere sich an die hitzigen Diskussionen in Wohnzimmern und Stammtischen). In unserer Jass-Demo haben wir der KI die Faustregelen mitgegeben, die ich als Kind von meinem Grossvater gelernt habe. Mit Hilfe dieser Heuristiken soll die KI für alle Möglichkeiten (Eichle, Rose, Schilte, Schelle, Undenufe, Obenabe und schieben) prüfen, ob die Karten auf der Hand ausreichend gut sind, um selber anzusagen oder nicht. Und falls mehrere Trümpfe bzw. Obenabe und/oder Undenufe in Frage kämen, die beste Option zu wählen.

Unsere Jass-KI ist ein Beispiel dafür, dass Entscheidungsfindungsprozesse mittels KI bestens begleitet werden können. Dabei spielt nicht nur Prozessuales eine Rolle (wie binde ich KI in meine Prozesse ein?), sondern auch Ethisches (an welche Regeln soll sich die KI halten? wie soll sie sich ausdrücken?). In diesem Zusammenhang gibt es einige typische Herausforderungen, denen wir auch beim Erstellen der Jass-KI begegnet sind und die ich Euch nicht vorenthalten will.

• Die Sprachmodelle neigen zum Halluzinieren Wir haben einiges an Energie und Zeilen beim Prompten aufwenden müssen, um zu verhindern, dass die KI halluziniert. In unserem Fall hat sie in den ersten Versionen häufig Karten hinzuerfunden oder weggelassen. Naja, wer wünscht sich zum Nell, As und König nicht auch noch den Bauer dazu? Aber für eine gezähmte KI ist das natürlich ein No-Go. Zu 100% Prozent konnten wir das Halluzinieren nicht ausschliessen, aber weitgehend. Am häufigsten erfindet unsere Jass-KI Asse und Bauern.

• Die Sprachmodelle neigen zum Fabulieren. Es war deshalb nicht ganz einfach, Vorgaben zur Länge der Begründung der Jass-Entscheidung zu machen. Soll die KI viel begründen, dann produziert sie eher mal eine falsche Begründung. Soll sie kurz begründen, dann ist ihre Urteilseinschätzung nicht immer nachvollziehbar.

• Kurze Prompts funktionieren besser als lange. Es ist wie bei Kindern: Kindern kann man nicht drei Dinge aufs Mal auftragen, man muss sie eine Aufgabe nach der anderen abarbeiten lassen. Wir hatten allerdings den Ehrgeiz, die ganze Demo mit möglichst nur einem Prompt zu erstellen. Damit hatten wir keine Chance, wir mussten die Aufgabe in zwei Prompts aufteilen: mit dem ersten Prompt wird bestimmt, welche Trümpfe überhaupt in Frage kommen. Der zweite Prompt sollte die beste Option identifizieren und die finale Antwort liefern.

• Ich bin sexistisch. Als wir die Resultate getestet haben, habe ich mit Schrecken festgestellt, dass unsere KI beim Schieben ab und zu schreibt, man soll besser dem Partner schieben oder ähnliches. Ich bezichtigte unsere KI sofort des Sexismus, bis ich peinlich berührt festgestellt habe, dass ich selber die Übeltäterin bin. Ich habe eigenhändig in den Prompts an zwei Stellen einzig die männliche Form verwendet – die KI hat nur reproduziert, was sie von mir vorgelegt bekommen hat. Es sind Sätze wie: «Beim Jassen haben alle vier Spieler jeweils neun Karten in der Hand». Kein Wort von Spielerinnen. Oder: «Schieben: Wer an der Reihe ist, kann seinem Partner schieben». Ich gelobe Besserung!

Und dann zeigte sich in unserer Jass-Demo noch eine ganz spezifische Herausforderung:

• Die Macht des As. Eine spannende Erkenntnis war, dass wir der KI die Trümpfe und Obenabe relativ leicht beibringen konnten, jedoch nicht Undenufe. Da es sich schlussendlich nur um eine Spielerei handelt, haben wir bei der Jass-Demo in diesem einen Fall die Waffen gestreckt und einen Teil der Analysearbeit bezüglich Undenufe mit klassischer IT programmiert. Möglicherweise wäre es uns gelungen, wenn wir für Undenufe einen separaten Prompt erstellt hätten. Viel lieber haben wir uns mit dem Warum beschäftigt. Das As ist übermächtig und wollte in unserem Jassbeispiel immer wieder die Sechs stechen. In der internationalen Welt kommt Jassen kaum vor, entsprechend auch in den Daten von openAI nicht. Poker hingegen schon, vielleicht auch Bridge und andere Kartenspiele. Dort sticht niemals die Sechs eine Sieben oder ein As.

Weitere technische Herausforderungen, die wir im Rahmen der Erstellung der Jass-Demo gemeistert haben, beschreibt Markus in seinem Blogpost "Wie bringt man einer KI das Jassen bei?"