KI beibringen, wie Experten ermitteln: ein Experiment mit einem Action Tree zur Pflanzendiagnose

Bessere KI-Antworten brauchen vielleicht ein Vorgehen, kein weiteres Handbuch

Sprachmodelle arbeiten sich schon heute durch Berge von Dokumentation, wägen Alternativen ab und liefern ordentliche Antworten. Wenn eine Fachdomäne bessere Ergebnisse braucht, lautet der Reflex daher: mehr vom Gleichen. Mehr Handbücher, mehr Referenzmaterial, mehr Beispiele, mehr Kontext.

Es gibt aber eine zweite Art von Expertenwissen, die viel weniger Beachtung findet. Es geht nicht darum, was ein Experte weiß, sondern darum, worauf er als Nächstes schaut, wenn er die Antwort nicht kennt. Ein kleines Experiment mit Pflanzenkrankheiten macht den Unterschied greifbar.

Warum Pflanzendiagnose keine Bilderkennung ist

Oberflächlich sieht es nach Klassifikation aus. Ein Blatt hat Flecken, ein anderes ist gelb, ein drittes wächst verformt: Symptom benennen, Krankheit benennen.

So arbeiten Fachleute nicht. Ein einzelnes Symptom kann von einem Virus, einem Pilz, Bakterien, Insekten, einem Nährstoffproblem, chemischer Schädigung, Wasserstress oder einem anderen Umweltschaden kommen. Was man sieht, ist nur eine Beobachtung. Die eigentliche Aufgabe besteht darin herauszufinden, was sie erklären könnte und welche Untersuchung diese Erklärungen voneinander trennt. Die Phytopathologie hat dafür längst solide Denkmethoden.

Abduktion und Deduktion

Diagnostisches Denken lässt sich sauber in zwei Arten des Schließens teilen.

Abduktion geht vom Beobachteten aus und fragt, welche Hypothesen es erklären könnten. Das ist Hypothesenbildung:

Observation
    ↓
Possible explanations
    ↓
H1
H2
H3

Deduktion nimmt dann jede Hypothese und fragt, was man sonst noch sehen müsste, wenn sie stimmt:

Hypothesis
    ↓
Expected observation
    ↓
Test / inspection

Was diese Prüfung ergibt, wird zu neuer Information, und die Schleife beginnt von vorn:

Observation
    ↓
Abduction
    ↓
Hypotheses
    ↓
Deduction
    ↓
Next observation or test
    ↓
New observation
    ↓
Update hypotheses

Das ähnelt stark der Arbeitsweise moderner KI-Agents: schlussfolgern, handeln, Ergebnis beobachten, weitermachen. Daraus folgt eine naheliegende Frage: Was, wenn man einer KI diesen Ermittlungsprozess ausdrücklich mitgibt?

Den Prozess in einen Action Tree verwandeln

Im Experiment wurde die Diagnoseroutine in einen schlichten Action Tree überführt. Ein Ausschnitt:

START
 │
 ▼
Is the host sufficiently identified?
 ├─ No → Get host information
 └─ Yes
      │
      ▼
Are symptoms and signs sufficiently observed?
 ├─ No → Observe them
 └─ Yes
      │
      ▼
Is the damage pattern known?
 ├─ No → Examine spatial distribution
 └─ Yes
      │
      ▼
Is the spread over time known?
 ├─ No → Examine time course
 └─ Yes
      │
      ▼
Generate competing hypotheses
      │
      ▼
What observation would distinguish them?
      │
      ▼
Choose the next action

Der Baum ersetzt das Denken des Modells nicht, und das Modell darf weiterhin frei Hypothesen aufstellen. Der Baum liefert einen Rahmen für die Entscheidung, was bereits feststeht, was noch unbekannt ist, welche Belege fehlen und was als Nächstes zu prüfen ist. Man kann ihn als Denk-Policy verstehen.

Drei Setups für dieselbe Aufgabe

Verglichen wurden drei Konfigurationen. Die erste ist ein rohes Modell, das nur den Fall bekommt:

Case
 ↓
LLM
 ↓
Diagnosis + next action

Die zweite ergänzt den Fall um Expertenwissen, also diagnostisches Referenzmaterial:

Case
+
diagnostic reference material
 ↓
LLM

Die dritte gibt dem Modell dasselbe Wissen und zusätzlich den Action Tree:

Case
+
same diagnostic knowledge
+
expert investigation procedure
 ↓
LLM

Entscheidend ist der Vergleich zwischen der zweiten und der dritten. Beide haben im Grunde dasselbe Fachwissen. Der einzige Unterschied ist, ob das Modell nur das Wissen bekommt oder auch eine Methode, es zu nutzen.

Ein enttäuschendes erstes Ergebnis

Der erste Fall war recht einfach, und alle schnitten gut ab. Das rohe Modell, das Modell mit Expertenwissen und die Action-Tree-Variante kamen alle zu im Großen und Ganzen vernünftigen Diagnosewegen. Gemessen nur an der Genauigkeit der Endantwort sähe die Tabelle so aus:

Raw AI ≈ Knowledge AI ≈ Action Tree AI

An diesem Maßstab gemessen wirkte das Experiment wie ein Rohrkrepierer. Etwas anderes hatte sich aber verändert.

Zuerst wurde die Nachprüfbarkeit besser

Der Lauf mit dem Action Tree hinterließ eine sichtbare Spur, eine explizite Abfolge von Schritten:

Source observation
      ↓
Decision point
      ↓
YES / NO / UNKNOWN
      ↓
Interpretation
      ↓
Current hypotheses
      ↓
Missing evidence
      ↓
Next action

Damit ließ sich die Struktur der Arbeit prüfen und nicht nur die Antwort. Ein einzelner Schritt sieht so aus:

Question:
Is the field-level damage pattern known?

Observation:
Symptoms are present on several plants,
but the overall distribution has not been examined.

Decision:
INSUFFICIENT_EVIDENCE

Next action:
Map symptomatic and asymptomatic plants across the field.

Heraus kam nicht noch ein Textblock, sondern eine Kette von Entscheidungen, die jemand anderes überprüfen kann. Hängen blieb dafür der Name Verification Spine („Prüfrückgrat“). Zwei Systeme können zur selben Antwort kommen, während eines davon viel leichter zu prüfen, zu reproduzieren und zu korrigieren ist.

Die Denkschwierigkeit erhöhen

Seltenere Krankheiten zu wählen wäre der bequeme Weg zu schwereren Fällen gewesen. Das Experiment erhöhte stattdessen die Schwierigkeit des Schlussfolgerns, in sechs Stufen.

Die Frage lautete nicht mehr, ob die KI schwerere Fragen beantworten kann, sondern wie sie sich verhält, wenn die Belege schwerer zu deuten sind.

Wie sich die drei Setups über die Stufen verhielten

Ein einfacher Sieg des Action Tree war es nicht.

Auf den leichten Stufen kamen alle drei zu einer sinnvollen Antwort, und der Gewinn lag in Struktur und Nachprüfbarkeit. Bei mittlerer Schwierigkeit begann das Fachwissen eine Rolle zu spielen. Offen blieb dort, ob ein explizites Vorgehen die Wahl der nächsten Aktion weiter verbessern und vorschnelle Festlegungen verringern kann. Auf der obersten Stufe bedeutete Erfolg nicht mehr, die Antwort zu finden, sondern zu erkennen, dass die Belege keine tragen.

Das deutet auf drei verschiedene Arten von Nutzen hin:

L0–L1
Structure and verification
        ↓
L2–L4
Reasoning policy and action selection
        ↓
L5
Graceful degradation

Ein Ergebnis blieb von der leichtesten bis zur schwersten Stufe stabil: Der Action Tree hinterließ das sauberste Verification Spine. Selbst wo seine Endantwort mit den anderen identisch war, legte er trotzdem Folgendes offen:

Observation
    ↓
Decision point
    ↓
Evidence
    ↓
Hypothesis
    ↓
Missing information
    ↓
Next action

Diese Sichtbarkeit könnte am Ende genauso viel zählen wie die reine Genauigkeit.

Irreführende Belege

Ein Fall war so konstruiert, dass er wie eine Viruserkrankung aussah. Die Pflanzen zeigten virusähnliche Symptome, und in der Nähe waren Blattläuse. Die schnelle, intuitive Reaktion lautet:

Virus is likely
      ↓
Run a virus test

Das ist keine absurde Einschätzung. Sie ist plausibel, und genau deshalb ist der Fall schwer.

Die erste Frage des Baums lautete, ob jemand festgestellt hatte, wie der Schaden verteilt ist. Das hatte niemand, also war der nächste Schritt kein teurer molekularer Test, sondern ein schlichter Blick darauf, wie der Schaden auf dem Feld verteilt ist. Die neuen Beobachtungen:

Almost all affected plants were inside one spray-width.

Different plant species showed similar damage.

The boundary did not expand over the following days.

Jetzt ändert sich das Bild. Ein übertragbarer Erreger wirkt viel weniger überzeugend, und eine abiotische Ursache wie chemische Schädigung rückt nach oben. Der Baum gab der KI kein zusätzliches Wissen. Er änderte, was die KI als Nächstes prüfte, und das ist womöglich die wertvollere Fähigkeit.

Wissen gegenüber Herausfinden

Daraus ergibt sich eine nützliche Unterscheidung. Klassische Wissensanreicherung fragt, was Experten wissen. Ein Action Tree fragt, wie Experten Dinge herausfinden. Das sind zwei verschiedene Güter.

Stellen Sie sich eine Fachkraft vor einem schwierigen Fall vor. Ihr Können ist nicht nur ein großer Vorrat an Fakten. Dazu gehören auch Faustregeln wie diese:

• Nicht allein nach dem Aussehen urteilen.
• Zuerst das räumliche Muster prüfen.
• Diese Beobachtung trennt zwei große Gruppen von Ursachen.
• Mit dem teuren Test noch warten.
• Dieses Ergebnis schließt mehrere Hypothesen auf einmal aus.
• Die Belege reichen für eine Entscheidung nicht aus.
• Der Fall passt zu keinem bekannten Muster, also eskalieren.

Das ist prozedurales Wissen, und vieles davon wird selten aufgeschrieben.

Wenn sich die Antwort nicht wissen lässt

Die oberste Schwierigkeitsstufe hielt eine weitere Überraschung bereit. Ein Fall war so gebaut, dass die Belege die letzten beiden Hypothesen nicht trennen konnten. Im Szenario gab es keinen weiteren brauchbaren Test, und kein noch so cleveres Schlussfolgern stellt Information her, die nicht vorhanden ist. Die richtige Ausgabe war gar keine Diagnose:

INSUFFICIENT EVIDENCE (unzureichende Belege)

Damit verschiebt sich die Frage davon, wie lange die KI weiter richtige Antworten liefern kann, hin zu dem, was sie an der Grenze dessen tut, was die Belege hergeben. Systeme können auf zwei ganz verschiedene Arten nachlassen. Die gefährliche Art:

Correct
  ↓
Correct
  ↓
Plausible guess
  ↓
Confidently wrong

Und die würdevolle Art:

Correct
  ↓
Uncertain
  ↓
Insufficient evidence
  ↓
Escalate

In echter Facharbeit kann das würdevolle Muster genauso wichtig sein wie höhere Genauigkeit.

Eine Grenze der Denkfähigkeit

Das Experiment deutet an, dass sich der Nutzen strukturierter Expertenverfahren mit der Schwierigkeit verschiebt.

Ist das Problem leicht und kennt die KI die Antwort schon, liegt der Gewinn in Konsistenz, strukturierter Deutung, Nachvollziehbarkeit und Reproduzierbarkeit.

Ist die Schwierigkeit mittel und konkurrieren mehrere plausible Wege, hilft das Verfahren, vorschnelle Festlegungen zu vermeiden, fehlende Belege zu bemerken, aufschlussreichere Aktionen zu wählen und konkurrierende Hypothesen gegeneinander zu testen.

Reichen die Belege selbst nicht aus, liegt der Nutzen darin, die Grenze zu erkennen, ungeklärte Hypothesen offen zu halten und zu eskalieren, statt eine Antwort zu erfinden.

Die Frage, ob ein Action Tree die KI klüger macht, ist also vielleicht die falsche. Besser ist die Frage, wie er die Grenze der Denkfähigkeit des Modells verschiebt.

Ist das nicht die alte Idee der Expertensysteme?

Der Einwand liegt nahe. Wer Entscheidungsbäume für eine KI schreibt, baut der nicht die regelbasierten Expertensysteme der 1980er nach?

Nicht ganz. Ein starres Expertensystem sagt etwa:

IF A AND B
THEN diagnosis = X

Der Ansatz hier teilt die Arbeit. Der Baum bestimmt, welche Fragen betrachtet werden, und das Sprachmodell übernimmt weiterhin die schwierige Deutung unsauberer Beobachtungen:

Action Tree
→ controls the investigation process

LLM
→ interprets messy observations
→ generates hypotheses
→ recognizes unusual cases

Action Tree
→ checks what remains unresolved
→ guides the next information-gathering action

Der Baum begrenzt den Prozess, ohne die Antwort ganz vorzugeben. Die Kombination funktioniert nur, weil Sprachmodelle über mehrdeutige, unstrukturierte Eingaben auf eine Weise schlussfolgern können, die ältere Regel-Engines nie konnten.

Mehr Kontext hat Grenzen

Die übliche Antwort auf ein schwaches KI-System ist mehr Kontext. Das bleibt wichtig, aber der Ertrag aus immer mehr Dokumenten könnte abnehmen.

Ein anderer Hebel ist etwas, das Organisationen kaum je als Daten erfassen: wie erfahrene Leute sich durch Unsicherheit arbeiten. Was prüfen sie zuerst? Was bringt sie dazu, eine erste Hypothese fallen zu lassen? Welche billige Beobachtung halbiert den Suchraum? Wann erklären sie die Belege für unzureichend, und wann verlassen sie das Standardverfahren und eskalieren? Nichts davon ist schlichte Tatsache. Es ist Suchstrategie.

Eine bessere Frage

Die Ausgangsfrage war, ob ein Experten-Action-Tree eine KI zu besseren Antworten bringen kann. Das Experiment hinterließ eine interessantere: Kann KI bessere Arbeit leisten, wenn man ihr beibringt, wie Experten Unsicherheit verringern?

Bessere Arbeit heißt die richtige Antwort, aber auch, sie zuverlässig zu erreichen, die zentralen Entscheidungen offenzulegen, stärkere nächste Schritte zu wählen, verlockenden frühen Schlüssen zu widerstehen und zu wissen, wann die Belege schlicht nicht reichen.

Der nächste Schritt angewandter KI besteht vielleicht nicht nur darin, Maschinen beizubringen, was Experten wissen. Vielleicht geht es darum, etwas Subtileres festzuhalten: wie Experten Dinge herausfinden.