Zum Inhalt springen
Made in Austria

Ratgeber · Wissen validieren

Wie vergleicht man verschiedene KI-Lösungen fair?

Fair vergleichen lassen sich KI-Lösungen nur, wenn alle dieselben realen Fragen mit denselben Unterlagen beantworten und die Ergebnisse nach denselben Kriterien bewertet werden. Am besten bewerten Fachleute, ohne zu wissen, welche Antwort von welcher Lösung stammt. Vorführungen der Anbieter mit eigenen Beispielen sind dafür kein Ersatz.

Warum Vorführungen nicht vergleichbar sind

Jeder Anbieter zeigt in der Präsentation die Fälle, die bei ihm gut funktionieren. Die Fragen sind unterschiedlich, die Unterlagen auch, und der Eindruck hängt stark davon ab, wie überzeugend vorgetragen wird. Aus drei solchen Vorführungen lässt sich kaum ableiten, welche Lösung mit den eigenen Anfragen am besten zurechtkommt.

Ein gemeinsames Goldset als Grundlage

Der faire Weg ist ein eigener Katalog realer Fragen mit Referenzantworten und Fundstellen, den alle Kandidaten durchlaufen. Jede Lösung bekommt Zugriff auf dieselben Unterlagen, keine Lösung kennt die Referenzantworten vorab. Fragen ohne Antwort in den Unterlagen gehören dazu, um zu sehen, wer Lücken zugibt und wer rät.

Blind bewerten

Wer weiß, von welcher Lösung eine Antwort stammt, bewertet sie unwillkürlich im Licht des eigenen Eindrucks. Deshalb hilft es, die Antworten ohne Herkunftsangabe vorzulegen und erst nach der Bewertung aufzudecken. Das ist ohne großen Aufwand möglich, etwa durch eine Tabelle mit gemischter Reihenfolge.

Mehr als die Antwortqualität

Neben der Richtigkeit zählen weitere Punkte: Zeigt die Lösung ihre Quellen? Lassen sich Freigabestufen je Fähigkeit festlegen? Bleiben die eigenen Systeme führend, oder müssen Daten umgezogen werden? Wie werden Änderungen dokumentiert? Diese Kriterien sollten ebenfalls vorab festgelegt und gewichtet werden, damit nicht nachträglich umgedeutet wird.

Grenzen des Vergleichs

Ein Vergleich zeigt einen Zustand zu einem Zeitpunkt. Lösungen entwickeln sich weiter, und eine kurze Prüfung deckt nicht alle Situationen des Alltags ab. Er ist trotzdem viel aussagekräftiger als Produktblätter. Wer KheepU mit anderen Angeboten vergleichen möchte, kann dafür gern dasselbe Goldset verwenden.

Erstgespräch

Sehen wir uns Ihren größten Zeitfresser an.

Ein Gespräch, keine Präsentation. Wir schauen uns an, worüber in Ihrem Betrieb kommuniziert wird, wo Vorgänge auseinanderfallen und was sich mit welchem Aufwand automatisieren lässt. Unverbindlich.

Erstgespräch vereinbaren

Häufig gestellte Fragen

Kontakt
Dürfen Anbieter das Goldset vorab sehen?

Die Art der Fragen kann man beschreiben, die konkreten Fragen und Referenzantworten aber besser nicht. Sonst wird eher auf den Katalog hin optimiert als auf den Alltag.

Wie viele Lösungen sollte man vergleichen?

So viele, wie das Team sorgfältig bewerten kann. Ein gründlicher Vergleich weniger Kandidaten ist aussagekräftiger als ein flüchtiger Blick auf viele.

Sollte man auch den Prüfaufwand vergleichen?

Ja. Eine Lösung mit etwas besseren Antworten, deren Entwürfe aber schwer nachzuprüfen sind, kann im Alltag mehr Arbeit verursachen als eine, die ihre Fundstellen klar zeigt. Notieren Sie beim Bewerten, wie schnell sich jede Antwort kontrollieren ließ.