Die Anbieter von Sprachmodellen senken ihre Preise laufend, zuletzt hat ein grosser Hersteller die Tarife zweier Modelle halbiert. Unabhängige Tests zeigen aber, dass der Listenpreis wenig über die tatsächlichen Kosten aussagt. Ein neues Modell mit tiefem Tarif benötigte für dieselben Testaufgaben rund dreimal so viele Ausgabeeinheiten wie ein Spitzenmodell und war dadurch pro erledigter Aufgabe teurer.
Solange Firmen KI über Pauschalabos nutzen, bleibt das unsichtbar. Sobald Modelle aber in Abläufe wie die Vorkontierung von Eingangsrechnungen eingebaut werden, bestimmt die Modellwahl die laufenden Kosten.
Wir empfehlen, Modelle mit einer Stichprobe echter Fälle aus dem eigenen Prozess zu vergleichen und dabei neben den Kosten auch die Trefferquote zu erfassen. Zudem sollte ein Wechsel des Modells technisch so einfach sein, dass sich jede Preissenkung nutzen lässt.