Kurz-Fakten
- Training ist einmalig und teuer, Inferenz läuft dauerhaft und wird pro Nutzung abgerechnet
- Die laufenden Kosten eines KI-Projekts sind fast vollständig Inferenzkosten
- Ein erfolgreiches Produkt wird dadurch im Betrieb teurer, nicht günstiger
- Antwortzeit und Kosten hängen an der verarbeiteten Textmenge
Bedeutung in der Praxis
Wirtschaftlich ist das der Unterschied zu klassischer Software. Dort zahlt man Lizenzen, hier zahlt man je Vorgang. Vor der Entscheidung lohnt deshalb die einfache Rechnung: Kosten je Vorgang mal erwartete Vorgänge mal zwölf Monate – und ein Kostendeckel, der meldet, bevor die Rechnung es tut.