Token Budget
Wie viel darf KI kosten, und woran erkennt man, dass sich der Verbrauch lohnt? Mark und Jens sind wieder vollständig am Tisch, Jens ist nach einer Krankheit zurück. Sie sprechen darüber, wie schnell Abo-Kontingente aufgebraucht sind, warum der Umstieg auf die API-Abrechnung teuer werden kann und weshalb der Verbrauch allein noch nichts über die Qualität eines Ergebnisses sagt.
Ein Thema ist der Begriff Token Maximizing, mit dem Entwickler am Verbrauch gemessen wurden, und das Wechseln zwischen mehreren Abos, sobald eines leer ist. Berichten zufolge haben manche Konzerne die Tagesbudgets für ihre Entwickler gesenkt. Ist ein Token teurer geworden, oder leisten...