Durchschnittlich 30 Millionen Token pro Arbeitstag – wie ist dieser Verbrauch einzuordnen?
2 weeks ago
Mir ist gerade aufgefallen, dass unser Unternehmen diese Daten zu ChatGPT bereitstellt. Die meiste Zeit nutze ich GPT 6.1 Sol.
Ich bin kein Softwareentwickler – ist mein Verbrauch vielleicht etwas niedrig?
30 Millionen Token pro Tag klingen nach viel, aber wirklich entscheidend ist die Zeitrechnung. Wenn sich diese Menge auf wenige lange Gespräche konzentriert, in denen immer wieder lange Dokumente eingefügt werden, können Wartezeiten auf Antworten und manuelle Prüfung mehr Zeit kosten, als man einspart. Umgekehrt ist der Effizienzgewinn deutlicher, wenn es sich um viele kurze Fragen und Antworten handelt. Die reine Gesamtmenge lässt also kaum Rückschlüsse darauf zu, wie viel das wirklich bringt – entscheidend ist, wie sie genutzt wird.