Amagno.AI - Admin-Guide

  2. Start
  3. /
  4. Docs
  5. /
  6. Amagno.AI – Admin-G...
  7. /
  8. Technische Informationen
  9. /
  10. Kosten und Tokenverbrauch

Kosten und Tokenverbrauch

Inhaltsverzeichnis
  1. Token-Pakete und Abrechnung
  2. Tokenverbrauch

Die Lizenz für die Nutzung der Amagno.AI-Dienste basiert auf Token. Entsprechend erhalten Sie durch den Erwerb eines Token-Kontingents auch die Lizenz. Mit dem Token-Kontingent werden die Amagno.AI-Dienste für Ihre Organisation zur Verfügung gestellt und können genutzt werden.

Token-Pakete und Abrechnung

Standardmäßig werden Token monatlich als Paket erneuert und abgerechnet. Zusätzlich ist der Erwerb von einmaligen Token-Kontingenten möglich, beispielsweise zum Verlängern der Testphase von Amagno.AI oder zur temporären Aufstockung innerhalb eines Monats, wenn bereits alle Token verbraucht sind. Folgende Standard-Token-Pakete können derzeit als Monatspakete oder Einmalpakete gebucht werden:

  • 1 Mio. Token-Paket
  • 10 Mio. Token-Paket

Die Standard-Token-Pakete können grundsätzlich auch kombiniert werden. Sollten Sie regelmäßig ein davon abweichendes, spezifisches Token-Kontingent benötigen, wenden Sie sich bitte an Ihren Amagno-Partner oder direkt an unseren Support.

Nicht verbrauchte Token werden nicht auf den Folgemonat übertragen. Dies gilt ebenfalls für Tokens aus einmalig nachgebuchten Token-Kontingenten.

Token-Kontingent aufgebraucht

Wenn das Token-Kontingent eines Monats aufgebraucht ist, werden die Amagno.AI-Dienste und alle Vorgänge mit Amagno.AI gestoppt. Falls für einen einzelnen Vorgang mehr Token benötigt werden als verfügbar sind, wird dieser Vorgang nicht gestartet. Die Verarbeitung neuer Dokumente durch Autopilot und Automate wird in diesem Fall übersprungen. Die AI-Indexierung aller neuen Dokumente wird hingegen nachträglich ausgeführt, sobald wieder Token zur Verfügung stehen.

Tokenverbrauch

Alle Technologien der Amagno.AI-Dienste, die bei der Verarbeitung von Eingaben, der Generierung von Ergebnissen und den weiteren dazugehörigen Prozessen eingesetzt werden, verbrauchen Token. Da Texte unterschiedlich in Token zerlegt werden, ist die Anzahl der verbrauchten Token nicht direkt proportional zur Wortanzahl.

Eine beispielhafte Übersicht dazu, wie viele Token bei der Verarbeitung eines Eingabe durch die GPT-Modelle verbraucht werden, bietet der OpenAI Tokenizer. Für andere Sprachmodelle kann dies abweichen.

Aktivitäten

Zu den Aktivitäten, durch die Token verbraucht werden, zählen unter anderem:

  • Die Indexierung von neuen Dokumenten und deren Inhalten/Daten in einer Ablage zur Nutzung für alle Amagno.AI-Dienste
  • Die Erkennung und Verarbeitung von Merkmalen eines Dokuments mit Autopilot
  • Die Anwendung von Prompts auf ein Dokument und die Verarbeitung der Inhalte mit Automate
  • Die Verarbeitung einer Frage und Generierung einer Antwort im Chat
  • Die Verarbeitung der notwendigen Kontextinhalte und Textelemente aus Dateien zur Generierung einer Antwort im Chat

Neben Fragen, Antworten und der Verarbeitung von Dokumenten, verbrauchen die Amagno.AI-Dienste auch Token im Hintergrund, um Abfragen und Abläufe zu steuern. Im Amagno Client für Windows ist das Token-Kontingent sowie das verbrauchte Volumen einsehbar. Ebenso werden bei Rückfragen die vorherigen Fragen, Antworten und die im Hintergrund mit verarbeitenden Token der betreffenden Textabschnitte der Dateien für eine Konversation im Chat nochmals addiert. Dies obliegt dem Hersteller des Sprachmodells, wie z. B. Microsoft, auf das wir keinen Einfluss haben.

Tokenverbrauch bei der Indexierung einer Ablage

Wenn die Amagno.AI-Dienste für eine Ablage aktiviert werden, erfolgt eine automatische Indexierung aller Dokumente. Diese ist notwendig, damit die Amagno.AI-Dienste anschließend auf die Daten zugreifen können. Bei einer Ablage, die bereits viele Dokumente beinhaltet, werden für die Indexierung ggf. sehr viele Token benötigt.

Bevor die Indexierung startet, erhalten Sie eine Information mit der kalkulierten Token-Menge. Prüfen Sie vorher, ob Ihr verfügbares Token-Kontingent für den Indexierungsprozess ausreicht!

Optional können Sie ein einmaliges Token-Paket erwerben, um den Indexierungsprozess einer Ablage durchzuführen.

Tokenverbrauch nachvollziehen

In den Organisations-Einstellungen können Sie in der Registerkarte Tokenverbrauch sehen, wie viele Token innerhalb eines Monats (=Abrechnungsperiode) für welche Amagno.AI-Dienste verbraucht wurden. Die Auflistung unterteilt sich in:

  • AI Indexierung
  • Chat
  • Autopilot
  • Automate