Frag BIKI

- ENGLISH VERSION BELOW -

In dieser Seite erklären wir, warum es in BIKI ein Nutzungskontingent für alle Nutzer*innen gibt, wie groß es ungefähr ist, wie die Nutzung berechnet wird und was man tun kann, wenn das Kontingent zur Neige geht. Da in BIKI aber auch kostenfreie Sprachmodelle verfügbar sind, gibt es immer einen Weg zur Nutzung, selbst wenn das Kontingent im laufenden Monat aufgebraucht sein sollte. Sie können auch mitten in einer Konversation das Sprachmodell wechseln. 

Warum gibt es in BIKI ein individuelles Nutzungskontingent

Die Nutzung von BIKI sollte im Idealfall ohne Begrenzungen möglich sein. Allerdings verursacht die Nutzung Kosten für die Universität. Es muss daher einen Schutz geben, der exzessive Nutzungen durch Einzelne verhindert. Dies soll insbesondere garantieren, dass der Zugriff auf die kostenpflichtigen Sprachmodelle für alle anderen Nutzer*innen ungestört bleibt.

Wie funktionieren die Nutzungskontingente

In BIKI wird pro Nutzer*in ein individuelles Kontingent geführt. Von diesem Kontingent werden die Verwendungen der für die Universität kostenpflichtigen Sprachmodelle abgezogen. Die Kosten stehen dabei in direktem Zusammenhang mit dem Umfang der zu den Sprachmodellen geschickten Eingaben (größere Eingaben kosten mehr) und den Umfängen der generierten Antworten. Das Kontingent und die Nutzungsumfänge werden dabei auf Monatsbasis berechnet, der Monatsbeginn ist dabei jeweils der Bezugszeitpunkt. In den BIKI Einstellungen sehen Sie Ihren aktuellen Stand:

Falls Sie Ihr Kontingent komplett verbraucht haben, so können Sie bis zum Beginn des nächsten Monats nur auf die kostenfreien Sprachmodelle zugreifen. Falls ein Zugriff auf die kostenpflichtigen Modelle dringend notwendig ist, so wenden Sie sich bitte an uns. Beschreiben Sie dabei bitte kurz, für welchen Zweck Sie ein höheres Kontingent benötigen.

Wie werden die Kosten einer BIKI Nutzung berechnet

Sprachmodelle berechnen ihre Nutzung in Form von sogn. Tokens. Man kann sich ein Token wie ein Wort oder einen Teil eines Wortes vorstellen. Für die heute in BIKI verfügbaren, kostenpflichtigen ChatGPT Modelle von OpenAI kann man in dieser Seite sehen, in welcher Weise Worte in Tokens zerlegt werden. Die Nutzungskosten werden dementsprechend auch in Tokens berechnet und sind je nach Sprachmodell sehr unterschiedlich.

Innerhalb von BIKI werden die Kosten der verschiedenen Modelle auf eine gemeinsame Berechnungsgrundlage gestellt und das individuelle Kontingent kann frei zwischen den unterschiedlichen Modellen aufgeteilt werden.

Wie groß ist mein Kontingent 

Wenn Sie Ihr BIKI Kontingent nur für genau ein Sprachmodell einsetzen, so sind mit Stand 10/2024 diese Tokenmengen möglich:

• ChatGTP 4o: Ca. 6,5 Millionen Token
• ChatGTP 4o mini: Ca. 100 Millionen Token

Sie können aber frei zwischen den Modellen wechseln. Es ist nicht möglich ganz genau zu sagen, wie viele Tokens verfügbar sind, da dies etwas von Ihrer individuellen Nutzung abhängt. Und da es auch schwierig ist für eine Tokenmenge die entsprechende Menge an normalem Text zu berechnen haben wir diesen Rat:

Legen Sie einfach los mit BIKI und schauen Sie am Anfang hin und wieder auf den Stand Ihres Kontingents. Die meisten Nutzer*innen dürften Ihr Kontingent bei weitem nicht erschöpfen. Und falls Sie doch plötzlich eine Warnung erhalten, dass Ihr Kontingent bald erschöpft ist, so können Sie diese Tipps verwenden:

So können Sie Ihr Kontingent länger nutzen

Wenn Sie 90% Ihres Monatskontingents verbraucht haben, dann zeigt BIKI eine Warnung an. Auf dieser Weise können Sie dafür sorgen, dass Ihr Kontingent länger reicht: 

Günstigere Modelle verwenden:

Auch wenn Sie ChatGPT verwenden können Sie die Kosten durch die Verwendung des 'Mini'-Modells drücken. Dieses kostet mit Stand 10/2024 nicht einmal ein Zehntel des großen ChatGPT Modells und liefert für viele Aufgaben, wie zum Beispiel Textzusammenfassungen, ähnliche Ergebnisse. Auch die kostenfreien Modelle der GWDG sind für manche Aufgaben komplett gleichwertig.

Große Eingaben vermeiden:

Umfangreiche Eingaben in BIKI können schnell zu hohen Kosten führen. Wenn Sie BIKI mit großen Eingaben nutzen, so sollten Sie beobachten, ob sich Ihr Kontingent schnell verbraucht.

Kürzere Konversationen führen:

Wenn Sie Konversationen mit BIKI führen, so werden immer die zuvor gestellten Fragen und Antworten erneut mitgeschickt. Erst dadurch entsteht der Effekt, dass sich BIKI 'merken' kann, worüber Sie zuvor gesprochen haben. Wenn es inhaltlich nicht notwendig ist, eine vorhandene Konversation fortzuführen, so spart es Kosten eine neue Konversation zu beginnen.

Sie können sehen, ob eine Konversation sehr teuer wird, indem Sie mit der Maus einen Moment über dem Sprachmodellnamen unter einer Konversation verharren. Die angezeigten Werte zeigen Ihnen, wie viele Tokens die letzte Frage verbraucht hat. Hier können Sie auch beobachten, dass jede neue Antwort innerhalb einer Konversation eine größere Anzahl an Tokens im Frage-Wert ausweist, als die vorherige, da hier Kosten für die mitgeschickte Konversationshistorie mitgezählt werden.

ENGLISH VERSION (AUTOMATIC TRANSLATION)

On this page, we explain why there is a usage quota for all users in BIKI, how big it is, how usage is calculated and what you can do if the quota runs out. However, since BIKI also offers free models, there is always a way to use it, even if the quota is used up in the current month:

Why is there an individual usage quota in BIKI?

Ideally, the use of BIKI should be possible without limits. However, using it does incur costs for the university. There must therefore be protection to prevent excessive use by individuals. In particular, this should guarantee that access to the fee-based language models remains undisturbed for all other users.

How do the usage quotas work?

BIKI maintains an individual quota for each user. The use of the language models that the university has to pay for is deducted from this quota. The costs are directly related to the volume of entries sent to the language models (larger entries cost more) and the volume of responses generated. The quota and the scope of use are calculated on a monthly basis, with the start of the month being the reference time. You can see your current status in the BIKI settings.

If you have completely used up your quota, you can only access the free language models until the start date of the next month. If you urgently need access to the fee-based models, please contact us. Please briefly describe the purpose for which you require a higher quota.

How are the costs of using BIKI calculated?

Language models charge for their use in the form of so-called tokens. You can think of a token as a word or a part of a word. For the fee-based ChatGPT models from OpenAI that are currently available in BIKI, you can see on this page how words are broken down into tokens. The usage costs are also calculated in tokens accordingly and vary greatly depending on the language model.

Within BIKI, the costs of the different models are calculated on a common basis and the individual quota can be freely divided between the different models. How big is my quota If you only use your BIKI quota for exactly one language model, these token quantities are possible as of 10/2024:

• ChatGTP 4o: approx. 6.5 million tokens
• ChatGTP 4o mini: approx. 100 million tokens

However, you can switch freely between the models. It is not possible to say exactly how many tokens are available, as this depends somewhat on your individual usage. And since it is also difficult to calculate the corresponding amount of normal text for a token quantity, we have this advice:

Just get started with BIKI and check the status of your quota every now and then at the beginning. Most users are unlikely to exhaust your quota. And if you suddenly receive a warning that your quota will soon be exhausted, you can use these tips:

How to use your quota for longer

If you have used up 90% of your monthly quota, BIKI will display a warning. In this way, you can ensure that your quota lasts longer:

Use cheaper models:

Even if you use ChatGPT, you can push down the costs by using the 'Mini' model. As of 10/2024, this costs less than a tenth of the large ChatGPT model and delivers similar results for many tasks, such as text summaries. The GWDG's free models are also completely equivalent for some tasks.

Avoid large inputs:

Extensive inputs in BIKI can quickly lead to high costs. If you use BIKI with large input volumes, you should check whether your quota is quickly used up.

Have shorter conversations:

When you have conversations with BIKI, the previously asked questions and answers are always sent again. This creates the effect that BIKI can 'remember' what you have talked about before. If it is not necessary to continue an existing conversation in terms of content, it saves costs to start a new conversation.

You can see whether a conversation is very expensive by hovering the mouse over the language model name under a conversation for a moment. The displayed values show you how many tokens the last question consumed. Here you can also see that each new answer within a conversation shows a larger number of tokens in the question value than the previous one.