Frag BIKI

Alle in BIKI angebotenen Sprachmodelle haben ein sogn. Kontextfenster, siehe dazu diese Beschreibung. Das Kontextfenster kann man sich als die Größe des Gedächtnisses vorstellen, welches für die Verarbeitung Ihrer Eingaben und der von BIKI generierten Antworten innerhalb eines Chats zur Verfügung steht. Diese Größe ist eine fundamentale Beschränkung von Sprachmodellen und keine Einschränkung von BIKI.

Wenn Sie eine umfangreiche Konversation in BIKI führen, so wird irgendwann einmal der Punkt erreicht sein, von dem an das Sprachmodell nicht mehr die gesamte Konversation bei der nächsten Anfrage verarbeiten kann. Das zeigt sich dann insbesondere durch einen 'Gedächtnisverlust', das Sprachmodell kann dann in seinen Antworten nicht mehr auf alle Inhalte der bisher gelaufenen Konversation zugreifen. Ob diese Grenze erreicht ist konnte man bisher nur indirekt erkennen, aber nun gibt es einen expliziten Hinweis:

Hier wird auch gesagt, in welchem Umfang die Inhalte des Chats noch verarbeitet werden konnten. Sie können in so einem Fall auf ein Sprachmodell mit einem größeren Kontextfenster wechseln. Sie finden dazu alle Informationen in unserer Beschreibung der verfügbaren Sprachmodelle. Bedenken Sie dabei, dass diese großen Konversationen Ihr Nutzungsbudget stark belasten können. Dieses sollten Sie daher über die Seite mit den Einstellungen im Blick behalten.

Diese Anzeige ergänzt die bei noch umfangreicheren Konversationen gezeigten Hinweise für den Fall, dass BIKI die ältesten Teile von Konversationen komplett verwirft.