Frag BIKI

In BIKI können Konversationen einen deutlich größeren Umfang haben, als die Kontextfenster der verschiedenen Sprachmodelle aufnehmen können. Oder anders gesagt: Wenn Sie eine umfangreiche Konversation in BIKI führen, so wird irgendwann einmal der Punkt erreicht sein, von dem an das Sprachmodell nicht mehr die gesamte Konversation bei der nächsten Anfrage verarbeiten kann.

Das zeigt sich dann insbesondere durch einen 'Gedächtnisverlust', das Sprachmodell kann dann in seinen Antworten nicht mehr auf alle Inhalte der bisher gelaufenen Konversation zugreifen. Da es auf der anderen Seite in technischer Hinsicht eine Herausforderung ist, die Daten von derart großen Konversationen bereitzustellen und im Speicher unserer Server zu halten, werden ab einer bestimmten Grenze die ältesten Teile solcher Konversationen verworfen.

Wird diese Grenze erstmals erreicht, wird im Chatverlauf ein entsprechender Hinweis gezeigt. Wenn Sie später in so eine Konversation zurückkehren, dann wird neben der Bezeichnung der Konversation ein rotes Symbol sichtbar:

Wenn Sie auch die ältesten Teile einer Konversation aufbewahren wollen, so können Sie in die Detailseite gehen und die Inhalte speichern. Wenn Ihnen die älteren Teile der Konversation wichtiger sind also aktuellen, so können Sie zu einem entsprechenden Zeitpunkt der Konversation zurückkehren, und sie dort (mit sich selbst) teilen. Auf diese Weise setzen Sie die Konversation an dieser früheren Stelle fort und haben wieder Kapazität für weitere Fragen, die auf das alte Wissen zugreifen können.

Wir denken, dass diese Beschränkung nur sehr wenige BIKI Nutzer*innen betreffen wird. Bei der Einführung vor einigen Tagen gab es nur eine handvoll entsprechend großer Konversationen. Allerdings waren darunter einzelne, die einen enormen Umfang hatten, und damit das Potential die BIKI Server insgesamt zu verlangsamen. Davor ist BIKI nun geschützt.