Frag BIKI

Lange wurde spekuliert, wann OpenAI die nächste Version von ChatGPT veröffentlichen und welche Verbesserungen sie mit sich bringen würde. Und nach der Veröffentlichung am 7. August haben wir die neuen Sprachmodelle schnell in BIKI verfügbar gemacht. In BIKIs Auswahl der Sprachmodelle sind nun 4 neue Einträge vorhanden:

• ChatGPT 5 Chat
• ChatGPT 5
• ChatGPT 5 mini
• ChatGPT 5 nano

Bei den letzten 3 Modellen handelt sich dabei um Modelle mit Reasoning Kapazität. Was man darunter versteht hatten wir bei der Ankündigung von DeepSeek R1 beschrieben, dem ersten Reasoning Modell in BIKI. OpenAI spricht hier in seinen Ankündigungen teilweise von thinking models bzw. tiefergehend schlussfolgernden Modellen, was das gleiche meint. Diese Modelle 'denken' also länger über ihre Antworten nach, was die Wartezeit auf die Antwort verlängert, aber bei manchen Fragestellungen auch deutlich bessere Ergebnisse liefert.

Beim DeepSeek Modell kann man diesen Nachdenkprozess direkt beobachten, bei den OpenAI Modellen ist das leider nicht sichtbar.

Was bringen die neuen Modelle

In der Seite mit den Infos zu Sprachmodellen in BIKI haben wir weitere Erläuterungen gesammelt, aber hier schon mal ein paar Stichpunkte:

• Die drei Modelle mit Reasoning Kapazität haben mit 400.000 Tokens die bisher größten Kontextfenster der in BIKI verfügbaren Modelle. Das heißt, hier lassen sich deutlich umfangreichere Eingaben bzw. längere Chatverläufe verarbeiten, bevor die maximale Konversationslänge erreicht wird
• Die Trainingsdaten der Modelle sind auf einem deutlich neueren Stand, je nach Modell auf Mai oder September 2024. Unsere Standardfrage nach der Rektorin der Uni können diese Modelle nun sicher richtig beantworten
• Die Kosten, die OpenAI uns für die Nutzung berechnet, sind im Vergleich zu den bisher verwendeten Modellen eher gesunken
• Die Reaktionsgeschwindigkeit der 5er Modelle wirkt etwas träger, auch beim sogn. Chat Modell. Die weiterhin in BIKI angebotenen 4er Modelle geben meist schneller eine Antwort. Da wir hier direkt auf die Schnittstellen von OpenAI zugreifen können wir dieses Verhalten nicht beeinflussen

Kontroverse Diskussionen um ChatGPT 5

Über die neuen ChatGPT Modelle gab es nach der erster Begeistung einige Diskussionen, die zum Teil auch die Nutzung in BIKI betreffen:

'Unfreundliche', kurze Antworten

Die 5er Modelle haben eine Tendenz zu eher kurzen Antworten, teilweise werden nur Stichpunkte geliefert. Warum dies so ist, ist Thema von Spekulationen:

Ein Grund könnte sein, dass so der Umfang der Antworten und damit auch die Kosten reduziert werden sollen. Das kann für OpenAI als Unternehmen, welches weiterhin Verluste macht, ein durchaus relevanter Aspekt bei den Feinstellungen ihrer Sprachmodelle sein.

Eine andere Theorie dreht sich um das Problem der Schmeichelei oder noch drastischer Speichelleckerei, die das Verhalten früherer Sprachmodelle von OpenAI teilweise kennzeichnete. OpenAI hat dieses Thema in dem Blogpost 'Sycophancy in GPT-4o: what happened and what we’re doing about it' selbst adressiert, damals noch in Bezug auf das 4o Modell. Hier hat OpenAI möglicherweise die Standardpersönlichkeit der 5er Modelle noch stärker korrigiert.

Grundsätzlich lässt sich aber über das persönliche Systemprompt in den BIKI Einstellungen das Antwortverhalten beeinflussen. Wenn Ihnen ausführlichere Antworten lieber sind, so können Sie das hier von den Sprachmodellen generell verlangen.

Automatische Sprachmodellauswahl und variierende Antwortqualitäten

Zum Start von ChatGPT 5 hat OpenAI in der eigenen Webseite die Auswahlmöglichkeit des Sprachmodells entfernt. Die Idee war hier, dass man sich als Nutzer*in keine Gedanken dazu machen muss, welches Modell für die gestellte Frage das Beste ist. Im Hintergrund verwendet OpenAI dann eine als Router bezeichneten Komponente, die die Auswahl trifft.

Das scheint allerdings nicht in jedem Fall gut zu funktionieren und es gibt Berichte darüber, dass dadurch die Qualität der Antworten in einer unberechenbaren Weise schwankt. OpenAI ist hier inzwischen etwas zurückgerudert und bietet wieder eine Auswahloption.

Im BIKI haben wir allerdings keinen vergleichbaren Automatimus, hier legen Sie weiterhin bewusst fest, welches Modell Sie verwenden wollen, und erhalten damit Antworten mit einer berechenbaren Qualität.

Eine neue Einstellung: Denkaufwand für Reasoning Modelle

Da in BIKI nun 5 Modelle mit Reasoning Kapazität angeboten werden haben wir eine weitere Einstellung eingeführt: Unter 'Denkaufwand für Reasoning Modelle' können Sie aus 3 Stufen auswählen. Wenn Sie für komplexe Aufgaben einen höheren Denkaufwand einsetzen wollen, so können Sie dies hier auf Kosten der Geschwindigkeit einstellen. Wenn Sie eher die Geschwindigkeit optimieren wollen, so können Sie den Denkaufwand hier kleiner machen.