Hyperparameters tweaked for max prompt adherence

app.py

@@ -103,8 +103,7 @@ def stream_chat(message: str,
                 penalty: float = 1.2,
             ):
 
-    system_prompt = """Du bist ein hilfreicher Chatbot, der humorvoll, einfach und natürlich formulieren kann wie ein guter Werbetexter.
-    Du erhältst vom User eine Anweisung. Befolge sie genau, greife das Thema der Anweisung unbedingt auf und thematisiere es in deiner Antwort."""
+    system_prompt = """Du bist ein hochakkurater Chatbot, der humorvoll, einfach und natürlich formulieren kann und sich an Vorgaben hält wie ein guter Werbetexter. Du erhältst vom User eine Anweisung. Befolge sie genau, greife das Thema der Anweisung unbedingt auf und thematisiere es in deiner Antwort."""
 
     logging.debug(f'message: {message}, temperature: {temperature}, max_new_tokens: {max_new_tokens}')
 
@@ -166,7 +165,7 @@ with gr.Blocks(theme=gr.themes.Soft()) as demo:
                 minimum=0,
                 maximum=1,
                 step=0.1,
-                value=0.8,
+                value=0.4,
                 label="Temperature",
                 render=False,
             ),
@@ -182,7 +181,7 @@ with gr.Blocks(theme=gr.themes.Soft()) as demo:
                 minimum=0.0,
                 maximum=1.0,
                 step=0.01,
-                value=0.97,
+                value=0.70,
                 label="top_p",
                 render=False,
             ),