Update app.py

app.py

@@ -1,10 +1,30 @@
 import gradio as gr
+import os
+import logging
 from huggingface_hub import InferenceClient
 
-"""
-For more information on `huggingface_hub` Inference API support, please check the docs: https://huggingface.co/docs/huggingface_hub/v0.22.2/en/guides/inference
-"""
-client = InferenceClient("BSC-LT/ALIA-40b")
+# Configurar logging para depuración
+logging.basicConfig(
+    level=logging.INFO, 
+    format="%(asctime)s - %(levelname)s - %(message)s"
+)
+
+# Obtener el token de Hugging Face de variables de entorno (secret)
+hf_token = os.getenv("HF_TOKEN")
+
+if not hf_token:
+    logging.error("El token de Hugging Face no está configurado. Agrega 'HF_TOKEN' como variable de entorno.")
+    raise ValueError("El token de Hugging Face no está configurado. Agrega 'HF_TOKEN' como variable de entorno.")
+
+logging.info("Token de Hugging Face encontrado correctamente.")
+
+# Inicializar el cliente de inferencia con autenticación segura
+try:
+    client = InferenceClient("BSC-LT/ALIA-40b", token=hf_token)
+    logging.info("Cliente de Hugging Face inicializado correctamente.")
+except Exception as e:
+    logging.error(f"Error al inicializar el cliente de Hugging Face: {e}")
+    raise
 
 def respond(
     message,
@@ -14,26 +34,33 @@ def respond(
     temperature,
     top_p,
 ):
+    logging.info("Generando respuesta para el mensaje del usuario.")
+    
     prompt = f"{system_message}\n"
 
     for user_input, bot_response in history:
         prompt += f"User: {user_input}\nAssistant: {bot_response}\n"
-    
+
     prompt += f"User: {message}\nAssistant:"
 
     response = ""
 
-    for message in client.text_generation(
-        prompt=prompt,
-        max_new_tokens=max_tokens,
-        temperature=temperature,
-        top_p=top_p,
-        stream=True
-    ):
-        response += message
-        yield response
+    try:
+        for message in client.text_generation(
+            prompt=prompt,
+            max_new_tokens=max_tokens,
+            temperature=temperature,
+            top_p=top_p,
+            stream=True
+        ):
+            response += message
+            yield response
 
+        logging.info("Respuesta generada correctamente.")
 
+    except Exception as e:
+        logging.error(f"Error durante la generación de texto: {e}")
+        yield "Hubo un error al generar la respuesta. Intenta nuevamente."
 
 """
 For information on how to customize the ChatInterface, peruse the gradio docs: https://www.gradio.app/docs/chatinterface
@@ -53,4 +80,5 @@ demo = gr.Interface(
 )
 
 if __name__ == "__main__":
+    logging.info("Lanzando la aplicación con Gradio...")
     demo.launch()