import gradio as gr from transformers import pipeline # بارگیری مدل از Hugging Face model_name = "deepseek-ai/DeepSeek-V2.5-1210" # نام مدل را اینجا وارد کنید pipe = pipeline("text-generation", model=model_name, trust_remote_code=True) def respond( message, history: list[tuple[str, str]], system_message, max_tokens, temperature, top_p, ): # ساخت پیام‌ها برای مدل messages = [ {"role": "system", "content": system_message}, {"role": "user", "content": message}, ] # تولید متن با مدل try: response = pipe( messages, max_length=max_tokens, temperature=temperature, top_p=top_p, num_return_sequences=1 ) yield response[0]['generated_text'] except Exception as e: yield f"خطا در تولید متن: {str(e)}" # ایجاد رابط کاربری با Gradio demo = gr.ChatInterface( respond, additional_inputs=[ gr.Textbox(value="شما یک ربات دوست‌داشتنی هستید.", label="پیام سیستم"), gr.Slider(minimum=1, maximum=1024, value=256, step=1, label="حداکثر توکن‌های جدید"), gr.Slider(minimum=0.1, maximum=2.0, value=0.7, step=0.1, label="دما (Temperature)"), gr.Slider( minimum=0.1, maximum=1.0, value=0.9, step=0.05, label="Top-p (نمونه‌گیری هسته‌ای)", ), ], ) # اجرای برنامه if __name__ == "__main__": demo.launch()