Update README.md
Browse files
README.md
CHANGED
@@ -35,6 +35,10 @@ endpoint = 'http://localhost:8000/v1'
|
|
35 |
model = 'MTSAIR/Cotype-Nano'
|
36 |
openai.api_base = endpoint
|
37 |
|
|
|
|
|
|
|
|
|
38 |
response = openai.ChatCompletion.create(
|
39 |
model=model,
|
40 |
temperature=0.0, # 0.2 is also allowed
|
@@ -42,7 +46,6 @@ response = openai.ChatCompletion.create(
|
|
42 |
max_tokens=2048,
|
43 |
top_p=0.1, # 0.9 is also allowed
|
44 |
messages=[
|
45 |
-
{"role": "system", "content": "Ты — ИИ-помощник. Тебе дано задание: необходимо сгенерировать подробный и развернутый ответ."},
|
46 |
{"role": "user", "content": "Как мне обучить модель meta-llama/Llama-3.2-1B с помощью библиотеки transformers?"}
|
47 |
]
|
48 |
)
|
|
|
35 |
model = 'MTSAIR/Cotype-Nano'
|
36 |
openai.api_base = endpoint
|
37 |
|
38 |
+
# Possible system prompt:
|
39 |
+
# {"role": "system", "content": "Ты — ИИ-помощник. Тебе дано задание: необходимо сгенерировать подробный и развернутый ответ."},
|
40 |
+
|
41 |
+
|
42 |
response = openai.ChatCompletion.create(
|
43 |
model=model,
|
44 |
temperature=0.0, # 0.2 is also allowed
|
|
|
46 |
max_tokens=2048,
|
47 |
top_p=0.1, # 0.9 is also allowed
|
48 |
messages=[
|
|
|
49 |
{"role": "user", "content": "Как мне обучить модель meta-llama/Llama-3.2-1B с помощью библиотеки transformers?"}
|
50 |
]
|
51 |
)
|