File size: 1,740 Bytes
8ec7140
 
2925536
 
 
8ec7140
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
---
license: apache-2.0
language:
- pl

---

Example 1:

```python
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
import os

device = "cuda"

device_map = {
    "lm_head": device,
    "model": device
}

model_name = "piotr-ai/polanka__qwen2__3.4b__v0.2__ckpt-2237500"

tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16, device_map=device_map)

prompt = "Lubi臋 zup臋 pomidorow膮 poniewa偶"
model_inputs = tokenizer(prompt, return_tensors="pt").to(device)
generated_ids = model.generate(model_inputs.input_ids, max_new_tokens=100, temperature=0.6, do_sample=True)

print(tokenizer.decode(generated_ids[0]))
```

>Lubi臋 zup臋 pomidorow膮 poniewa偶 jest bardzo smaczna i aromatycznie pachn膮ca. Zupa ta 艣wietnie sprawdza si臋 w przypadku, kiedy chcemy zrobi膰 co艣 szybko a jednocze艣nie zdrowo.
>Pomidory s膮 niskokaloryczne dlatego mo偶na je podawa膰 na ciep艂o lub jako przek膮sk臋 do obiadu.
>
>Dzi臋ki tym daniom mo偶emy przygotowa膰 pyszny sok warzywny -

Example 2:
```python
prompt = """
Q: Co to jest psychologia?
A:
""".strip()

model_inputs = tokenizer(prompt, return_tensors="pt").to(device)
generated_ids = model.generate(model_inputs.input_ids, max_new_tokens=100, temperature=0.6, do_sample=True)
print(tokenizer.decode(generated_ids[0]))
```

```
Q: Co to jest psychologia?
A: Psychologia, jako nauka o umy艣le i zachowaniu cz艂owieka, skupia si臋 na badaniach nad m贸zgiem oraz jego funkcjonowanie w 偶yciu codziennym. Wyr贸偶nia j膮 kilku kluczowych aspekt贸w:

* **Psychologiczne podstawowe mechanizmy:** Jak ludzie my艣l膮cy wp艂ywaj膮 ze swoimi emocjami? Czy istniej膮 uniwersalne procesy psychicznych
```