|
--- |
|
license: apache-2.0 |
|
widget: |
|
- text: <usr>알버트 아인슈타인에 대해서 알아? |
|
<sys> |
|
- text: <usr>다음을 동물, 식물, 광물로 분류하십시오. |
|
참나무, 구리 광석, 코끼리 |
|
<sys> |
|
datasets: |
|
- Bingsu/ko_alpaca_data |
|
language: |
|
- ko |
|
--- |
|
|
|
- [Ajoublue-GPT2-medium](https://huggingface.co/heegyu/ajoublue-gpt2-medium) 모델을 [koalpaca](https://huggingface.co/datasets/Bingsu/ko_alpaca_data)데이터셋에 파인튜닝한 모델 |
|
- [Huggingface Space](https://huggingface.co/spaces/heegyu/koalpaca-355m)에서 사용해볼 수 있습니다. |
|
- 5 epoch 학습, learning rate = 5e-5 |
|
|
|
``` |
|
from transformers import pipeline |
|
|
|
print('start model loading') |
|
model_name = '../checkpoint/koalpaca/ajoublue-gpt2-medium/epoch-4-last/' |
|
generator = pipeline( |
|
'text-generation', |
|
model=model_name, |
|
tokenizer=model_name |
|
) |
|
|
|
def query(instruction, input=None): |
|
if input: |
|
prompt = f"<usr>{instruction}\n{input}\n<sys>" |
|
else: |
|
prompt = f"<usr>{instruction}\n<sys>" |
|
|
|
print(generator( |
|
prompt, |
|
do_sample=True, |
|
top_p=0.9, |
|
early_stopping=True, |
|
max_length=256, |
|
)[0]['generated_text']) |
|
|
|
|
|
query("슈카월드에 대해서 알아?") |
|
query("세상에서 가장 유명한 사람은?") |
|
query("알버트 아인슈타인에 대해서 설명해줘") |
|
query("다음 영화에 대해서 설명해줘", "기생충") |
|
``` |
|
결과 |
|
``` |
|
<usr>슈카월드에 대해서 알아? |
|
<sys>슈카월드는 미국 캘리포니아 주의 한 도시에서 열린 어린이 놀이박람회입니다. 이 박람회는 세계에서 가장 큰 어린이 놀이박람회로 유명합니다. |
|
<usr>세상에서 가장 유명한 사람은? |
|
<sys>가장 유명한 사람은 니콜라 테슬라입니다. |
|
<usr>알버트 아인슈타인에 대해서 설명해줘 |
|
<sys>알버트 아인슈타인은 1856년, 물리학 분야에서 최초로 노벨상을 수상한 물리학자입니다. 그는 상대성 이론을 비롯한 다수의 저서를 발표하며 현대 물리학의 기초를 확립하였습니다. |
|
<usr>다음 영화에 대해서 설명해줘 |
|
기생충 |
|
<sys>"기생충"은 가족과 학교에서 도망친 사람들 사이에서 벌어지는 일을 그린 영화로, 현실적이면서도 감각적인 연출과 다양한 캐릭터들의 매력을 살리는 방식으로 관객들을 사로잡습니다. |
|
<usr>섭씨 온도를 화씨로 변경해줘 |
|
섭씨 온도: 15도 |
|
<sys>"섭씨 온도를 화씨로 변경해주세요." -> "화씨 온도가 33도입니다." |
|
``` |
