forestav/job_matching_sentence_transformer

SentenceTransformer based on sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2

This is a sentence-transformers model finetuned from sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. It maps sentences & paragraphs to a 384-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2
• Maximum Sequence Length: 128 tokens
• Output Dimensionality: 384 dimensions
• Similarity Function: Cosine Similarity

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 128, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("forestav/job_matching_sentence_transformer")
# Run inference
sentences = [
    "Filip Orestav  \nTransformatorvägen 6, Sollentuna , Sweden  \n+46 76  873 30 77 | [email protected]  | LinkedIn  \n \nAmbitious fourth -year Industrial Engineering and Management student at KTH, pursuing a Master's in Machine \nLearning. Entrepreneurial spirit with a track record of founding a successful consulting and investment company, \noptimizing operations at a fund company,  leading people  at a supermarket store and driving growth for Sweden's \nlargest youth platform.  \n \nEDUCATION  \nKTH Royal Institute of Technology  Stockholm, Sweden  \nM.Sc. Industrial Engineering and Management  GPA: 4. 57/5 \nMaster in Machine Learning   Expected graduation 2026  \n \nRudbecksgymnasiet  Stockholm , Sweden  \nNatural Sciences  21.09/22.5  \n Graduated 2021  \nKEY SKILLS  \n• TECHNICAL: Python, Java, JavaScript, SQL, Machine Learning, Deep Learning  \n• BUSINESS: Financial analysis, Business analysis, Consulting, Project management , Strategic planning  \n• SOFT SKILLS:  Critical thinking, Problem solving, Time management, Entrepreneurial spir it\nPROFESSIONAL EXPERIENCE  \nKTH Royal Institute of Technology  Stockholm , Sweden  \nLab Assistant  October 2024 – present  \n● Reviewed and assessed students' code and understanding of course labs in a Natural Language Processing \n(NLP) course  \n● Evaluated implementations of key NLP techniques and algorithms, including Levenshtein Distance, Viterbi \nAlgorithm, n -gram Language Models, Gradient Descent, and Random Indexing, ensuring correctness and \nadherence to best practices  \n● Provided feedback and guidance to support students' learning and understanding of advanced NLP concepts  \n● Grading theoretic al exam questions  \n \nProtean Funds Scandinavia  Stockholm , Sweden  \nOperations Officer  (CFO replacement during summer)  May 2024 – August 2024  \n● Overseen fund operations and control functions , achieving a 100% trade execution rate  \n● Automated visualization tasks in Excel, Python and Power BI  \n● Assisted fund managers, CFO and CEO with research for fund expansion  \n● Ensured compliance with the Digital Operational Resilience Act and other relevant regulations  \n \nKreditz  Stockholm , Sweden  \nResearch Intern  Jan 2024 – June 2024  \n● Developed state-of-the-art deep learning models  for bank transaction categorization, utilizing MLP, LSTM, \nand CNN architectures  \n● Enhanced model performance by 100x in speed while maintaining industry -leading accuracy  \n \nKnowit Ascend  Stockholm , Sweden  \nAdept  Jan 2024 – May 2024  \n● Introduction and practical experience of, among others, the management consultant job, case -solving, and the \nmanagement consulting toolkit  \n● Bridged the gap between theory and practice, utilizing frameworks and ideas learnt from studies  \n \n \nPromotely AB  Sollentuna, Sweden  \nFounder  & CEO  2021  – present  \n● Growing  a multifaceted business focusing on SEO, affiliate marketing, investments and consulting  \n● Developed a comprehensive understanding of business operations, competition strategies and value creation  \n \nHemköp  Upplands Väsby, Sweden  \nSales Associate  2019  – present  \n● Ensured smooth daily store operations, from inventory management to customer service  \n● Contributed to making the store the most successful in the city, enhancing customer satisfaction and \nprofitability  \nYepstr  Sollentuna, Sweden  \nBusiness Developer  2017  – 2019  \n● Played a key role in scaling Sweden's largest youth employment platform through targeted user acquisition \nand strategic community initiatives  \n● Provided tutoring services in physics, mathematics, and English with a 100% satisfaction rate  \n \nLANGUAGES, ACTIVITIES & INTERESTS  \nLanguages:  Swedish (native), English (proficient), Spanish (basic)  \nActivities:  Former Equity Analyst at KTH Finance Club; Former m ember of Startup/VC Club  \nInterests:  All kinds of sports, cooking, technological innovation   \nFuture:  Seeking opportunities at the intersection of technology and management, with a focus on leveraging \nmachine learning for societal benefit and exploring innovative business model s\n ",
    'Vi söker nu dig som har ett genuint intresse för teknik och maskiner! Är du redo för nästa steg i karriären? I en entreprenöriell miljö, med stort fokus på utveckling och glädje får du möjligheten att utvecklas tillsammans med oss på Kendrill.\nUrvalet sker löpande: Vi går igenom ansökningarna i den ordningen vi får in dem och kan komma att tillsätta tjänsten löpande. Vi rekommenderar därför att du skickar in din ansökan så snart som möjligt för att öka dina chanser! 💫\nOm oss\nVi på Kendrill erbjuder professionell utrustning för demolering, håltagning och berg. Med en gedigen kompetens som vår grund hjälper vi våra kunder med allt från uthyrning till reparation, service och rådgivning. Vårt fokus är att erbjuda lösningar som passar just våra kunder. Vi finns idag på tre depåer utspridda i Stockholm, Göteborg och Oslo.\nHos Kendrill trivs du i en entreprenöriell miljö med ett högt tempo och kollegor som delar din passion. Vi är stolta över att vara ett ungt och snabbväxande företag som har blivit Sveriges ledande uthyrare av rivningsrobotar och hydraulspräckare på rekordtid.\nVåra kärnvärden engagerad, beslutsam, lösningsorienterad och lagspelare är en mycket viktig del av vår verksamhet. Som anställd delar du dessa med oss och arbetar dagligen för att säkerställa att vi lever upp detta.\nVad kan vi erbjuda dig?\nSom medarbetare hos oss på Kendrill får du möjligheten att arbeta i en entreprenöriell anda. Här går laget för jaget och tillsammans arbetar vi för att leverera förstklassig service. Vi erbjuder dig en inspirerande miljö, i ett företag präglat av glädje, gemenskap och ett stort mått av utmaning för dig som är redo att ta nästa steg.\nVi arbetar i fina lokaler och erbjuder en god arbetsmiljö!🔧\nFör oss på Kendrill är det viktigt att ha roligt på jobbet! Tillsammans med vår depå i Göteborg träffas vi årligen för jul- och sommarfester och teamaktiviteter. Vi erbjuder marknadsmässiga löner, pension, försäkringar och friskvårdsbidrag. \nOm rollen \nI rollen som Mekaniker a',
    'Vi söker\nDig som har en socionomexamen och som har flerårig chefserfarenhet inom målgrupperna äldre, LSS samt Socialpsykiatri\xa0till en kommun i Stockholms län. Uppdraget startar 1 februari och pågår under våren 2025 på heltid.\xa0\nFör att vara rätt person för tjänsten ska du;\n– Ha en socionomexamen\n– Ha minst tre års erfarenhet av\xa0ansvar för personal, verksamhet, ekonomi.\xa0\xa0\n– Ha minst tre års erfarenhet av arbete inom myndighetsutövning.\n– Du ska ha minst tre års erfarenhet av kommunala uppdrag, vara insatt och förstå kommunala uppdrag.\n– Har du erfarenhet av arbete inom alla målgrupper är det meriterande för tjänsten. Även om du har kompetens inom grupputveckling.\xa0\n– Som ledare är du strukturerad och stabil, analytisk och samarbetsorienterad.\xa0\n– Du behöver kunna vara en förebild och tillämpa kommunens värdegrund i ledarskapet.\n– Du ska ha goda kunskaper i svenska språket, i både tal och skrift.\n– Du ska kunna arbeta på arbetsplatsen.\n– Ha B-körkort.\nArbetsuppgifter\nSedvanliga arbetsuppgifter för Enhetschef för avdelning för myndighetsutövning. Budget-, personal- och verksamhetsansvar. Enhetschefen har det övergripande ansvaret för att styra, leda och kvalitetsutveckla verksamheten tillsammans med medarbetarna samt ansvara för att kontinuerligt utveckla personalgruppen.\xa0\nUppdraget omfattar att arbeta med grupputveckling inom en av teamen då fokus behöver stärkas gällande samarbete och samsyn i ärendehantering.\nAnställning\nDu kommer att bli anställd som konsult för Vårdlänken Bemanning  Rekrytering, med varierande arbetstider och tjänstegrad efter överenskommelse.\nSom konsult hos oss erbjuds du:\n• Konkurrenskraftig lön och intressanta uppdrag i olika verksamheter\n• Kollektivavtal, tjänstepension, friskvårdsbidrag och semesterersättning\n• Stora möjligheter att själv välja arbetsplats och arbetstider\n• Hjälp med resa och boende om du arbetar på annan ort\n• Introduktion och kontinuerlig coachning så att du snabbt kommer in i din roll\n• En dedikerad och tillgänglig konsultch',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 384]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Training Details

Training Dataset

Unnamed Dataset

• Size: 23 training samples
• Columns: sentence_0, sentence_1, and label
• Approximate statistics based on the first 23 samples:

  	sentence_0	sentence_1	label
  type	string	string	float
  details	min: 128 tokens mean: 128.0 tokens max: 128 tokens	min: 86 tokens mean: 126.17 tokens max: 128 tokens	min: 0.0 mean: 0.26 max: 1.0

• Samples:

  sentence_0	sentence_1	label
  Kolumbus Lindh Date of birth: January 1999, Norra Stationsgatan 99, Stockholm, 113 64, Sweden + 46 (0)731 01 30 90	[email protected] education KTH ROYAL INSTITUTE OF TECHNOLOGY Stockholm, Sweden, GPA 4.7 / 5 M.Sc in Industrial Engineering and Management Aug 2023 - Jun 2025 Specializing in Machine Learning   Monash University Melbourne, Australia Exchange Programme Jul 2022 - Jun 2023 Focusing on finance   KTH ROYAL INSTITUTE OF TECHNOLOGY Stockholm, Sweden, GPA 4.4 / 5 B.Sc Industrial Engineering and Management Aug 2020 - Jun 2023 Specializing in Computer Science Bachelor’s Thesis: Deep Learning for Bank Transaction Categorization   work experience hoomies.se Stockholm, Sweden Co-Founder Aug 2024 - Current Startup aiming to make vacations affordable and sustainable Responsible for Full stack development In charge of the business aspect through competitor analysis, niche profiling and revenue models EF Education First Barcelona, Spain ...	Vi söker Dig som har en socionomexamen och som har flerårig chefserfarenhet inom målgrupperna äldre, LSS samt Socialpsykiatri till en kommun i Stockholms län. Uppdraget startar 1 februari och pågår under våren 2025 på heltid.  För att vara rätt person för tjänsten ska du; – Ha en socionomexamen – Ha minst tre års erfarenhet av ansvar för personal, verksamhet, ekonomi.   – Ha minst tre års erfarenhet av arbete inom myndighetsutövning. – Du ska ha minst tre års erfarenhet av kommunala uppdrag, vara insatt och förstå kommunala uppdrag. – Har du erfarenhet av arbete inom alla målgrupper är det meriterande för tjänsten. Även om du har kompetens inom grupputveckling.  – Som ledare är du strukturerad och stabil, analytisk och samarbetsorienterad.  – Du behöver kunna vara en förebild och tillämpa kommunens värdegrund i ledarskapet. – Du ska ha goda kunskaper i svenska språket, i både tal och skrift. – Du ska kunna arbeta på arbetsplatsen. – Ha B-körkort. Arbetsuppgifter Sedvanliga arbetsuppgif...
  CV – Peter Lindh Skonertgatan 5A 426 74 V.Frölunda Telefon: 0765-534669 Mail: [email protected] Employment history Volvo Trucks – DPM Quality and Warranty at Volvo Trucks Budget management for all IT applications in QW area, aligning priorities with all TD/BA’s Organizing the pre-study for the Future Claim Journey- aligning all TD/BA’s on one vision and direction. The pre-study will start in January 2024. I was one of the key drivers in starting up the transformation project to move to new IT platform (Microsoft Dynamics) in the Case mgmt. area- First project will Go Live in February 2024 (Volvo Action Services) and then there will be releases in the coming 5 years. In this transformation also many business improvements are identified and included in the scope. Volvo IT – Project/Program Manager E1 UX Initiative leader – develop new UX strategy and organization for Group IT and align cooperation across Volvo Group. The result was a new training path for UX designers...	Om rollen Vi letar efter en erfaren och skicklig bilplåtslagare/skadeteknikermed erfarenhet av BMW och Mini. Du kommer att arbeta i ett team som strävar efter att alltid möta kundens behov och förväntningar. KvalifikationerAtt ha tidigare erfarenhet av att arbeta med BMW och Mini är ett krav. Vi ser gärna att du har djup förståelse för dessa märken och deras specifika behov inom reparation och underhåll. Goda kunskapergällande BMW’s program och utläsningar av fordon. Relevant teknisk utbildning inom bilplåtslageri eller motsvarande erfarenhet. Förmåga att arbeta självständigt samt i team. Erfarenhet av att använda CABAS är ett stort plus. Goda kunskaper i svenska och engelska, i både tal och skrift. B-körkort krävs. Arbetsuppgifter Reparation av kaross: Byta och rikta karossdetaljer på främst BMW och Mini. Svetsning och montering: Svetsa, limma och nita olika delar. Demontering och montering: Effektiv hantering av demontering och montering av bilkomponenter. Vi erbjuder dig...	0.0
  Kolumbus Lindh Date of birth: January 1999, Norra Stationsgatan 99, Stockholm, 113 64, Sweden + 46 (0)731 01 30 90	[email protected] education KTH ROYAL INSTITUTE OF TECHNOLOGY Stockholm, Sweden, GPA 4.7 / 5 M.Sc in Industrial Engineering and Management Aug 2023 - Jun 2025 Specializing in Machine Learning   Monash University Melbourne, Australia Exchange Programme Jul 2022 - Jun 2023 Focusing on finance   KTH ROYAL INSTITUTE OF TECHNOLOGY Stockholm, Sweden, GPA 4.4 / 5 B.Sc Industrial Engineering and Management Aug 2020 - Jun 2023 Specializing in Computer Science Bachelor’s Thesis: Deep Learning for Bank Transaction Categorization   work experience hoomies.se Stockholm, Sweden Co-Founder Aug 2024 - Current Startup aiming to make vacations affordable and sustainable Responsible for Full stack development In charge of the business aspect through competitor analysis, niche profiling and revenue models EF Education First Barcelona, Spain ...	Rekryteringsträffen kommer att äga rum den 30 januari 2025 mellan kl 14.00 - 16.00 Plats: Arbetsförmedlingen Augustendalsvägen 7, 131 52 Nacka Strand En arbetsgivare inom städ som är verksam i södra Stockholm önskar träffa och rekrytera städpersonal. Arbetet innefattar alla former av städning inklusive hemstädning hos privatpersoner i södra Stockholm. Arbetsplatserna är utrustade med moderna verktyg och teknik för att underlätta effektivt utförande av arbetsuppgifterna. Tidigare erfarenhet av yrket är meriterande En positiv atmosfär i teamet främjar produktivt samarbete och idéutbyte. Ta med CV och var förberedd på en speedintervju Arbetstider: Dagtid, kvällstid, flextid, vardagar och helger Kompetens Svenska (Meriterande) Engelska (Meriterande) Ryska (Meriterande) Ukrainska (Meriterande) Välkomna!

• Loss: CosineSimilarityLoss with these parameters:

  {
      "loss_fct": "torch.nn.modules.loss.MSELoss"
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• multi_dataset_batch_sampler: round_robin

All Hyperparameters

Click to expand

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: no
• prediction_loss_only: True
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 5e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1
• num_train_epochs: 3
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.0
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• use_ipex: False
• bf16: False
• fp16: False
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: False
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• dispatch_batches: None
• split_batches: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: False
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• eval_use_gather_object: False
• average_tokens_across_devices: False
• prompts: None
• batch_sampler: batch_sampler
• multi_dataset_batch_sampler: round_robin

Framework Versions

• Python: 3.10.16
• Sentence Transformers: 3.3.1
• Transformers: 4.47.1
• PyTorch: 2.5.1+cu124
• Accelerate: 1.2.1
• Datasets: 3.2.0
• Tokenizers: 0.21.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}