Lær at køre Large Language Models (LLM’er) direkte på din egen maskine med LM-Studio. På dette kursus får du praktisk erfaring med installation, opsætning, valg af modeller fra Hugging Face, samt optimering af ydeevne ud fra din hardware.

Beskrivelse

Cloud-løsninger er ikke altid den rette vej, når man arbejder med AI og store sprogmodeller. Der kan være krav om datasuverænitet, sikkerhed, performance eller blot ønsket om at eksperimentere uden internetadgang.

Dette kursus lærer dig at implementere og bruge Large Language Models lokalt ved hjælp af LM-Studio – et værktøj, der gør det muligt at køre LLM’er direkte på din egen maskine.

Vi starter med en introduktion til LM-Studio, herunder installation, opsætning og grundlæggende brug. Derefter gennemgår vi hardwarekrav og begrænsninger – fra GPU-krav til RAM-forbrug – og hvordan man optimerer ydeevnen på forskellige maskiner.

Du bliver introduceret til modeller fra Hugging Face, lærer at finde de rigtige modeller til dine behov, og integrere dem i LM-Studio. Gennem hands-on øvelser lærer du at bruge LLM’er til praktiske formål som dataanalyse, billedgenkendelse, sikkerhedsvurderinger og programmeringshjælp.

Kurset kombinerer teori med praksis, så du går herfra med både forståelse og konkrete værktøjer til at udnytte LLM’er lokalt – uanset om målet er udvikling, sikkerhed, analyse eller intern videndeling.

Efter kurset kan du:

• Installere og konfigurere LM-Studio til lokal kørsel af LLM’er
• Vurdere hardwarekrav og optimere performance
• Hente og implementere modeller fra Hugging Face
• Anvende LLM’er lokalt til dataanalyse, billedanalyse, sikkerhedsvurdering og programmeringshjælp
• Arbejde effektivt med AI uden cloud-afhængighed

Forudsætninger

Grundlæggende viden om AI og LLM svarende til kurset NS0612 Introduktion til LLM og sprogmodeller

Modul 1  Introduktion til LM-Studio

•  
• Hvad er LM-Studio, og hvornår giver det mening at bruge det
• Installation og grundopsætning

Modul 2  Hardwarekrav og begrænsninger

•  
• GPU, RAM og lagringskrav
• Optimering af performance for forskellige hardwareprofiler

Modul 3  Modelkilder og formater

•  
• Overblik over modeller fra Hugging Face og andre repositories
• Model-formater til lokal brug
• GGUF (llama.cpp)
• GGML
• Safetensors
• ONNX
• MLX (Apple Silicon-optimeret)
• Download og integration i LM-Studio
• Valg af modelstørrelse og format i forhold til hardware og anvendelse

Modul 4  Praktiske øvelser

•  
• Dataanalyse: sortering og strukturering af data
• Billedanalyse: identificering og kategorisering
• Sikkerhedsanalyse: identifikation af risici
• Programmeringshjælp: kodegenerering og scripts











Forbehold for ændringer efter publisering