Lokal AI · Myndigheter & Företag Om mig

Shahjahan
"Shadde" Khan

AI-strateg · Grundare · Keyman

Gift, pappa till 2 barn
Dedikerat mitt yrkesliv till AI sedan GPT-2 och BERT lanserades
Grundare av My Base AI – lokal Datasäker RAG-plattform
Precis avslutat eSam projekt för test av agentiskt utveckling på myndighet
Boyband-sångare i 40 Plus 🎵

↓ Ladda ner PDF ↓ Ladda ner PPTX

Skanna för LinkedIn

Kontakt

LinkedIn / Shadde Khan
+46 709 900 587
sk@mybaseai.com
shadde@ai-agentsx.com

Presentation

⏱ 30 minuter
🇸🇪 På svenska
🔒 100% lokal AI

01 / 09

Lokal AI · Myndigheter & Företag Grunderna

AI-terminologi – enkelt förklarat

Token

Vad är en token?

En token är en liten del av text – ungefär ett ord eller en stavelse. Modellen läser och skapar text token för token, som pärlor på ett snöre. "Hej världen" = 2 tokens. 100 tokens är ungefär 75 ord. Så en token är mellan 0,7 och 0,8 ord.

Inferencing

Vad är inferencing?

Inferencing är när en tränad AI-modell används i praktiken – inte tränas. Du ger modellen en fråga och den "infererar" ett svar baserat på vad den lärt sig. Det är det vi kör lokalt.

GPU vs CPU

GPU kontra CPU

GPU (grafikkort) kör tusentals parallella beräkningar – idealisk för AI. CPU (processor) kör färre beräkningar men är tillräcklig för kvantiserade modeller på modern hårdvara.

Generativ AI

AI som skapar nytt innehåll – text, bild, kod, ljud – baserat på mönster den lärt sig från enorm mängd data. Inte en sökmotor, utan en kreativ modell.

LLM – Large Language Model

En stor språkmodell tränad på miljarder textdokument. Den förstår kontext, för resonemang och genererar sammanhängande svar. Exempel: Llama, Mistral, Qwen, DeepSeek.

02 / 09

Lokal AI · Myndigheter & Företag Vad kan AI göra?

Generativ AI – en rad som sammanfattar allt

"AI tar in din fråga och genererar nytt, relevant innehåll – text, kod, bild, video eller musik – utan att du behöver vara expert."

Text & Chat

Lokal ChatGPT

Kör din egen säkra chattbott. OpenWebUI ger dig ett ChatGPT-liknande gränssnitt, och My Base AI är ett avancerat RAG-system för dokument.

OpenWebUI · LM Studio · Ollama · My Base AI

Bildgenerering

Lokal AI-bild

Generera professionella bilder lokalt utan molnet. Dessa bilder är genererade med lokal AI.

Flux 2 · Z Image · Qwen Edit · ComfyUI

Videogenerering

AI-video

Generera video från text eller bild lokalt. LTX 2.3 och Wan 2.2 kör på konsumenthårdvara.

LTX 2.3 · Wan 2.2

Musikgenerering

AI-musik

Skapa musik med text-prompts. Ace Step 1.5 genererar komplett musik lokalt.

Ace Step 1.5

03 / 09

Lokal AI · Myndigheter & Företag Lokal AI i praktiken

Se lokal AI i aktion – MyndighetsAI

Video – Lokal chatbot för myndigheter

Demonstration av OpenWebUI – din organisations lokala, privata ChatGPT – och My Base AI, ett RAG-system som svarar baserat på era egna dokument.

Verktygsöversikt – Text & Chat

OpenWebUI – Open source, ChatGPT-liknande UI
LM Studio – Enkel lokal modellhantering med GUI
Ollama – Snabb CLI-inferencing, API-kompatibel
My Base AI – RAG-system för myndighetsdokument

Bildgenerering

Flux 2 & Flux 2 Klein
Z Image · Qwen Image Edit
ComfyUI – avancerat workflow-verktyg

Video & Musik

LTX 2.3 · Wan 2.2 – videogenerering
Ace Step 1.5 – musikgenerering

04 / 09

Lokal AI · Myndigheter & Företag Kostnad & Hårdvara

AI behöver inte vara dyrt

Kom igång för

10 000 kr

En modern laptop räcker

En laptop upp till 5 år gammal kan köra moderna, kapabla modeller som Qwen 3.5 i 0.8B–4B storlek. Med CPU-inferencing via Ollama eller LM Studio behövs inget grafikkort.

Även äldre hårdvara duger – dagens optimeringar gör lokal AI tillgänglig för alla.

Kvantisering – modellkomprimering förklarat

Vad är miljarder parametrar (B)?

En modells "B" (miljarder) anger antalet interna vikter – ungefär som hjärnceller. En 7B-modell har 7 miljarder parametrar. Fler = smartare, men kräver mer minne.

16-bit är onödigt – kör 8-bit eller lägre

Att köra modeller i 8-bit eller 4-bit kvantisering ger bara ~1% kvalitetsförlust men halverar minneskravet.

Tänk på det som en video: originalet är 70–100 GB, men en 300–700 MB-fil ser nästan identisk ut. Kvantisering tar bort lager som inte bidrar märkbart till kvaliteten.

4-bit Q4_K_M

8-bit Q8

CPU Inferencing

GGUF-format

05 / 09

Lokal AI · Myndigheter & Företag Lokal infrastruktur

Kör lokal AI – plattformar & ekosystem

My Base AI

Min lösning

Ett komplett RAG-system för myndigheter och företag. Ladda upp era egna dokument och få precisa svar – 100% lokalt, inga data lämnar er server.

RAG On-Prem GDPR

Open Source

OpenWebUI

En öppen, självhostad ChatGPT-klon. Kopplas mot Ollama eller valfri LLM. Stöd för filuppladdning, RAG, röst och plugins.

Ollama

Kör hundratals modeller från terminalen. Perfekt för servermiljöer och API-integration. Extremt enkel setup.

Användarvänligt GUI

LM Studio

Ladda ner och kör modeller med ett klick. Inbyggt chat-UI, GPU-acceleration och lokal API-server. Idealisk för icke-tekniska användare.

HuggingFace

Världens största öppna AI-bibliotek – hundratusentals modeller, nya releases varje dag. Härifrån hämtas alla lokala modeller.

vLLM & Unsloth Studio – För produktionsmiljöer erbjuder vLLM hög-throughput inferencing, medan Unsloth Studio möjliggör finjustering (fine-tuning) av modeller på er egen data – direkt på er hårdvara.

06 / 09

Lokal AI · Myndigheter & Företag AI-kodning

Agentisk kodning – AI skriver er kod

Vad är agentisk AI-kodning?

En AI-agent analyserar krav, skriver kod, testar den, hittar fel och itererar – utan att du behöver vara utvecklare. Agenten tar hela flödet från idé till fungerande kod.

Kilo Code – Fullt öppen källkod

Vad är Kilo Code?

En VS Code-plugin för agentisk AI-kodning. Fullt open source – du kan forka och anpassa den fritt. Kopplas mot lokala modeller via Ollama eller OpenAI-kompatibla APIer.

Agentisk filhantering & kodskrivning
Förståelse för hela kodbasen
Kör lokalt – ingen data till molnet
Fork:a och anpassa efter era behov

eSam – Statlig AI-testning

Vad vi testade

Via eSam testade vi state-of-the-art öppen källkods-modeller för användning i statlig kontext:

✓ Kodgenerering för myndighetsystem
✓ Dokumentanalys med RAG
✓ Säkerhet & dataintegritet
✓ GDPR-kompatibel on-prem deployment

Rekommenderade modeller för kodning

Qwen Coder DeepSeek Coder Llama 3 Code Mistral Code StarCoder 2

07 / 09

Lokal AI · Myndigheter & Företag Workshop

Keyman & Shadde Khan

Halvdagsworkshop i Lokal AI

Vi kommer till er, kartlägger era behov och lär er organisation att komma igång med lokal AI – samma dag.

15 000 kr

4 timmar · Inkl. hands-on demo

✓ Behovsanalys & AI-kartläggning
✓ Installation av lokal AI-miljö
✓ Hands-on demo med era dokument
✓ Handlingsplan för vidare implementation

Boka & kontakta

Redo att ta nästa steg? Skanna QR-koden eller kontakta mig direkt på LinkedIn. Ni kan även kontakta Mats på Keyman mats.martensson@keyman.se för ytterligare information om detta erbjudande

LinkedIn – Shadde Khan

+46 709 900 587

sk@mybaseai.com
shadde@ai-agentsx.com

Varför lokal AI?

100% datasäkerhet – inget lämnar er server
GDPR & sekretesslagstiftning uppfylls
Inga löpande API-kostnader
Full kontroll över modeller & data

08 / 09

Lokal AI · Myndigheter & Företag Avslutning

Tack för er uppmärksamhet

Framtiden är
lokal & öppen.

AI behöver varken vara dyrt, molnbaserat eller svårt. Låt oss bygga er AI-infrastruktur – säkert, lokalt och på era villkor.