Wenn du glaubst, lokale KI-Modelle seien nur etwas für Hardcores-Entwickler mit Serverraum-Phobie, dann solltest du dringend auf die Playlist hören. Jochen erklärt, warum man mit ein bisschen Hardware und Know-how fast alles zum Laufen kriegt – von Chatbots über Word-Dokumente bis hin zu Code-Assistenz, und das ganz ohne Token-Kosten. Barbara warnt vor der wilden Hardware-Welt: Erwartungen, Wirklichkeit und die DSGVO im Griff zu behalten sind der Schlüssel, um nicht im KI-Dschungel zu versinken. Zwischen Hype und Weltuntergang finden wir die richtige Mitte: Eine fundierte, Tiefen- und Praxisorientierte Einordung für alle, die smarter statt blinder Hoffnung vorgehen wollen – inklusive humorvoller Rüttler für den Kopf.
Kapitelmarken
[00:00:00] Begrüßung und das teure Tamagotchi-Problem
[00:04:30] Was ist eigentlich Local AI? Definitionen, Missverständnisse und Barbaras Ordnungsruf
[00:11:00] Erwartungsmanagement: Consumer-Hardware vs. Frontier-Modelle
[00:14:00] CPU, GPU, RAM – was deine Hardware können muss
[00:16:30] Welches Modell passt zu welcher Hardware?
[00:18:00] Was kann ein lokales LLM eigentlich? Tools, Skills und die nackte Wahrheit
[00:20:30] Einstieg leicht gemacht: LM Studio, Jan.ai und andere Oberflächen
[00:23:30] Systemlast und Nebenwirkungen: Wenn der Laptop in die Knie geht
[00:25:30] Bibliotheken, Tool-Calls und Internet-Zugang beim lokalen Modell
[00:29:30] Vibe Coding lokal? Geht – aber mit Einschränkungen
[00:35:00] Geschwindigkeit vs. Qualität: Wer KI in Zeit misst, soll sechs Setzen
[00:39:50] Local AI im Unternehmen: Server, Strategie und warum es Personal braucht
[00:43:00] Alignment, Guardrails und warum das rohe Modell alles ausspuckt
[00:48:00] Edge AI: Die unterschätzte Rechenpower in eurer Hosentasche
[00:50:30] Fazit und Verabschiedung
Links und Erwähnungen
Local AI Tools & Oberflächen:
- LM Studio – Lokale LLM-Oberfläche: https://lmstudio.ai/
- Jan.ai – Open-Source Local AI Interface: https://www.jan.ai/
- Ollama – Lokale LLM-Umgebung: https://ollama.com/
- llama.cpp – LLM-Inference auf Consumer-Hardware: https://github.com/ggml-org/llama.cpp
Modelle & Modell-Plattformen:
- Hugging Face – Modell-Downloads & Community: https://huggingface.co
- Meta Llama Modelle: https://huggingface.co/meta-llama
- Qwen (Alibaba) Modelle: https://huggingface.co/Qwen
- DeepSeek Modelle: https://huggingface.co/deepseek-ai
Anthropic / Claude:
- Claude Cowork: https://claude.ai
- Claude Code: https://docs.anthropic.com/en/docs/claude-code
🥳 Danke, dass du LAIer 8|9 eingeschaltet hast! Möge die KI mit dir sein!
Schreib uns eine Bewertung mit dem KI-Modell deiner Wahl und abonniere uns auf deiner Lieblingsplattform, wir sind überall, es gibt kein entrinnen!
- [Apple] https://podcasts.apple.com/podcast/id1798319508
- [Deezer] https://www.deezer.com/de/show/1001665971
- [Spotify] https://open.spotify.com/show/2IfqJA4Qo02fslECWpEQW8
- [Amazon Music] https://music.amazon.de/podcasts/497c3a14-dcaf-4bb3-abc1-03aa6f73f8d3/laier-8-9—noch’n-ki-podcast
- [Youtube Video-Podcast] https://www.youtube.com/@laier89
Unsere Hosts
AI Babsi: (Barbara) [Website] https://www.barbara-lampl.de | [LinkedIn] https://www.linkedin.com/in/barbaralampl/ – E-Fuchs: (Jochen) [Website] https://efuchs.net | [LinkedIn] https://www.linkedin.com/in/jochengfuchs/
Unser Podcast Blog
https:///www.laier89.de/
01001100 01110101 01101011 01100101 00101100 00100000 01001001 01100011 01101000 00100000 01100010 01101001 01101110 00100000 01100100 01100101 01101001 01101110 00100000 01001011 01001001 00101101 01010000 01101111 01100100 01100011 01100001 01110011 01110100 00100000 01001100 01000001 01001001 01100101 01110010 00100000 00111000 01111100 00111001 00101110
LAIer 8|9 wird nicht Layer 89 oder Layer 8|9 geschrieben, auch nicht Layer 8 9, aber wir sind cool und wir sind tough, deshalb gibt’s hier Keyword-Stuff.
