EPISODE · Dec 16, 2025 · 36 MIN
#20 Lokale KI für Unternehmen als smarte Tiny LLMs
from Vom Hype zum Handeln · host Raphael Lepuschitz, Petra Liebl
Muss KI wirklich groß sein – oder reicht klein & smart?In dieser Episode spricht Petra Liebl mit Raphael Lepuschitz über lokal betriebene KI-Systeme (Tiny-LLMs) und warum sie für viele Unternehmen eine echte Alternative zur Cloud sind.Raphael stellt die TinyLLMs auch im Rahmen des KI Cafés der WK Tirol vor. Nächster Termin ist am 21. Januar 2026.🔍 Themen der Folge:Warum lokale KI an Bedeutung gewinntTiny-LLMs vs. Cloud-KI: Unterschiede & VorteileDatenhoheit, DSGVO & AI Act im UnternehmenskontextWelche Hardware für lokale KI ausreichtKonkrete Use Cases: Text, Bilder, Wissensmanagement, AutomatisierungAgentische KI für interne ProzesseGrenzen lokaler Modelle & realistische ErwartungenBlick in die Zukunft: KI auf Geräten & Human-in-the-Loop🎙️ Gast in Folge 20: Raphael LepuschitzUnternehmer, Informatiker & TechnikethikerGründer von Lepuschitz Media & RoboLabsMitinitiator des KI-Cafés in Tirol Das „Große Ganze“ sehenGerade KI - die menschliches Denken nachahmt – setzt für gelingende Transformation voraus, dass Menschen und Mitarbeiter im Zentrum der Betrachtung stehen. "Ein Unternehmen ist eine Ansammlung von Menschen, die zu einem bestimmten Zweck zusammenarbeiten". Dabei geht es darum, Ängste ernst zu nehmen und gleichzeitig Begeisterung für neue Möglichkeiten der Digitalisierung zu wecken. In "Vom Hype zum Handeln" werden wirKI-Entwicklungen besprechen und einsortierenExperteninterviews mit Praktikern bietenkonkrete Implementierungsbeispiele vorstelleneigene Experimente und Erfahrungen teilenverschiedene Anwendungsfelder beleuchtenDeine Hosts: Experten aus digitalem Marketing, Organisationsentwicklung / ITMit ihrem digitalen bzw. IT-Hintergrund geht es den Hosts Petra und Daniel darum, den Blick weg von Technik, hin zum zentralen Erfolgsfaktor für digitale Transformation zu lenken: Dem aktiven Gestalten von und für Menschen in Organisationen.Petra LIEBL Als erfahrene Onlineexpertin und zertifizierte Digitalberaterin verbindet Petra Strategie, digitales Marketing und KI zu wirkungsvollen Online-Lösungen für Unternehmer:innen.👉🏼 www.contentbakery.at [email protected] KNABL // Co-Host Folge 1-10 Daniel Knabl ist IT-Experte, Unternehmensberater und systemischer Coach. Mit langjähriger Erfahrung entwickelt er innovative Strategien an der Schnittstelle von Technologie, Kommunikation und Organisation.👉🏼 https://www.danielknabl.at // [email protected] Beiträge zum Thema digitale Transformation findest gesammelt du unter https://dertransformationspodcast.at/ .
Embed this episode
What this episode covers
In dieser Folge von „Vom Hype zum Handeln“ spricht Petra Liebl mit Raphael Lepuschitz, Unternehmer, Informatiker und Technikethiker, über eine Entwicklung, die aktuell abseits der großen Cloud-Plattformen stattfindet: lokal laufende KI-Systeme – sogenannte Tiny-LLMs. Wir gehen der Frage nach, ob KI wirklich immer „groß“ sein muss oder ob kleinere, lokal betriebene Modelle für viele Unternehmen die bessere Lösung sind. Während bekannte KI-Tools wie ChatGPT, Gemini oder Claude in der Cloud laufen und Daten oft außerhalb Europas verarbeiten, ermöglichen lokale KI-Systeme mehr Datenhoheit, Kontrolle und Sicherheit. Raphael erklärt, warum diese Entwicklung technisch möglich geworden ist, welche Rolle Open Source, Modellkomprimierung und neue Hardware spielen – und warum heute bereits ein Mac Mini oder ein leistungsfähiger PC ausreichen kann, um KI im eigenen Unternehmen zu betreiben. Wir sprechen über konkrete Use Cases: Text- und Bildgenerierung, Wissensmanagement, interne Automatisierungen bis hin zu agentischen KI-Systemen, die wiederkehrende Aufgaben im Hintergrund erledigen – ohne sensible Daten nach außen zu geben. Gleichzeitig beleuchten wir auch die Grenzen lokaler KI: neue Modelle erscheinen zuerst in der Cloud, lokale Varianten folgen zeitverzögert. Für viele Unternehmen ist dieser Kompromiss jedoch gut vertretbar – vor allem im Hinblick auf Sicherheit, Kosten und Anpassbarkeit. Zum Abschluss werfen wir einen Blick in die Zukunft: Lokale KI wird in den kommenden Jahren zum Standard – auf Geräten, in Unternehmen und darüber hinaus. Entscheidend bleibt dabei das Prinzip Human-in-the-Loop: KI unterstützt, der Mensch behält die Kontrolle.
Ready to play
#20 Lokale KI für Unternehmen als smarte Tiny LLMs
No transcript for this episode yet
Similar Episodes
Dec 30, 2024 ·19m
Dec 30, 2024 ·24m
Nov 19, 2024 ·18m
Nov 6, 2024 ·20m
Oct 9, 2024 ·20m
Sep 25, 2024 ·28m