S Swiftli Smart HR
Termin

Lokale KI im KMU.
Phi-4 gegen die ChatGPT-API.

Kompakte Sprachmodelle lassen sich auf geeigneten Macs lokal betreiben. Was das für HR-Software in der Schweiz bedeuten kann und welche Abwägungen gegenüber einer Cloud-API nötig sind.

8 Minuten Lesezeit · Mai 2026

ZeitdokumentDieser Beitrag stammt aus der Phi-4-Zeit. In Swiftli Smart HR läuft heute Qwen3-4B-Instruct über Apple MLX, quantisiert auf vier Bit — die Abwägungen im Text gelten weiterhin, die Modellangaben nicht mehr. Den Wechsel beschreibt der Beitrag über Qwen3 im Smart Assistant.

Warum überhaupt lokale KI?

«KI» heisst für viele KMU heute: eine Cloud-API. Je nach Dienst werden Eingaben an externe Rechenzentren übertragen, dort verarbeitet und Antworten zurückgesendet. Das ist bequem und leistungsfähig, verlangt bei Personaldaten aber eine sorgfältige Prüfung der konkreten Datenflüsse, Rollen, Verträge und Auslandbekanntgaben.

Personaldaten sind Personendaten, aber nicht pauschal «besonders schützenswert» im Sinn von Art. 5 lit. c DSG. Gesundheitsdaten sind es; Lohn- oder Leistungsdaten sind es nicht allein aufgrund ihres HR-Bezugs. Unabhängig von der Kategorie gehören identifizierbare Personaldaten nur dann in Eingaben oder Protokolle eines KI-Anbieters, wenn Zweck, Verhältnismässigkeit, Transparenz, Rollen, Vertrag, Sicherheit und allfällige Auslandbekanntgaben geklärt sind.

Phi-4-mini-instruct: was es ist

Phi-4-mini-instruct ist ein kompaktes Sprachmodell von Microsoft mit etwa 3,8 Milliarden Parametern (Stand 2025). Seine veröffentlichten Gewichte lassen sich lokal ausführen. Ob dabei Daten das Gerät verlassen, hängt von der gesamten Anwendungskonfiguration ab, insbesondere von Telemetrie, Updates, Sicherungen und angebundenen Diensten. Eignung und Qualität für Frage-Antwort, Zusammenfassung oder Klassifikation müssen am konkreten Anwendungsfall getestet werden.

MLX und Apple Silicon

Apple Silicon (M1 bis M4) hat einen Unified-Memory-Aufbau und eine GPU mit hoher Speicherbandbreite. Das MLX-Framework ist für maschinelles Lernen auf Apple Silicon ausgelegt. Geschwindigkeit und Speicherbedarf von Phi-4-mini hängen unter anderem von Gerät, Quantisierung, Kontextlänge und Implementierung ab und sollten auf der unterstützten Zielhardware gemessen werden.

Lokal gegen Cloud: ein ehrlicher Vergleich

1. Datenschutz

Bei einem rein lokal betriebenen und entsprechend konfigurierten Modell müssen Eingaben nicht an einen Modellanbieter übermittelt werden. Das reduziert Risiken aus Drittbekanntgaben und Auslandtransfers; Telemetrie, Updates, Sicherungen und angebundene Dienste sind trotzdem separat zu prüfen. Bei einer Cloud-API sind unter anderem Anbieterrolle, Nutzungs- und Trainingszwecke, Datensicherheit und der konkrete Transfermechanismus zu beurteilen. Für nach dem Swiss‑U.S. Data Privacy Framework zertifizierte US-Empfänger besteht eine Angemessenheitsregelung; andere US-Transfers benötigen eine Grundlage nach Art. 16 oder 17 DSG.

2. Latenz

Lokale Ausführung vermeidet die Netzwerklatenz zur Modell-API, benötigt aber genügend Rechenleistung auf dem Endgerät. Bei Cloud-APIs kommen Netzwerk, Anbieterlast und Modelllaufzeit hinzu. Welche Variante schneller reagiert, muss mit dem konkreten Modell, Gerät, Kontext und Anbieter gemessen werden.

3. Qualität

Die Qualität hängt stark von Modell, Version, Sprache, Kontext und Aufgabe ab. Grössere Cloud-Modelle können bei komplexen Aufgaben Vorteile haben; ein kompaktes lokales Modell kann für eng abgegrenzte Aufgaben ausreichen. Vor einem Einsatz mit Personaldaten braucht es repräsentative Tests, Fehlergrenzen und eine angemessene menschliche Kontrolle.

4. Kosten

Lokal fallen insbesondere Hardware-, Energie-, Entwicklungs-, Wartungs- und Supportkosten an. Cloud-Anbieter verrechnen je nach Angebot Nutzung, Kapazität oder Abonnements. Ein belastbarer Vergleich setzt die tatsächliche Nutzung, den Betriebsaufwand und die jeweils aktuellen Preise voraus.

5. Datenschutzrechtliche Prüfpunkte

Auch lokale KI bearbeitet Personendaten und muss die Grundsätze des DSG sowie angemessene Datensicherheit einhalten. Bei Cloud-KI ist ein Auftragsbearbeitungsvertrag erforderlich, wenn der Anbieter weisungsgebunden im Auftrag bearbeitet. Ein Bearbeitungsverzeichnis richtet sich nach Art. 12 DSG und der Ausnahme in Art. 24 DSV; eine Datenschutz-Folgenabschätzung ist nach Art. 22 DSG nur bei voraussichtlich hohem Risiko erforderlich. Der Speicherort allein entscheidet daher nicht über die Rechtmässigkeit.

Anwendungsfälle für HR-Fragen

  • Bedienungs-Suche. Ein lokales Modell kann Fragen wie «Wie storniere ich eine Schicht?» anhand einer versionierten App-Dokumentation beantworten; Fundstellen und Aktualität sollten sichtbar bleiben.
  • Hinweise auf Rechtsquellen. Bei Fragen zu Pausen oder L-GAV kann ein Modell passende Fundstellen auffinden. Die rechtliche Antwort muss aus der aktuellen Primärquelle geprüft werden.
  • Lohn-Plausibilisierung. Eine strukturierte, datierte Lohntabelle kann Vergleiche unterstützen; «marktüblich» oder rechtlich genügend folgt daraus nicht automatisch.
  • Textentwürfe. Ein lokales Modell kann beispielsweise einen mehrsprachigen Stellenbeschrieb vorbereiten. Inhalt, Diskriminierungsrisiken und Übersetzung sind vor Veröffentlichung zu prüfen.

Wann Cloud-KI trotzdem die richtige Wahl ist

Lokal ist nicht bei allem die bessere Wahl. Wenn ein Anwendungsfall echte Tiefe braucht — etwa eine 30-seitige Personalrichtlinie auf Konsistenz prüfen —, kann eine Cloud-KI fachlich geeigneter sein. Das Weglassen von Namen und Geburtsdaten anonymisiert einen Datensatz nicht automatisch; entscheidend ist, ob eine Person mit vernünftigen Mitteln noch bestimmbar ist. Wo wirksame Anonymisierung nicht möglich ist, braucht es vor dem Einsatz eine dokumentierte Prüfung von Zweck, Datenminimierung, Anbieterrolle, Vertrag, Sicherheit, Transparenz und Auslandbekanntgabe. Rechtliche Streitfälle gehören zudem in fachkundige Hände.

Die richtige Frage ist nicht «Cloud oder lokal?», sondern «welche Aufgabe lokal, welche in der Cloud, und welche gar nicht mit KI?»

Fazit

Lokale KI ist 2026 eine mögliche Architektur für klar abgegrenzte HR-Funktionen. Sie kann Datenbekanntgaben reduzieren, beseitigt aber weder Qualitätsrisiken noch die Pflichten des Verantwortlichen nach DSG. Wer eine HR-Software auswählt, sollte ausdrücklich fragen: «Welche KI-Funktionen laufen lokal, welche in der Cloud, und mit welchen Anbietern?» — und sich die Datenflüsse sowie Schutzmassnahmen dokumentieren lassen.

Quellen und weiterführende Links

Weiterlesen

← Alle Insights

Wie ein lokales Modell im Alltag arbeitet, zeigt sich am schnellsten am eigenen Betrieb. Dreissig Minuten, ohne Folien.