Cloud-KI oder lokale KI: ein Vergleich

„KI“ bedeutet in der Praxis zwei sehr unterschiedliche Dinge: ein Dienst im Internet, bei dem Sie Text eingeben und eine Antwort erhalten, oder ein Programm, das ein Sprachmodell auf Ihrem eigenen Rechner ausführt. Beides hat seinen Platz. Dieser Vergleich sortiert nach Datenfluss, Kosten und Leistung und benennt die Fälle, in denen die Cloud die bessere Wahl ist.

Datenflüsse

Bei Cloud-KI wandert jede Eingabe, also auch jedes hochgeladene Dokument, zu den Servern des Anbieters. Dort wird sie verarbeitet und je nach Tarif gespeichert: als Verlauf, in Protokollen, zur Missbrauchskontrolle, bei manchen Angeboten zum Training. Subunternehmer, Serverstandorte in Drittländern und Supportzugriffe kommen hinzu. All das lässt sich vertraglich einhegen, aber nicht technisch ausschließen. Sie müssen dem Anbieter vertrauen und ihn prüfen.

Bei lokaler KI liegt das Modell als Datei auf Ihrem Rechner und läuft dort als Prozess. Es gibt keinen Server, dem Sie vertrauen müssten. Das lässt sich prüfen: Netzwerkkabel ziehen, Flugmodus einschalten, Firewall-Protokoll ansehen. Funktioniert die Anwendung weiter und zeigt das Protokoll keine Verbindung, ist die Frage beantwortet.

Kosten

Cloud-KI kostet laufend: ein Abonnement je Nutzer und Monat oder eine Abrechnung nach verarbeiteter Textmenge. Die Kosten wachsen mit der Zahl der Arbeitsplätze und mit der Nutzung, und sie hören nicht auf. Dafür entfällt eigene Hardware; ein älterer Laptop mit Browser genügt.

Lokale KI kostet einmal: die Software und, falls nicht vorhanden, einen Rechner mit genügend Arbeitsspeicher und möglichst einer Grafikkarte. Für Lanitum Lector sind 16 GB RAM und eine Vulkan-fähige GPU die Empfehlung; verkauft wird eine Dauerlizenz ohne Abo. Danach fallen nur Strom und gelegentliche Updates an. Ob sich das rechnet, ergibt eine einfache Gegenüberstellung: Monatsbeitrag mal Arbeitsplätze mal zwölf gegen Einmalpreis plus Hardware, die in den meisten Büros bereits steht.

Versteckte Kosten gibt es auf beiden Seiten. Cloud: Zeit für Vertragsprüfung, Auftragsverarbeitung, Datenschutzdokumentation und Schulung, was eingegeben werden darf und was nicht. Lokal: Rechenzeit, wenn die Hardware schwach ist, und die Verantwortung für Backups und Updates liegt bei Ihnen.

Leistung

Hier gewinnt die Cloud, und das sollte man nicht kleinreden. Die großen Modelle der Anbieter laufen auf Rechenzentrumshardware und sind deutlich größer als alles, was auf einem Büro-PC läuft. Sie schreiben besser, argumentieren über längere Zusammenhänge, beherrschen mehr Sprachen und kennen mehr Weltwissen. Sie antworten außerdem schnell, unabhängig von Ihrer Hardware.

Lokale Modelle im Bereich von vier bis acht Milliarden Parametern (in dieser Größe arbeitet auch Lector) sind bei klar umrissenen Aufgaben trotzdem gut genug: Text aus Scans holen, Tabellen erkennen, ein Dokument zusammenfassen, eine Frage zum Inhalt beantworten, Felder aus einem Beleg auslesen. Das sind Aufgaben, bei denen die Antwort im Dokument steht und das Modell sie nur finden muss. Schwächer sind sie beim freien Verfassen langer Texte, bei mehrdeutigen Anweisungen und bei allem, was aktuelles Wissen aus dem Internet braucht. Die Geschwindigkeit hängt von der Grafikkarte ab; ohne GPU wird es zäh.

Wann die Cloud gewinnt

• Texte verfassen, die keine geschützten Inhalte enthalten: Marketing, allgemeine Korrespondenz, Vorlagen.
• Recherche, Übersetzung in seltene Sprachen, Programmierung, Ideensammlung.
• Aufgaben, die aktuelles Wissen oder Internetzugriff brauchen.
• Teams ohne geeignete Hardware oder mit stark schwankender Auslastung.
• Komplexe Analysen über viele lange Dokumente, bei denen kleine Modelle an Grenzen stoßen, vorausgesetzt, die Dokumente dürfen überhaupt hinaus.

Manche Aufgaben brauchen gar keine KI: Eine E-Rechnung gegen die formalen Regeln zu prüfen ist eine deterministische Aufgabe mit eindeutigem Ergebnis. Dafür ist ein Webdienst ohne Konto oft der schnellste Weg. Es gilt dieselbe Vorfrage wie bei jedem Online-Dienst: Darf das Dokument das Haus verlassen?

Wann lokal gewinnt

• Alles, was unter Berufsgeheimnis oder besonders geschützte Daten fällt: Mandantenakten, Patientendaten, Personalunterlagen, Verträge mit Geheimhaltungsklauseln.
• Wiederkehrende Dokumentenaufgaben in großer Zahl, bei denen laufende Cloud-Kosten ins Gewicht fallen.
• Arbeit ohne verlässliche Internetverbindung.
• Situationen, in denen Sie nachweisen müssen, dass nichts das Haus verlassen hat, gegenüber Mandanten, Prüfern oder sich selbst.

Die praktikable Regel

Die meisten Büros brauchen beides. Die Trennlinie ist nicht „Cloud oder lokal“, sondern „Geheimnis oder nicht“: Was ein Geheimnis berührt, bleibt auf dem eigenen Rechner. Was keines berührt, darf in die Cloud, wenn der Vertrag stimmt. Anonymisierung als Brücke funktioniert nur, wenn sie vollständig ist, und das ist bei Fallschilderungen seltener der Fall, als man denkt.

Was Lanitum dazu beiträgt

Lanitum Lector ist die lokale Seite dieses Vergleichs: ein Dokumentenleser mit eingebetteten KI-Modellen, der auf dem Windows-Rechner läuft und nichts nach außen sendet, siehe Lanitum Lector. Für die Prüfung von E-Rechnungen ohne KI gibt es einen Online-Dienst ohne Konto. Für Unternehmen, die Belegeingang, Prüfung und Freigabe im eigenen Haus automatisieren wollen, gibt es die LANITUM Platform als Software für den eigenen Server.

Allgemeine Information, keine Rechts- oder Steuerberatung im Einzelfall.

Zur Übersicht aller Artikel