Modellwahl und Datenwege bewusst planen.
Eine lokale KI verarbeitet Aufgaben in der eigenen oder dedizierten Umgebung. Frontier-Modelle werden über externe Dienste genutzt. Eine hybride KI verbindet beide Verarbeitungswege. NetTask plant die Zuordnung nach Aufgabe, Datenklasse, Berechtigungen und Betriebsanforderungen.
- Lokal
- Modell und erforderliche Abhängigkeiten für den vereinbarten lokalen Verarbeitungsbereich auslegen.
- Frontier
- Nur Inhalte an einen externen Modelldienst übermitteln, die für diesen Dienst freigegeben sind.
- Hybrid
- Erlaubte Übergaben definieren und prüfen. Ein externer Aufruf ist kein stillschweigender Rückfallweg.
Wo wird die Aufgabe verarbeitet.
Schematische Architektur · Kein Modellaufruf und keine Datenübertragung
01 · Eingang
Aufgabe & Daten.
Identität, Berechtigung und Datenklasse
02 · Verarbeitungsweg
Regelbasierte Zuordnung.
Datenfreigabe und Aufgabe bestimmen das Ziel.
03 · Modell
Lokales Modell.
In Ihrer Umgebung
Frontier-Modell.
Externer Modelldienst
Beide Modellwelten gezielt verbinden.
Schutzbedürftige Inhalte bleiben in der lokalen Verarbeitung. Externe Modelle erhalten ausschließlich Daten, die nach den vereinbarten Regeln für diesen Dienst freigegeben sind. Die Trennung und die Übergaben werden technisch umgesetzt und geprüft.
Auch Prompts, angehängte Dateien, abgerufene Quellen, Protokolle und Metadaten werden in der Datenflussplanung berücksichtigt.
Schematische Architektur · Kein Modellaufruf und keine Datenübertragung
01 · Eingang
Aufgabe & Daten.
Identität, Berechtigung und Datenklasse
02 · Verarbeitungsweg
Lokaler Verarbeitungsweg.
Keine Übergabe an externe Modelldienste.
03 · Modell
Lokales Modell.
In Ihrer Umgebung
Inferenz vollständig in Ihrer Umgebung.
Modelle und die erforderlichen Verarbeitungskomponenten laufen im festgelegten lokalen Bereich. Für einen vollständig offlinefähigen Betrieb werden auch Identität, Dokumentverarbeitung und weitere Abhängigkeiten entsprechend ausgelegt. Ein externer Modellaufruf ist kein automatischer Rückfallweg.
Auch Prompts, angehängte Dateien, abgerufene Quellen, Protokolle und Metadaten werden in der Datenflussplanung berücksichtigt.
Schematische Architektur · Kein Modellaufruf und keine Datenübertragung
01 · Eingang
Aufgabe & Daten.
Identität, Berechtigung und Datenklasse
02 · Verarbeitungsweg
Freigabe vor Übermittlung.
Nur zugelassene Inhalte an den vereinbarten Dienst.
03 · Modell
Frontier-Modell.
Externer Modelldienst
Externe Modelle für freigegebene Aufgaben.
Die Inferenz erfolgt beim externen Modelldienst. Deshalb müssen alle übermittelten Inhalte einschließlich Kontext und Anhängen dafür freigegeben sein. Datenverarbeitung, Zugriff und Dienstabhängigkeiten sind Bestandteil der Architekturentscheidung.
Auch Prompts, angehängte Dateien, abgerufene Quellen, Protokolle und Metadaten werden in der Datenflussplanung berücksichtigt.
Drei Konzepte im Vergleich.
Auf kleinen Bildschirmen werden die drei Konzepte je Kriterium untereinander dargestellt.
| Kriterium | Vollständig lokal | Frontier-Modelle | Hybrid |
|---|---|---|---|
| Inferenz | In der eigenen oder dedizierten Umgebung | Bei einem externen Modelldienst | Je nach Aufgabe lokal oder extern |
| Datenfreigabe | Daten bleiben im festgelegten lokalen Verarbeitungsbereich | Übermittelte Inhalte müssen für den Dienst freigegeben sein | Regeln pro Datenklasse und Verarbeitungsweg |
| Betrieb | Modellserver, Hardware, Kapazität und Updates einplanen | Schnittstellen, Nutzungsbedingungen und Dienstabhängigkeit einplanen | Beide Betriebswege und ihre Übergänge betreuen |
| Offline-Nutzung | Bei entsprechend ausgelegter Gesamtlösung möglich | Für externe Inferenz nicht möglich | Nur für ausdrücklich offlinefähige lokale Teilabläufe |
| Wichtige Prüfung | Aufgabenqualität auf der Zielhardware | Aufgabenqualität und zulässiger Datenfluss | Trennung, Routing und Verhalten bei Ausfällen |
Das Modell ist ein Baustein.
Wenn „vollständig lokal“ vereinbart ist, bleibt die Inferenz lokal.
Ein externer Ersatzaufruf wird nicht stillschweigend zugeschaltet. Offline-Installation, lokale Abhängigkeiten und ein vollständiger Testdurchlauf ohne Internet können Teil der vereinbarten Abnahme sein.
Offen aufgebaut. Passend zu Ihrer IT.
Vier Bausteine für Ihre KI-Lösung. Wir wählen und kombinieren sie anhand Ihrer Anforderungen und Ihrer bestehenden Umgebung.
Modelle passend einsetzen.
Lokale und externe Modelle über definierte Schnittstellen einbinden. Welche Modelle geeignet sind, entscheidet Ihre Aufgabe.
Lokale Modellserver mit vLLM oder llama.cpp; externe Modelldienste über vereinbarte Schnittstellen.
Unternehmenswissen erschließen.
Datenquellen anbinden und Informationen für die jeweilige Anwendung auffindbar und verarbeitbar machen.
PostgreSQL mit Vektorunterstützung, selbst betriebene Datenplattformen und Worker-Queues.
Anwendungen integrieren.
KI mit Ihren Fachprozessen verbinden – über individuelle Oberflächen und geprüfte Schnittstellen.
Angular, TypeScript, Node.js, validierte Schnittstellen und OpenAPI.
Betrieb planbar machen.
Komponenten nachvollziehbar ausliefern, Änderungen prüfen und Wiederherstellung von Anfang an berücksichtigen.
Container, versionierte Komponenten, CI-Prüfungen sowie Backup- und Wiederherstellungsverfahren.
Die Architektur folgt Ihrem Vorhaben. Diese Beispiele zeigen unsere Kompetenzbausteine – die konkrete Auswahl treffen wir im Projekt.
Sprechen wir über Ihr KI-Vorhaben.
Wir sprechen über Ihre Ziele, Ihre Daten und einen passenden Einstieg.
Anbieter: NetTask GmbH · Ihr Vorhaben besprechen
Mehr zur NetTask AI Factory.
NetTask auf LinkedIn
Bleiben wir in Verbindung.
Einblicke von NetTask in modernes Arbeiten, KI und IT. Folgen Sie unserer Unternehmensseite auf LinkedIn.