Zum Inhalt springen

Souveräne Unternehmens-KI

KI nutzen, ohne Ihre Daten aus der Hand zu geben.

On-Premises-KI für den Mittelstand — lokale LLMs, RAG und Assistenten im eigenen Rechenzentrum.

Eigene Assistenten, Chatbots und RAG-Systeme in Ihrem Rechenzentrum oder dediziert in Deutschland. Umgesetzt und betrieben von der HostSpezial GmbH — ISO-27001-zertifizierter IT-Betreiber aus Oberfranken. Ohne Datenabfluss an Public-Cloud-KI.

Abb. 1 · Datenfluss innerhalb Ihrer Grenze

Betrieben von der HostSpezial GmbH ISO 27001 Rechenzentrum in Deutschland

  • Für sensible Unternehmensdaten
  • DSGVO-orientierte Architektur
  • On Premises oder dediziert in Deutschland
  • Integration in bestehende IT
  • Keine Public-Cloud-Pflicht

Warum jetzt

KI nutzt fast jeder. Die Daten kontrolliert kaum jemand.

Der KI-Einsatz im Unternehmen wächst schneller als die Kontrolle darüber. Genau das macht eigene, lokale KI gerade jetzt zum Thema, nicht erst übermorgen.

Schatten-KI wächst

Mitarbeitende nutzen KI-Tools längst, oft ohne Freigabe. Sensible Inhalte verlassen unbemerkt das Unternehmen.

Regulatorik zieht an

DSGVO und die EU-KI-Verordnung verlangen Nachvollziehbarkeit, Datenschutz und klar zugeordnete Verantwortung.

Public Cloud ist nicht für alle

Für Kanzleien, Gesundheitswesen oder KRITIS-nahe Organisationen ist die Auslagerung oft schlicht ausgeschlossen.

Wie KI ohne Cloud das löst

KI ist längst im Unternehmen. Die Kontrolle fehlt.

Tools werden genutzt, Daten fließen ab, niemand führt die Aufsicht. Diese sechs Lücken entstehen, wenn KI ohne klaren Rahmen eingesetzt wird.

Schatten-KI ohne Kontrolle

Mitarbeitende nutzen längst KI-Tools. Niemand weiß genau, welche Inhalte dort eingegeben werden und wo diese Daten landen.

Sensible Daten als Risiko

Geschäftsgeheimnisse, Verträge und Kundendaten gehören nicht ungeprüft in fremde KI-Plattformen mit unklarer Weiterverarbeitung.

Public Cloud passt nicht überall

Regulatorik, Datenschutz und interne Vorgaben lassen den Weg in die Public-Cloud-KI für viele Organisationen nicht zu.

Wissen bleibt ungenutzt

Dokumente, Handbücher, Tickets und Wissensdatenbanken sind vorhanden, aber für die tägliche Arbeit kaum nutzbar erschlossen.

Fehlende Governance

Ohne Regeln, Rollen und Protokollierung entstehen unkontrollierte Datenflüsse und Verantwortung lässt sich nicht mehr zuordnen.

IT verliert die Hoheit

Die IT braucht Kontrolle über Zugriffe, Logs, Modelle und Datenflüsse. Mit externen KI-Diensten endet diese Kontrolle an der Firmengrenze.

Eine lokale KI-Plattform, die auf Ihren Daten arbeitet.

ki-ohne-cloud.de bündelt Hardware, Modelle, Wissenssuche und Zugriff zu einem geschlossenen Betriebsstack in Ihrem Einflussbereich. Sie behalten Kontrolle über Daten, Modelle, Logs und Zugriffe.

Ihr Einflussbereich Betriebsstack
  • Oberfläche & Zugriff Web-UI SSO AD / LDAP
  • KI-Orchestrierung Routing Agenten Workflows
  • Modell-Serving vLLM Ollama
  • Wissen & RAG Qdrant pgvector PostgreSQL
  • Plattform Proxmox Kubernetes Docker
  • Hardware GPU-Server Speicher Netzwerk

Keine Schicht verlässt Ihre Grenze. Public-Cloud-KI bleibt außen vor.

  • Lokale KI-Plattform, betrieben auf Ihrer Hardware oder in dedizierter Infrastruktur
  • Eigene Assistenten, die auf Ihren internen Daten arbeiten
  • RAG über Dokumente, Wikis, Ticketsysteme, Fileserver, DMS und ERP- oder CRM-Schnittstellen
  • Rollen- und Rechtekonzepte, die bestehende Berechtigungen respektieren
  • Kein ungeprüfter Datenabfluss an externe KI-Anbieter
  • Erweiterbar durch Workflows, Agenten und definierte Schnittstellen
Projekt prüfen lassen

Was das für Ihr Unternehmen bedeutet.

Ohne Technik, in einfachen Worten: Sie nutzen moderne KI und behalten trotzdem die Kontrolle über das Wichtigste, Ihre Daten.

Ihre Daten bleiben bei Ihnen

Sensible Informationen verlassen das Haus nicht. Sie geben keine Kontrolle an fremde Anbieter ab.

Kosten bleiben planbar

Eigene Infrastruktur statt Abrechnung pro Anfrage. Sie wissen vorher, was es kostet.

Sie bleiben unabhängig

Keine Bindung an einen einzelnen Cloud-Anbieter. Die Lösung lässt sich anpassen und mitwachsen.

Prüfbar und nachvollziehbar

Jede Antwort hat eine Quelle, jeder Zugriff ist protokolliert. Gut für Datenschutz und Prüfungen.

Warum mit uns

Kein KI-Startup. Ein Betreiber, der täglich Verantwortung trägt.

On-Premises-KI ist Infrastruktur. Sie braucht jemanden, der sie nicht nur aufsetzt, sondern sicher betreibt — mit nachweisbaren Prozessen.

ISO 27001

zertifizierter IT-Betrieb (HostSpezial GmbH)

On-Premises

im eigenen oder dedizierten Rechenzentrum in Deutschland

Managed

Betrieb, Monitoring und Updates auf Wunsch komplett übernommen

Herkunft

Hinter ki-ohne-cloud.de steht die HostSpezial GmbH, ein ISO-27001-zertifizierter Managed-Service-Provider aus Lichtenfels, Oberfranken. Wir betreiben seit Jahren IT für mittelständische Unternehmen — On-Premises-KI ist die konsequente Erweiterung, unter unserer Marke ki·spezial.

Das heißt für Sie: ein Ansprechpartner für Beratung, Infrastruktur, Sicherheit und Betrieb — mit echtem Rechenzentrum, festen Verantwortlichkeiten und klaren SLAs.

Referenzen

Aus Vertraulichkeit nennen wir Kundenprojekte nicht öffentlich. Im Erstgespräch zeigen wir Ihnen passende, anonymisierte Beispiele aus Ihrer Branche.

Referenzen im Gespräch anfragen

Antworten aus Ihrem Wissen, mit Quelle und Recht.

Ihre lokale KI durchsucht interne Dokumente, nennt die Quelle und respektiert Berechtigungen. Kein Datenabfluss, keine Antwort ohne Beleg.

  • Mit Quellenangabe

    Jede Antwort verweist auf das zugrunde liegende Dokument. Nachprüfbar statt geraten.

  • Rechtebewusst

    Die KI zeigt und beantwortet nur, was der jeweilige Benutzer ohnehin sehen darf.

  • Im eigenen Betrieb

    Verarbeitung on premises oder dediziert in Deutschland. Ohne Public-Cloud-KI.

Interner KI-Assistent On-Premises

Bis zu welchem Betrag darf ich Bestellungen ohne zweite Freigabe auslösen?

Bestellungen bis 5.000 € geben Sie eigenständig frei. Ab 5.000 € ist die Freigabe der Bereichsleitung nötig, ab 25.000 € zusätzlich die der Geschäftsführung.

Beschaffungsrichtlinie 2025.pdf · S. 7 Freigabe-Matrix · Intranet-Wiki
Lokal verarbeitet. Zugriffsrechte geprüft, nur sichtbar, was Sie sehen dürfen.
vLLM Ollama Qdrant pgvector PostgreSQL Proxmox Kubernetes Docker AD / LDAP SSO Nextcloud Open-Source-LLMs RAG vLLM Ollama Qdrant pgvector PostgreSQL Proxmox Kubernetes Docker AD / LDAP SSO Nextcloud Open-Source-LLMs RAG

Leistungsbausteine

Alles, was souveräne KI im Betrieb braucht.

Von der Architektur über die Modelle bis zum laufenden Betrieb. Modular kombinierbar, abgestimmt auf Ihre IT.

KI-Strategie & Architektur

Fundament

Zieldefinition, Use-Case-Bewertung und tragfähige Architektur, abgestimmt auf Ihre IT und Ihre Datenschutzanforderungen.

Lokale LLM-Infrastruktur

Betrieb offener Sprachmodelle mit vLLM oder Ollama, dimensioniert auf Ihre Last und Ihre Hardware.

RAG & Wissenssuche

Antworten auf Basis Ihrer eigenen Dokumente, mit Quellenangabe und Vektorsuche über Qdrant oder pgvector.

Interne Chatbots & Assistenten

Assistenten für Fachabteilungen, angebunden an interne Quellen und in Ihre Oberflächen integriert.

Automatisierung & Agenten

Wiederkehrende Abläufe als nachvollziehbare Workflows, mit klar definierten Aktionen und Freigaben.

Datenschutz & Governance

Rollen, Protokollierung, Datenklassifizierung und Löschkonzepte als fester Bestandteil der Architektur.

Integration in AD/LDAP/SSO

Single Sign-on und bestehende Verzeichnisdienste, damit Identitäten und Rechte zentral gültig bleiben.

Betrieb, Monitoring & Wartung

Stabiler Betrieb mit Überwachung, Updates und klaren Verantwortlichkeiten, auf Wunsch als Managed Service.

GPU-Server & Infrastruktur

Planung und Auslegung von GPU-Servern, Proxmox, Kubernetes und Docker für Ihren KI-Betrieb.

Schulung & Einführung

Befähigung Ihrer Teams, klare Nutzungsregeln und eine Einführung, die im Arbeitsalltag wirklich ankommt.

Wo lokale KI im Alltag konkret entlastet.

Anwendungsfälle, die mit internem Wissen arbeiten und Berechtigungen respektieren. Eine Auswahl aus der Praxis.

Interner Wissensassistent

Mitarbeitende finden Antworten aus internen Quellen, statt lange in Ordnern und Wikis zu suchen.

Richtlinien & Handbücher

Ein Assistent für Arbeitsanweisungen, Richtlinien und Prozessbeschreibungen, jederzeit auskunftsfähig.

Vertrags- & Dokumentenanalyse

Verträge und Dokumente prüfen, Kernpunkte zusammenfassen und gezielt nach Klauseln durchsuchen.

IT-Support-Assistent

Anbindung an Ticket- und Wissensdatenbank für schnellere und konsistente Antworten im Support.

HR-Assistent

Auskunft zu internen Prozessen, Formularen und Regelungen, datenschutzkonform und rollenbasiert.

Qualitätsmanagement

Recherche in Prüfvorgaben und Normen, Zusammenfassungen und konsistente Entscheidungsgrundlagen.

Architektur · für Ihre IT

Vom Benutzer bis zur Datenquelle, in Ihrem Einflussbereich.

Jeder Schritt läuft innerhalb Ihrer Grenze. Berechtigungen greifen vor dem Modell, nicht erst danach.

  1. Benutzer Anmeldung mit bestehender Identität
  2. Weboberfläche Chat, Suche und Assistenten
  3. Rechteprüfung / SSO AD, LDAP, Single Sign-on
  4. KI-Orchestrierung Routing, Werkzeuge, Workflows
  5. Lokales LLM Offene Modelle, eigene Hardware
  6. Vektordatenbank / RAG Qdrant, pgvector
Interne Datenquellen
  • Fileserver
  • SharePoint / Nextcloud
  • Redmine
  • DMS
  • Wiki
  • Ticketsystem
  • Datenbanken
  • ERP / CRM

Zugriffsrechte werden respektiert. Die KI sieht und beantwortet nie mehr, als der jeweilige Benutzer ohnehin sehen darf. E-Mail-Archive werden nur angebunden, wenn dies rechtlich und organisatorisch sauber freigegeben ist.

Das Produkt

KIS:UI — Ihr KI-Betriebssystem.

Nicht nur ein Chatfenster. Eine Oberfläche für den ganzen KI-Workflow Ihres Hauses: Modelle, Wissen, Automatisierung, Rechte und Audit — 100 % On-Premise, auf Ihrer Hardware oder dediziert in Deutschland.

Die gleiche KI, die Ihr Team kennt — ohne Ihre Daten herzugeben.

Multi-Provider-LLM-Router

Mehrere Modelle unter einer Oberfläche, frei wähl- und tauschbar — kein Lock-in.

RAG-Wissensdatenbanken

Euer gesamtes Wissen befragbar, mit Quellenangabe — vom Rohdokument zur belegten Antwort.

Workflow-Builder

Automatisierung im n8n-Stil, mit KI-Knoten — ganze Abläufe statt Einzelanfragen.

LDAP / AD & SSO

Bestehende Identitäten und Rechte gelten weiter, zentral durchgesetzt.

Lückenloses Audit

Jede Aktion nachvollziehbar — gebaut für Compliance-Abteilungen.

Mandantenfähig

Saubere Trennung von Bereichen und Teams auf einer Plattform.

Vergleich

Public-Cloud-KI und KI ohne Cloud, sachlich gegenübergestellt.

Beides hat seinen Platz. Diese Gegenüberstellung zeigt, worauf es bei sensiblen Daten und eigenem Betrieb ankommt.

Kriterium Public-Cloud-KI KI ohne Cloud
Datenkontrolle Daten verlassen Ihren Einflussbereich Daten bleiben in Ihrem Einflussbereich
Datenschutz Abhängig von Anbieter und Standort DSGVO-orientiert, im eigenen Betrieb
Anpassbarkeit Begrenzt auf die Anbieterplattform Modelle, Daten und Logik nach Bedarf
Integration Über vorgegebene Schnittstellen Tief in bestehende Systeme integrierbar
Betriebsmodell Mandantengeteilte Plattform On Premises oder dediziert in Deutschland
Kostenkontrolle Verbrauchsabhängig, schwer planbar Planbare Infrastruktur, keine Token-Abrechnung
Modellwahl Auf das Anbieterportfolio beschränkt Offene Modelle frei wähl- und tauschbar
Auditierbarkeit Eingeschränkter Einblick Eigene Logs und Nachvollziehbarkeit
Governance Anbieterregeln gelten Eigene Rollen, Regeln und Freigaben
Anbieterabhängigkeit Bindung an einen Anbieter Souveränität über den eigenen Betrieb

Sicherheit und Compliance, von Anfang an mitgedacht.

Datenschutz ist kein Aufsatz, sondern Teil der Architektur. Diese Bausteine gehören für uns zum Standard.

Rollen & Rechte aus AD/LDAP

Bestehende Berechtigungen werden durchgesetzt — die KI zeigt niemandem mehr, als er ohnehin sehen darf.

Logging & Nachvollziehbarkeit

Zugriffe und Aktionen sind protokolliert und auswertbar — eigene Logs, eigener Einblick.

Kein ungeprüftes Training

Sensible Daten werden nicht ungeprüft zum Training fremder Modelle verwendet.

Mandantentrennung

Saubere Trennung von Bereichen, Abteilungen und Datenräumen.

Verschlüsselung

Schutz der Daten bei Übertragung und im Speicher.

DSGVO & EU-KI-Verordnung mitgedacht

Datenschutz und regulatorischer Rahmen sind Teil der Architektur, nicht nachträglicher Zusatz.

Hinweis: Wir unterstützen bei der technischen und organisatorischen Umsetzung datenschutzorientierter KI-Architekturen. Das ist keine Rechtsberatung. Die rechtliche Bewertung im Einzelfall liegt bei Ihnen und Ihren Datenschutzverantwortlichen.

Ein klarer Weg, vom Erstgespräch zum Betrieb.

Nachvollziehbar in Schritten, jeder mit einem prüfbaren Ergebnis. Kein Sprung ins Ungewisse.

  1. 01

    Erstgespräch & Zieldefinition

    Wir klären Anwendungsfälle, Rahmenbedingungen und ein realistisches Zielbild.

  2. 02

    Daten- & Systemanalyse

    Bestandsaufnahme der Datenquellen, Systeme und vorhandenen Infrastruktur.

  3. 03

    Sicherheits- & Datenschutzbewertung

    Bewertung von Risiken, Schutzbedarf und organisatorischen Anforderungen.

  4. 04

    Architekturkonzept

    Tragfähiges Konzept für Modelle, RAG, Integration, Rollen und Betrieb.

  5. 05

    Proof of Concept

    Belastbarer Nachweis am konkreten Anwendungsfall mit Ihren Daten.

  6. 06

    Pilotbetrieb

    Begleiteter Betrieb mit einer überschaubaren Nutzergruppe.

  7. 07

    Produktivsetzung

    Ausrollung in den Regelbetrieb mit klaren Verantwortlichkeiten.

  8. 08

    Betrieb & kontinuierliche Verbesserung

    Monitoring, Wartung und Weiterentwicklung im laufenden Betrieb.

Für Organisationen, die Verantwortung für ihre Daten tragen.

Vom Entscheider bis zur Fachabteilung. Souveräne KI bringt für jede Rolle einen klaren Nutzen.

Geschäftsführung

Nutzen und Kontrolle in Einklang, ohne unkalkulierbares Datenschutzrisiko.

IT-Leitung

Hoheit über Zugriffe, Modelle, Logs und Datenflüsse, integriert in die eigene IT.

Datenschutzbeauftragte

Nachvollziehbare Datenverarbeitung im eigenen Einflussbereich.

Fachabteilungen

Konkrete Entlastung im Arbeitsalltag durch Assistenten auf internen Daten.

Mittelstand

Pragmatischer Einstieg in eigene KI, planbar und ohne Cloud-Pflicht.

Sensible Datenbereiche

Kanzleien, Gesundheitswesen und KRITIS-nahe Organisationen.

Eigene Infrastruktur

Organisationen mit eigenem Rechenzentrum, die ihre Hardware nutzen wollen.

KI nutzen. Daten behalten. Infrastruktur kontrollieren.

Häufige Fragen zu KI ohne Cloud.

Die wichtigsten Punkte zu Datenschutz, Modellen, Betrieb und Aufwand, kompakt beantwortet.

Was bedeutet KI ohne Cloud?

KI ohne Cloud bedeutet, dass Sprachmodelle und KI-Anwendungen in Ihrem eigenen Einflussbereich laufen: im eigenen Rechenzentrum, im Kundenrechenzentrum oder in dedizierter deutscher Infrastruktur. Ihre Daten werden nicht ungeprüft an Public-Cloud-KI-Dienste übergeben.

Ist lokale KI genauso gut wie ChatGPT?

Für viele Unternehmensaufgaben erreichen offene Modelle in Kombination mit RAG über Ihre eigenen Daten sehr gute Ergebnisse, gerade weil sie auf Ihrem internen Wissen arbeiten. Die passende Modellgröße hängt vom Anwendungsfall und der verfügbaren Hardware ab. Im Proof of Concept prüfen wir die Qualität an Ihren realen Fällen.

Welche Datenquellen können angebunden werden?

Typisch sind Fileserver, SharePoint oder Nextcloud, Wikis, Ticketsysteme, DMS, Datenbanken sowie ERP- und CRM-Systeme. E-Mail-Archive werden nur angebunden, wenn dies rechtlich und organisatorisch sauber freigegeben ist.

Können bestehende Zugriffsrechte berücksichtigt werden?

Ja. Bestehende Berechtigungen aus AD oder LDAP werden durchgesetzt. Die KI darf nicht mehr Inhalte sehen oder beantworten, als der jeweilige Benutzer ohnehin sehen darf.

Brauchen wir eigene GPU-Server?

Nicht zwingend. Je nach Modell und Last sind unterschiedliche Hardware-Setups möglich, von vorhandener Infrastruktur bis zu dedizierten GPU-Servern. Wir dimensionieren die Hardware passend zu Ihrem Bedarf.

Kann die Lösung im eigenen Rechenzentrum laufen?

Ja. Der Betrieb ist im eigenen Rechenzentrum, im Kundenrechenzentrum oder in dedizierter deutscher Infrastruktur möglich. Sie behalten die Kontrolle über Standort und Betrieb.

Ist das DSGVO-konform?

Die Architektur ist datenschutzorientiert aufgebaut, mit Rollen, Protokollierung, Verschlüsselung und Löschkonzepten. Wir unterstützen bei der technischen und organisatorischen Umsetzung. Die rechtliche Bewertung im Einzelfall liegt bei Ihnen und Ihren Datenschutzverantwortlichen.

Welche Modelle können genutzt werden?

Es lassen sich verschiedene offene Sprachmodelle einsetzen und je nach Anforderung austauschen. Die Auswahl richtet sich nach Aufgabe, Sprache, Qualität und verfügbarer Hardware.

Können Open-Source-Modelle eingesetzt werden?

Ja. Der Einsatz offener Modelle ist ein zentraler Baustein. Das vermeidet Anbieterbindung und gibt Ihnen Kontrolle über Modellwahl und Betrieb.

Wie lange dauert ein Proof of Concept?

Ein Proof of Concept ist meist in wenigen Wochen umsetzbar, abhängig vom Anwendungsfall, den Datenquellen und der vorhandenen Infrastruktur. Ziel ist ein belastbares Ergebnis an Ihren realen Daten.

Was kostet KI On Premises?

Die Kosten hängen von Anwendungsfall, Datenmenge, gewünschter Verfügbarkeit und Hardware ab. Statt verbrauchsabhängiger Token-Abrechnung steht eine planbare Infrastruktur im Vordergrund. Nach der ersten Analyse erhalten Sie eine fundierte Einordnung.

Für welche Unternehmen lohnt sich das?

Besonders für Organisationen mit sensiblen Daten, regulatorischen Anforderungen oder eigener Infrastruktur: Mittelstand, Industrie, Kanzleien, Gesundheitswesen sowie KRITIS-nahe Organisationen.

Kann man später skalieren?

Ja. Die Architektur ist auf Wachstum ausgelegt. Modelle, Hardware und Anwendungsfälle lassen sich erweitern, ohne den grundlegenden Ansatz zu verlassen.

Gibt es Monitoring und Betrieb?

Ja. Monitoring, Wartung und Updates gehören dazu und sind auf Wunsch als Managed Service möglich, mit klaren Verantwortlichkeiten für den laufenden Betrieb.

Wer steckt hinter ki-ohne-cloud.de?

Hinter dem Angebot steht die HostSpezial GmbH aus Lichtenfels, ein ISO-27001-zertifizierter Managed-Service-Provider, der seit Jahren IT für mittelständische Unternehmen betreibt. KI ohne Cloud ist die On-Premises-KI-Linie unter ihrer Marke ki·spezial. Sie bekommen also keinen reinen KI-Berater, sondern einen Partner, der Infrastruktur und Betrieb täglich verantwortet.

Wer hat im Betrieb Zugriff auf unsere Daten?

Standardmäßig niemand außer Ihren berechtigten Nutzern. Für Wartung und Managed-Service-Aufgaben werden Zugriffe vertraglich geregelt, auf das Notwendige begrenzt und protokolliert. Auf Wunsch arbeiten wir unter NDA und mit definierten Wartungsfenstern.

Wie schnell sind wir startklar?

Ein erstes Erstgespräch ist kurzfristig möglich, ein Proof of Concept an Ihren realen Daten meist in wenigen Wochen. Der genaue Zeitrahmen hängt von Anwendungsfall, Datenquellen und vorhandener Infrastruktur ab.

Prüfen Sie, wie KI in Ihrem Unternehmen nutzbar wird, ohne Ihre Daten aus der Hand zu geben.

Schildern Sie kurz Ihr Vorhaben. Wir melden uns mit einer ersten Einschätzung und den nächsten sinnvollen Schritten.

  • Unverbindliches Erstgespräch zur Einordnung Ihrer Anwendungsfälle
  • Klarer Blick auf Datenschutz, Architektur und Aufwand
  • Antwort in der Regel innerhalb eines Werktags
Interesse an

Antwort in der Regel innerhalb eines Werktags. Ihre Angaben behandeln wir vertraulich.