Vertiefung · Unternehmenswissen
Hardware, Integration und laufender Betrieb
Ein KI-System muss nicht nur antworten. Es muss dimensioniert, überwacht, aktualisiert und dauerhaft verantwortet werden.
Hardware folgt dem Anwendungsfall
Die erforderliche Infrastruktur hängt von Nutzerzahl, Dokumentmenge, Antwortzeit, Modellgröße und Verfügbarkeitsziel ab. Kleine Wissenssysteme können schlank starten; parallele Nutzung und große lokale Modelle benötigen deutlich mehr GPU- und Arbeitsspeicher.
- CPU und RAM für Extraktion, Suche und Datenbanken
- GPU-Speicher für lokale Sprach- und Embeddingmodelle
- Schneller Speicher für Indizes und Dokumentversionen
- Reserven für Wachstum, Tests und Updates
Integration statt Insel
Ein produktives Wissenssystem bezieht Inhalte aus vorhandenen Ablagen und stellt Antworten dort bereit, wo gearbeitet wird: im Intranet, im Kundenportal, im ITSM oder in einer eigenen Fachanwendung. Schnittstellen und Identitäten gehören deshalb von Beginn an zur Architektur.
Betrieb ist Teil des Produkts
Monitoring, Backups, Sicherheitsupdates, Modellwechsel und Qualitätsregressionen müssen geplant sein. Bottamatik kann Systeme übergeben, gemeinsam betreiben oder dauerhaft warten – abhängig von den vorhandenen Kompetenzen und Verantwortlichkeiten.
Fachliche Vertiefung
Weitere Vertiefungen dieser Themenwelt
RAG-Wissenssysteme
Unternehmensdokumente gezielt durchsuchen, relevante Quellen bereitstellen und Antworten nachvollziehbar belegen.
Vertiefen →02Datenschutz und Berechtigungen
Lokale Infrastruktur hilft – DSGVO-Konformität entsteht jedoch erst durch Datenminimierung, Rollen, Löschregeln und einen geklärten Betrieb.
Vertiefen →Lokale KI für Unternehmen
Unternehmenswissen sicher nutzbar machen – mit RAG, nachvollziehbaren Quellen, klaren Berechtigungen und einem beherrschbaren Betriebsmodell.
Nächster Schritt
Vorhaben fachlich einordnen
Der passende Einstieg wird an Quellen, Prozessen, Rollen und Betriebsanforderungen festgelegt.