Zum Hauptinhalt springen

Cloud und Rechenzentrum · Private Künstliche Intelligenz

Private KI: ein Assistent für die Dokumente und Daten Ihres Unternehmens

Wir bündeln Ihre Informationen auf einer KI- und Massenspeicherplattform auf dedizierter Hardware, mit einer dialogbasierten Oberfläche zum Finden von Informationen, zum Zusammenfassen von Dokumenten und zum Erstellen von Statistiken.

  • Dedizierte Hardware
  • Bis zu 200 TB brutto
  • 128 GB einheitlicher Speicher
  • Optionales privates Netzwerk bis 10 Gb/s

Was Private KI ist und wovon sie abhängt

Private KI ist eine Cloud-Lösung für KI und Massenspeicher auf dedizierter Hardware: ein System mit AMD Ryzen AI Max+ 395 Prozessor, 128 GB einheitlichem Speicher und bis zu 200 TB brutto, das über eine dialogbasierte Oberfläche für Anfragen zu Unternehmensdokumenten und -daten genutzt wird.

Die Antworten hängen von den Daten, Quellen und Integrationen ab, die für jedes Projekt eingerichtet werden. Wir versprechen keine Konnektoren oder Funktionen, die in Ihrem Umfang nicht umgesetzt sind.

Anwendungsfälle

Wozu ein Assistent über Ihren eigenen Informationen dient

Ein privater Assistent beantwortet Fragen auf Basis der Dokumente und Daten, die Ihr Unternehmen beisteuert. Der Wert hängt von der Qualität und Ordnung dieser Informationen ab, nicht von der Plattform allein.

Dokumentsuche

Einen Vertrag, eine Verfahrensanweisung oder eine bestimmte Version finden, ohne zu wissen, in welchem Ordner sie liegt.

Internes Wissen

Kriterien, gelöste Störungen oder Richtlinien der Organisation in natürlicher Sprache abfragen.

Zusammenfassungen

Eine Zusammenfassung langer Protokolle, Berichte oder Vorgänge, mit Zugriff auf das Originaldokument.

Informationsanalyse

Texte vergleichen oder die Kernpunkte aus einer Menge von Dokumenten herausziehen.

Statistiken

Zählungen und Trends aus den Daten erstellen, die angebunden und geprüft wurden.

Jeder Anwendungsfall verlangt, dass Daten, Quellen und Integrationen für dieses Projekt eingerichtet und getestet sind. Nicht umgesetzte Konnektoren werden nicht beworben.

Privatsphäre und Kontrolle

Was Sie steuern und was von der Konfiguration abhängt

KI und Daten auf privater dedizierter Infrastruktur zu betreiben gibt mehr Kontrolle über die Umgebung: zentralisierter Speicher, nach Organisation definierte Berechtigungen und die Möglichkeit, die Exposition sensibler Informationen zu begrenzen.

Diese Privatsphäre ist nicht automatisch: sie hängt davon ab, ob der Ablauf lokale Modelle oder externe Dienste nutzt.

Was die private Umgebung bringt

  • Kontrolle über die Umgebung, in der Modelle laufen und Daten gespeichert werden.
  • Zentralisierter Speicher statt verteilter Kopien.
  • Nach Organisation definierte Berechtigungen.
  • Weniger Exposition sensibler Informationen gegenüber Drittanbieterdiensten.

Was zu prüfen ist

  • Ob eine Anfrage ein lokales Modell oder eine externe API nutzt.
  • Ob der gesamte Ablauf (Indexierung, Embeddings, Antworten) in der Umgebung bleibt.
  • Die Verarbeitungsbedingungen jeder Drittanbieterintegration.

Wir behaupten nur dann, dass Anfragen und Dokumente in der privaten Umgebung bleiben, wenn die Konfiguration lokale Modelle verwendet und dies über den gesamten Ablauf geprüft ist. Bei externen Diensten oder Drittanbieterintegrationen hängt die Verarbeitung von deren Bedingungen ab. Wir stellen den Dienst nicht als zu 100 % sicher dar, nicht als physisch für jeden Kunden isoliert und nicht als alleinige Garantie für die DS-GVO-Konformität.

Technische Daten

Konfigurierbare Hardware und Speicher

Die Plattform wird nach dem Informationsvolumen und den auszuführenden Modellen dimensioniert. Der Speicher kombiniert NVMe und HDD mit unterschiedlichen Aufgaben.

  • NVMe für häufig genutzte Daten, Modelle oder Cache.
  • HDD für große Mengen und Archivierung.
  • Bis zu 200 TB brutto: bis zu 160 TB HDD und 40 TB NVMe, je nach installierten Laufwerken.

Die 200 TB sind die maximale Bruttokapazität. Der nutzbare Platz hängt von den gewählten Laufwerken, dem Format, der Redundanzkonfiguration und dem Dateisystem ab.

Integration

Verbunden mit Ihrer Cloud oder Ihren dedizierten Servern

Die Lösung kann optional über ein privates Netzwerk mit bis zu 10 Gb/s an Cloud- oder dedizierte Server von Seintec angebunden werden, je nach Architektur und gebuchter Konnektivität.

Sie kann auch externalisierte Sicherungen einbinden.

Privates Netzwerk und externalisierte Sicherungen sind konfigurierbare Dienste, keine automatisch enthaltenen Leistungen der Plattform.

Dienstumfang

Was wir mit Ihnen festlegen und was außen vor bleibt

Das Angebot hält schriftlich fest, was der Dienst umfasst und was separat konfiguriert wird, damit nichts vorausgesetzt werden muss.

Im Projekt festgelegt

  • Hardware, Laufwerke und Kapazität nach Volumen und Lasten.
  • Welche Modelle laufen und wie man darauf zugreift.
  • Welche Quellen, Berechtigungen und Integrationen angebunden werden.
  • Administration, Überwachung und Support nach vereinbarter Modalität.

Nicht standardmäßig enthalten

  • Konnektoren zu nicht gebuchten Anwendungen.
  • Zusätzliche Verschlüsselung, Zwei-Faktor-Authentifizierung, Auditierung oder Aufbewahrung.
  • Zertifizierungen oder nachgewiesene Rechtskonformität.
  • Physische Isolation für ein einzelnes Unternehmen.

Wenn Sie zusätzliche Isolation benötigen, ist das eine Design- und Umfangsentscheidung: sie wird separat bewertet und kalkuliert.

Mehrere Unternehmen auf derselben Hardware

Getrennte Sitzungen, Anmeldedaten und Arbeitsbereiche

Wenn die Architektur mehrere Unternehmen auf derselben Hardware bedient, teilen wir keine Sitzungen, Anmeldedaten oder Arbeitsbereiche zwischen Organisationen.

Die Trennung wird nur in den Begriffen beschrieben, die die Umsetzung überprüfbar macht; wird eine stärkere Isolation verlangt, ist das eine Design- und Umfangsentscheidung.

So geht es los

  1. 01

    Prüfung von Daten und Anwendungsfällen

    Wir inventarisieren Dokumente und Systeme und wählen die Anwendungsfälle mit Mehrwert. Ohne geordnete Daten antwortet der Assistent schlecht.

  2. 02

    Dimensionierung

    Wir wählen Laufwerke, Speicher und Modelle nach Volumen, Parallelität und Art der Anfragen. Bruttokapazität ist kein nutzbarer Platz.

  3. 03

    Bereitstellung

    Wir bereiten die Plattform vor, installieren die Laufwerke und stellen die Umgebung zum Laden der Quellen bereit.

  4. 04

    Quellen, Berechtigungen und Integrationen

    Wir binden die vereinbarten Quellen an, definieren Berechtigungen je Organisation und prüfen, dass jeder Nutzer sieht, was er sehen darf.

  5. 05

    Tests und Übergabe

    Wir validieren Antworten an Ihren Dokumenten, dokumentieren den Umfang und vereinbaren den Betrieb.

Zeitplan und Verantwortlichkeiten werden im Angebot vereinbart. Wir versprechen keine einheitlichen Fristen und kein Startdatum ohne Prüfung des Projekts.

Spezifikationen der Plattform

Maximale Leistungsfähigkeit der Plattform. Was installiert und was gebucht wird, hängt von Ihrem Projekt ab.

Spezifikationen der Plattform
KomponenteKapazität oder Bedingung
ProzessorAMD Ryzen AI Max+ 395
Einheitlicher Speicher128 GB LPDDR5X
RechenleistungBis zu 126 TOPS gesamte Rechenleistung; nicht als ausschließliche NPU-Leistung gemeint
LaufwerkseinschübeFünf Einschübe für HDD-SATA-Laufwerke
ErweiterungsslotsFünf M.2-NVMe-Slots
BruttospeicherBis zu 200 TB brutto: bis zu 160 TB HDD und bis zu 40 TB NVMe, je nach installierten Laufwerken
Empfohlene NVMe-NutzungHäufig genutzte Daten, Modelle oder Cache
Empfohlene HDD-NutzungGroße Mengen und Archivierung
Privates Netzwerk (optional)Bis zu 10 Gb/s zu Cloud- oder dedizierten Servern von Seintec, je nach architektur und gebuchter Konnektivität
Sicherungen (optional)Externalisiert, als konfigurierbarer Dienst

Häufige Fragen zur Private KI

Verlassen die Daten die private Umgebung?

Das hängt von der Konfiguration ab. Wenn der gesamte Ablauf lokale Modelle nutzt und das geprüft ist, bleiben Anfragen und Dokumente in der Umgebung. Werden externe Modelle oder APIs oder Drittanbieterintegrationen genutzt, hängt die Verarbeitung von deren Bedingungen ab.

Sind die 200 TB nutzbarer Platz?

Nein. Das ist die maximale Bruttokapazität. Der nutzbare Platz hängt von den gewählten Laufwerken, dem Format, der Redundanzkonfiguration und dem Dateisystem ab.

Sind die 126 TOPS die der NPU?

Nein. Es sind die gesamte Rechenleistung der Plattform; sie dürfen nicht als ausschließliche NPU-Leistung dargestellt werden.

Kann ich alles abfragen, ohne etwas einzurichten?

Nein. Jeder Anwendungsfall verlangt, dass Daten, Quellen und Integrationen eingerichtet und getestet sind. Ohne angebundene Quellen gibt es keine verlässlichen Antworten.

Ist das private Netzwerk mit 10 Gb/s enthalten?

Nicht automatisch. Es ist eine konfigurierbare Option, ebenso wie die externalisierten Sicherungen, je nach Architektur und gebuchter Konnektivität.

Erfüllt es im Alleingang die DS-GVO?

Das behaupten wir nicht. Die Konformität hängt von der Verarbeitung, den Zwecken, den Verträgen mit Auftragsverarbeitern und den vereinbarten Maßnahmen ab; die Plattform garantiert sie nicht allein.

Kann ich Hardware haben, die nur für mich isoliert ist?

Das kann als Design- und Umfangsentscheidung gestellt und separat bewertet werden. Standardmäßig stellen wir den Dienst nicht als physisch für jeden Kunden isoliert dar.

Nächster Schritt

Prüfen wir Ihre Daten und Ihren Anwendungsfall

Sagen Sie uns, welche Dokumente und Daten Sie abfragen wollen, mit wie vielen Personen und welchen Integrationen. Wir schlagen Hardware, Speicher und Umfang vor.