AI Systems

Die AI Systems, ausgelegt auf die Unterstützung der wissenschaftlichen Gemeinschaft mit Schwerpunkt KI-Forschung, bieten verschiedene Rechen- und Speicherkomponenten für KI, Datenanalyse und Big Data-Forschung und -Anwendung. Mehrere Generationen und Architekturen von Komponenten werden auf integrierte und kohärente Weise zugänglich und nutzbar gemacht, um unterschiedliche Nutzerbedürfnisse und -erwartungen auf einheitliche Weise zu erfüllen. Derzeit bieten sie sich nicht bzw. nur eingeschränkt für Inferenz-Anwendungen an.

Einen Überblick über derzeit verfügbare Rechenressourcen, einschließlich GPU-Beschleunigern, finden Sie unter Leistungsumfang. Die Integration mit der LRZ Data Science Storage (DSS)-Infrastruktur ermöglicht es, große Datenmengen auf Speichersystemen zu speichern, abzurufen und gemeinsam zu nutzen, die über die gesamte LRZ-Systemlandschaft hinweg zugänglich sind. Dedizierte Speichersysteme für KI und maschinelles Lernen erfüllen die Anforderungen an hohe Leistung und niedrige Latenz für KI-Anwendungen (Details siehe Leistungsumfang).

Der Zugang zu den AI Systems wird nicht nur über traditionelle SSH-basierte Login-Knoten (zusammen mit einem HPC-üblichen Batch-Job Workload-Management), sondern auch über ein benutzerfreundliches Web-Interface ermöglicht. Letzteres erlaubt neben der Job- und Dateiverwaltung im Webbrowser auch die Erstellung von grafischen Benutzersitzungen und bietet damit beliebte Entwicklungsumgebungen für interaktives Arbeiten. Alle Ausführungsumgebungen bauen auf Containervirtualisierung auf und ermöglichen so eine hochgradig anpassungsfähige, aber dennoch konsistente und reproduzierbare Gestaltung von Arbeitsabläufen.