SLLM4PROD: Domänenspezifische Small-Large-Language-Modelle für die produzierende Industrie

In mittelständischen Produktionsbetrieben werden täglich große Mengen heterogener Daten erzeugt – von Anforderungs- und Konstruktionsunterlagen bis zu Maschinen- und Sensordaten. Der Einsatz konventioneller Cloud-basierter Large-Language-Modelle (LLMs) zur Auswertung dieser Daten scheitert häufig an Datengeheimhaltung sowie an hohen Hardware- und Energiekosten.

Im Projekt wird gezeigt, dass aktuelle Reduktions¬verfahren LLMs auf ≤ 10 Mrd. Parameter verdichten und durch Vier-Bit-Quantisierung auf Workstations mit 4–8 GB VRAM ausführen lassen. Gegenüber konventionellen 16-Bit-Modellen werden damit Hardware- und Strombedarf um mehr als 70 % verringert, wobei sämtliche Daten im Unternehmensnetzwerk verbleiben.

Auf dieser technischen Grundlage werden zwei prototypische Assistenzsysteme erstellt. Ein Anforderungs-Copilot prüft Lasten- und Pflichtenhefte automatisiert auf Inkonsistenzen, Normverweise und Prioritätslücken. Ein Maschinenzustands-Copilot verknüpft Log-, Bild- und Sensordaten, leitet Ursachenhypothesen ab und generiert Handlungsvorschläge.

Vorgesehen ist die Entwicklung einer durchgängigen Prozesskette von Datenselektion über Komprimierung, Quantisierung und Graph-basiertes Retrieval bis zum Einsatzmonitoring. Damit wird eine übertragbare, ressourceneffiziente und datensouveräne KI-Basis bereitgestellt, die insbesondere kleinen und mittleren Industrieunternehmen den Einstieg in praxistaugliche Sprachmodelle ermöglicht.