Workload-Management und Performance
摘要
In diesem Kapitel beschreiben wir die Geschäftsanforderungen und schlagen ein Lösungskonzept für Workload-Management und Performance vor. Das Training von Modellen der Künstlichen Intelligenz kann, abhängig von den zugrunde liegenden Algorithmen, hohe Hardwareanforderungen haben. Inferenzaufrufe müssen kurze Antwortzeiten aufweisen. Daher sind Maßnahmen notwendig, um diese Herausforderung zu bewältigen. Insbesondere darf der Verbrauch von Rechenressourcen für Künstliche Intelligenz die Transaktionsprozesse in ERP-Systemen nicht verlangsamen, da diese für den Betrieb des Unternehmens entscheidend sind. Daher schlagen wir neben der bereits vorgeschlagenen Lösungsarchitektur, die sich vom Embedded-AI-zum Side-by-Side-AI-Ansatz skaliert, zusätzliche Techniken zur Performance-Optimierung vor.