In diesem Kapitel beschreiben wir die Geschäftsanforderungen und schlagen ein Lösungskonzept für Workload-Management und Performance vor. Das Training von Modellen der Künstlichen Intelligenz kann, abhängig von den zugrunde liegenden Algorithmen, hohe Hardwareanforderungen haben. Inferenzaufrufe müssen kurze Antwortzeiten aufweisen. Daher sind Maßnahmen notwendig, um diese Herausforderung zu bewältigen. Insbesondere darf der Verbrauch von Rechenressourcen für Künstliche Intelligenz die Transaktionsprozesse in ERP-Systemen nicht verlangsamen, da diese für den Betrieb des Unternehmens entscheidend sind. Daher schlagen wir neben der bereits vorgeschlagenen Lösungsarchitektur, die sich vom Embedded-AI-zum Side-by-Side-AI-Ansatz skaliert, zusätzliche Techniken zur Performance-Optimierung vor.

错误:搜索内容不能为空,请输入英文关键词
错误:关键词超出字数限制,请精简
高级检索

Workload-Management und Performance

  • Siar Sarferaz

摘要

In diesem Kapitel beschreiben wir die Geschäftsanforderungen und schlagen ein Lösungskonzept für Workload-Management und Performance vor. Das Training von Modellen der Künstlichen Intelligenz kann, abhängig von den zugrunde liegenden Algorithmen, hohe Hardwareanforderungen haben. Inferenzaufrufe müssen kurze Antwortzeiten aufweisen. Daher sind Maßnahmen notwendig, um diese Herausforderung zu bewältigen. Insbesondere darf der Verbrauch von Rechenressourcen für Künstliche Intelligenz die Transaktionsprozesse in ERP-Systemen nicht verlangsamen, da diese für den Betrieb des Unternehmens entscheidend sind. Daher schlagen wir neben der bereits vorgeschlagenen Lösungsarchitektur, die sich vom Embedded-AI-zum Side-by-Side-AI-Ansatz skaliert, zusätzliche Techniken zur Performance-Optimierung vor.