Deutliche Beschleunigung der Entwicklung generativer KI

AMC ergänzt sein Lieferprogramm an Embedded Computing Plattformen zum Einsatz im industriellen Umfeld zur direkten Anwendung generativer KI/AI-Modelle mit dem MIC-733-AO auf Basis von Nvidia Jetson AGX Orin.

KI-Entwickler profitieren hier von höherer Reaktionsgeschwindigkeit, verbesserter Sicherheit und geringeren Internetkosten im Vergleich zu cloudbasierter generativer KI. Die generativen KI-Modelle aus dem Jetson AI Lab bieten ein kostenloses Basismodell, das die Anpassung ermöglicht und die Entwicklungszeit mit dem MIC-733-AO Edge-System für generative KI deutlich verkürzt.

Generative KI auf MIC-733-AO

Das Edge-System MIC-733-AO für generative KI, kompatibel mit den NVIDIA-Modellen für generative KI aus dem Jetson AI Lab, führt dank NVIDIA® Jetson AGX Orin™ nun effizient große Sprachmodelle (LLMs), Bildverarbeitungsmodelle (VLMs), Bildtransformatoren (ViTs) sowie Bildgenerierung und Llamaspeak direkt im produktiven Umfeld aus. Die Plattform bietet einzigartige Funktionen auf mehreren Ebenen, darunter beschleunigtes Rechnen, wichtige KI-Software und vortrainierte Modelle. Dies erleichtert die Erstellung, Anpassung und den Einsatz von Modellen für generative KI, die für verschiedene Anwendungen und Standorte geeignet sind.

Mit den Modellen für generative KI aus dem Jetson AI Lab können Entwickler die Retrieval-Augmented-Generation-Technik (RAG) nutzen sowie LLMs und VLMs mit der Wissensdatenbank eines Unternehmens verknüpfen. Dieser Ansatz macht das Training herkömmlicher KI-Modelle überflüssig und ermöglicht einfache, dialogbasierte Interaktionen mit dem System, die zu KI-Schlussfolgerungen führen und die Entwicklungszeit deutlich verkürzen.

Der MIC-733-AO zeichnet sich durch hohe KI-Leistung und vielfältige Videoschnittstellen aus, darunter IP-Kameras, USB/GigE-Industriekameras, GMSL-Kameras, LiDAR und mehr. Dadurch wird der Betrieb von generativen KI-Modellen direkt am Edge ermöglicht. Sein außergewöhnliches Wärmemanagement verhindert Hitzestaus, selbst bei voller Auslastung des Nvidia Jetson AGX Orin.

Generative KI am Edge für reaktionsschnelle Anwendungen

Generative KI revolutioniert die Mensch-Computer-Interaktion, indem sie aus verschiedenen Eingaben und Ausgaben wie Text und Bildern neue Inhalte generiert. Die Verlagerung der Nachfrage von der Cloud zum Edge macht GenAI ideal für Umgebungen mit hohen Reaktionszeiten und geringer Latenz. Generative KI am Edge bietet gegenüber Cloud-Lösungen mehrere Vorteile:

• Sofortige Reaktion: Edge-Computing-Systeme, die Datenquellen wie Kameras und Sensoren integrieren, ermöglichen schnelle GenAI-Reaktionen ohne die Verzögerungen durch Cloud-Uploads.
• Informationssicherheit: Die Daten verbleiben im Edge-System, wodurch die mit der Cloud-Datenübertragung verbundenen Cybersicherheitsrisiken vermieden werden.
• Stabile Netzwerkverbindung: Das Edge-System funktioniert auch ohne WLAN und speichert Daten lokal, bis die Netzwerkverbindung wiederhergestellt ist. Im Gegensatz dazu ist Cloud-basierte KI ohne Netzwerkverbindung nicht funktionsfähig.
• Niedrige Übertragungskosten: Edge-KI verursacht keine Übertragungskosten, wenn keine Backend-Kommunikation erforderlich ist. Es benötigt lediglich eine Übertragung mit geringer Bandbreite und ist somit kostengünstiger als die höheren Bandbreitenkosten von Cloud-Uploads.

Generative KI am Edge ist die Zukunft der KI. Das MIC-733-AO Edge Generative AI System, integriert mit den NVIDIA Generative AI-Modellen aus dem Jetson AI Lab, bietet KI-Entwicklern eine unkomplizierte Lösung und ist ab sofort erhältlich.

Mehr Infos