Beschreibung Das LLM-Modul-Kit ist ein modulares Kit fuer lokale AI-Inferenz und kombiniert das Module LLM mit dem Module13.2 LLM Mate. Es bringt Sprachinteraktion mit grossen Sprachmodellen, Datenkommunikation und Host-Anbindung in ein stapelbares M5Stack-Moduldesign. Auf Basis des AX630C SoC bietet das LLM-Modul-Kit 3.2 TOPS INT8 NPU-Leistung, 4GB LPDDR4-Speicher und 32GB eMMC-Speicher. KWS, ASR, LLM und TTS koennen lokal ausgefuehrt werden, ohne von einem Cloud-Dienst abzuhaengen. Das hilft Projekten mit Datenschutzanforderungen oder eingeschraenkter Netzwerkverbindung. Hinweis: Vor dem Anschliessen des FPC-Kabels zuerst die Verriegelung des Steckverbinders anheben. Nach dem vollstaendigen Einsetzen das Kabel durch Herunterdruecken der Verriegelung sichern. Vor dem Anschliessen des Module LLM FPC-Kabels wird empfohlen, den Geraeterahmen zu entfernen. Der FPC-Steckverbinder befindet sich unter dem SPK-Modul, daher sollte das SPK-Modul vor der Arbeit entfernt werden. Ein Modellwechsel erfordert eine AXERA-spezifische Modellverarbeitung. Allgemeine Modelle aus dem Markt koennen nicht direkt verwendet werden. Funktionen LLM-Modul-Kit mit Module LLM und Module13.2 LLM Mate fuer lokale AI-Inferenz. AX630C Dual-Core Cortex-A53 SoC mit 3.2 TOPS INT8 NPU-Beschleunigung und nativer Transformer-Unterstuetzung. 4GB LPDDR4-Speicher, davon 1GB fuer Benutzeranwendungen und 3GB fuer Hardwarebeschleunigung. 32GB eMMC5.1 Speicher fuer das Ubuntu-basierte System, Modelle und Anwendungsdaten. Integrierte KWS-, ASR-, LLM- und TTS-Funktionen fuer lokale Sprachinteraktion. Parallele Verarbeitung mehrerer Modelle, integriertes Mikrofon, Lautsprecher, RGB-Status-LEDs und ADB-Debugging. Module13.2 LLM Mate ergaenzt M5-Bus-Stromversorgung, CH340N USB-Wandlung, Type-C-Logausgabe, Ethernet und Erweiterungsloetpads. Entwicklungsunterstuetzung fuer Arduino, UiFlow2, StackFlow, apt-basierte Modellupdates und OpenAI API-kompatible Workflows. Spezifikationen Prozessor AX630C Dual Cortex-A53 mit 1.2GHz AI-Leistung 3.2 TOPS INT8 NPU; bis zu 12.8 TOPS INT4 Speicher 4GB LPDDR4, davon 1GB fuer Benutzeranwendungen und 3GB fuer Hardwarebeschleunigung Massenspeicher 32GB eMMC5.1 System Ubuntu-basiertes System mit StackFlow Framework-Unterstuetzung Integrierte Funktionen KWS, ASR, LLM und TTS Mikrofon MSM421A Audiotreiber AW8737 Lautsprecher 8 Ohm bei 1W, 2014-Kammerlautsprecher RGB-LED 3 x RGB-LED im 2020-Package, gesteuert durch LP5562 Kommunikation Serielle Kommunikation, Standard 115200bps@8N1, einstellbar USB-Wandlung CH340N Netzwerk RJ45 100Mbps Ethernet mit integriertem Netzwerktransformator Erweiterung FPC-8P Anschluss und HT3.96 x 9P Loetpad Update-Methoden SD-Karte und Type-C Leistungsaufnahme Leerlauf 5V bei 0.5W; Volllast 5V bei ca. 1.5W Betriebstemperatur 0 bis 40 Grad C Modulabmessungen 54.0 x 54.0 x 13.0mm Mate-Board-Abmessungen 54.0 x 54.0 x 19.7mm Gesamtgewicht 36.7g Anwendungen Lokale Sprachassistenten mit Spracherkennung, Sprachverstaendnis und Sprachausgabe auf dem Geraet. Smart-Home-Steuerungen, die auch ohne Cloud-Zugriff weiterarbeiten sollen. Interaktive Roboter und Embedded-Terminals, die das LLM-Modul-Kit fuer lokale AI-Dialoge nutzen. Datenschutzorientierte AI-Gateways, Bildungsprojekte und Prototypen fuer Edge-Inferenz. Lieferumfang 1 x Module LLM 1 x Module LLM Mate 2 x FPC-8P Kabel Weitere Inhalte Das LLM-Modul-Kit kommuniziert mit Host-Geraeten ueber serielle Schnittstellen und stellt ueber das Mate-Board Logs, Ethernet und Erweiterungssignale bereit. Vor dem Einsatz helfen StackFlow-Ressourcen und Verbindungsanleitung dabei, Verdrahtung, FPC-Verbindung, Modellupdate und Host-Workflow korrekt abzustimmen. Ressourcen LLM-Modul-Kit Produktdokument Module LLM Schaltplan PDF Module13.2 LLM Mate Schaltplan PDF AX630C Prozessor-Datenblatt PDF Module LLM Arduino Schnellstartanleitung Module LLM UiFlow2 Schnellstartanleitung Module LLM Anleitung fuer ADB-, UART- und SSH-Verbindungen Module LLM Software-Update-Anleitung Module LLM Image-Update-Anleitung Module LLM Arduino-Bibliothek Repository Module LLM Arduino API-Referenz Module LLM UiFlow2 API-Referenz FAQ Kann dieses Kit AI-Funktionen ohne Cloud-Zugriff ausfuehren? Ja. Das LLM-Modul-Kit ist fuer lokale KWS-, ASR-, LLM- und TTS-Verarbeitung ausgelegt, sodass unterstuetzte Sprach- und Textablaeufe auf dem Geraet laufen koennen. Welches Modell ist vorinstalliert? Das Modul ist mit Qwen2.5-0.5B gelistet, und das apt-Repository stellt weitere unterstuetzte Modellpakete bereit. Kann jedes heruntergeladene grosse Sprachmodell direkt genutzt werden? Nein. Die unterstuetzten Modelle verwenden ein AXERA-spezifisches Format und muessen verarbeitet werden, bevor sie auf der Hardware korrekt laufen.
Related
Related
Related
Related