de.wedoany.com-Bericht: Das japanische Unternehmen TIER IV, ein Anbieter von Open-Source-Software für autonomes Fahren, hat sich dem vom japanischen Wissenschafts- und Technologieförderungsinstitut (JST) geleiteten „Forschungs- und Entwicklungsprogramm für Edge-AI-Halbleiter der nächsten Generation“ angeschlossen, um die Entwicklung eines softwaredefinierten System-on-a-Chip (SoC) für autonomes Fahren der Stufe L4 voranzutreiben. Im Rahmen dieses Programms wird das von Professor Yoshihiro Kawahara von der Graduate School of Engineering der Universität Tokio geleitete Forschungsteam anwendungsfallgetriebene, funktionsdifferenzierte Forschung zum Design physikalischer KI-Chips vorantreiben. TIER IV ist für die Entwicklung des Logikdesigns eines KI-Chips verantwortlich, der für die effiziente Verarbeitung von Inferenzen der End-to-End-KI (E2E) für autonomes Fahren eingesetzt wird. Die zugehörigen Design-Assets und die Toolchain sollen als Open Source veröffentlicht werden.
Hochleistungsrechentechnologien, einschließlich Grafikprozessoren (GPUs), haben eine zentrale Rolle bei der rasanten Weiterentwicklung der KI gespielt. Autonomes Fahren der Stufe L4 erfordert jedoch, dass KI-Modelle unter realen Bedingungen und in Echtzeit kontinuierlich arbeiten. Dies erfordert über die bestehenden Hochleistungsrechentechnologien hinaus neue Designansätze, die auch Probleme wie Energieeffizienz sowie Anpassungsfähigkeit, Transparenz und Verifizierbarkeit lösen.
TIER IV wird den KI-Chip, der die Open-Source-Software Autoware für autonomes Fahren unterstützt, eigenständig entwerfen und seine Wirksamkeit als Bestandteil eines SoC bewerten. Neben dem Logikdesign des Chips werden auch der Compiler und die zugehörige Toolchain als Open Source bereitgestellt, um ein offenes Ökosystem zu schaffen, das es Halbleiterherstellern ermöglicht, die Kommerzialisierung von SoCs für autonomes Fahren der Stufe L4 mithilfe ihrer Plattformtechnologie zu beschleunigen.
Die KI für autonomes Fahren stützt sich zunehmend auf große Transformer-Modelle, die Sensoreingaben wie Kamerabilder und Punktwolkendaten integriert verarbeiten – von der Wahrnehmung bis zur Bewegungsplanung. Dieses Programm konzentriert sich auf die Transformer-Inferenz und entwickelt eine spezielle Architektur, die die für allgemeine Berechnungen erforderlichen komplexen Steuerungsmechanismen vereinfacht. Die für die Ausführung der KI-Modelle benötigten Daten werden effizient vorab geladen und innerhalb des Chips wiederverwendet, um den Stromverbrauch durch externe Speicherübertragungen und Berechnungssteuerung zu senken. Die Architektur integriert außerdem spezielle Rechenschaltungen für in Transformatoren häufig verwendete Operationen, einschließlich Matrixmultiplikation und Aufmerksamkeitsmechanismen. TIER IV betont, dass das Optimierungsziel nicht nur die Spitzenleistung des Chips ist, sondern auch die Leistung pro Watt des gesamten autonomen Fahrsystems einschließlich Autoware. Das Design muss eine flexible Bereitstellung für verschiedene Anwendungsszenarien unterstützen – von eingebetteten Geräten mit wenigen Watt bis hin zu Fahrzeugsteuergeräten mit mehreren Dutzend Watt.
Um die Herausforderungen der Architekturanpassung durch die rasche Weiterentwicklung der KI-Technologie für autonomes Fahren zu bewältigen, wird TIER IV die Tensor Operator Set Architecture (TOSA) als standardisierte Zwischendarstellung zwischen KI-Modell und KI-Chip einführen. Die in Frameworks wie PyTorch entwickelten Operationen von KI-Modellen werden in eine allgemeine TOSA-Darstellung konvertiert und nach Optimierung und Codegenerierung auf dem KI-Chip ausgeführt, wodurch eine lose Kopplung zwischen KI-Framework und Hardware erreicht wird. Änderungen an der Modellarchitektur oder den Berechnungsmethoden können daher hauptsächlich durch Software-Updates wie Compiler und Laufzeitumgebung angepasst werden, ohne dass der gesamte Chip neu entworfen werden muss. Dies ist ein softwaredefinierter SoC-Designansatz, der eine kontinuierliche Optimierung von Leistung und Energieeffizienz durch Software ermöglicht.
In sicherheitskritischen Anwendungen wie dem autonomen Fahren der Stufe L4 ist es neben dem Verständnis des KI-Modells selbst auch erforderlich, die interne Architektur und die Verarbeitungsabläufe des Rechensystems zu verstehen, auf dem es ausgeführt wird. TIER IV wird das Logikdesign des KI-Chips für autonomes Fahren, den Compiler und die zugehörige Toolchain als Open Source veröffentlichen, sodass Halbleiterhersteller und Entwickler die interne Architektur des Chips und das Softwareverhalten prüfen und entsprechend ihren jeweiligen Fahrzeugplattformen, KI-Modellen, Leistungsanforderungen und Energiebeschränkungen modifizieren, erweitern und wiederverwenden können. Dieser Ansatz erweitert die Open-Source-Philosophie von Autoware von der Softwareebene auf das Chipdesign und die zugehörige Toolchain, mit dem Ziel, ein kollaboratives Ökosystem zu etablieren, das nicht von bestimmten Halbleiterprodukten oder geschlossenen Entwicklungsumgebungen abhängig ist.
Der Prozess der Ausführung von KI-Modellen auf einem Chip umfasst eine Reihe von Transformationen wie Modellformatkonvertierung, Berechnungsoptimierung, Quantisierung und Rundung. Diese Transformationen verbessern zwar Leistung und Energieeffizienz, können aber auch numerische Abweichungen einführen, die das endgültige Berechnungsergebnis beeinflussen. Auf der Grundlage von TOSA und seiner Operatorspezifikation wird TIER IV den Kompilierungs- und Transformationsprozess aufbauen und formale Verifikationstechniken einführen, um für ausgewählte Transformationen und Operationen mathematisch nachzuweisen, dass die numerische Konsistenz vor und nach der Transformation gewahrt bleibt und die vordefinierten Fehlertoleranzen eingehalten werden. Dieser Ansatz ermöglicht es, die Transformationen, die ein KI-Modell vor der Ausführung auf dem Chip durchläuft, nachvollziehbar zu machen und die Korrektheit des Verarbeitungsprozesses zu verifizieren, wodurch eine zuverlässigere Ausführungsumgebung für die KI im autonomen Fahren geschaffen wird.
Shinpei Kato, Gründer und CEO von TIER IV, erklärte, dass der Fortschritt der KI leistungsstarken Rechenplattformen einschließlich GPUs zu verdanken ist. Mit der zunehmenden Verbreitung des autonomen Fahrens der Stufe L4 müssten diese Plattformen jedoch durch Rechenarchitekturen ergänzt werden, die für reale Anforderungen und Echtzeitanforderungen entwickelt wurden. Er ist der Ansicht, dass in sicherheitskritischen Umgebungen die Fähigkeit, zu verstehen, wie KI-Modelle für die Ausführung transformiert werden, und die Korrektheit der Verarbeitung zu verifizieren, immer wichtiger wird. Die Ausweitung der Open-Source-Philosophie von der Software auf das KI-Chipdesign und die zugehörige Toolchain ermögliche es Automobilherstellern, Halbleiterherstellern und Entwicklern, darauf aufbauend ihre eigenen Systeme weiterzuentwickeln und so eine skalierbare, anpassungsfähige und zuverlässige Rechenbasis für autonomes Fahren der Stufe L4 zu schaffen.
Professor Yoshihiro Kawahara wies darauf hin, dass der Stromverbrauch von GPUs seit langem ein Haupthindernis für den Einsatz batteriebetriebener Geräte in physischen KI-Anwendungen wie Robotik und autonomen Fahren ist. Dieses Projekt zielt darauf ab, diese Einschränkung durch ein funktionsdifferenziertes Chipdesign zu überwinden, das von spezifischen Anwendungsfällen rückwärts abgeleitet wird. Er freut sich darauf, dass TIER IV den Chip für hochrangige Entscheidungen entwickelt, also die Verhaltensschicht auf hoher Ebene, die die für end-to-end physische KI und autonomes Fahren erforderlichen Denkprozesse verarbeitet. Als treibende Kraft hinter der Open-Source-Software Autoware verwirklicht TIER IV die Demokratisierung des Designs von der Anwendungsanforderung bis zur Hardware, sodass Anwendungsforscher Halbleiter gestalten können, die ihren Anforderungen entsprechen. Mit Unterstützung des offenen Ökosystems könnte dieses Programm die Grundlage dafür schaffen, dass japanische Start-ups kontinuierlich hochwertige Halbleiter schaffen.
TIER IV ist ein auf Tiefentechnologie spezialisiertes Unternehmen für autonomes Fahren, das die Open-Source-Software Autoware als Kern nutzt und eine vollständige Plattform und Dienstleistungen von der Softwareentwicklung über die Fahrzeugbeschaffung bis zur Betriebsunterstützung anbietet. Über das Autoware-Ökosystem treibt das Unternehmen gemeinsam mit globalen Partnern die Anwendung von Open-Source-Software im Bereich intelligenter Fahrzeuge voran.
