Adaptive time-triggered network-on-chip-based multi-core architecture: enhancing safety and energy efficiency

Abstract

Real-time computing systems are designed to meet strict timing constraints and respond to events or inputs within specified deadlines. These systems are commonly used in safety-critical applications such as spacecraft, medical devices, industrial control, and automotive systems. Engineers rely on various scheduling techniques to ensure that timing constraints are met. One such technique is static resource allocation in time-triggered systems. Static resource allocation offers valuable advantages in terms of system dependability by minimizing message congestion and contention, enabling efficient resource usage in network-on-chip (NoC) architectures. This is achieved through the pre-allocation of resources and scheduling of tasks, resulting in improved system throughput and reduced jitter. The time-triggered concept in NoC architectures provides precise knowledge about the permitted points in time for message exchanges between cores, serving as a fundamental building block for fault containment, real-time support, and enhanced system performance. While static resource allocation excels in minimizing congestion and contention and contributes to system dependability, it may pose challenges in accommodating dynamic workloads and evolving requirements. Additionally, it can limit the achievement of fault tolerance, a crucial aspect of ensuring safety in safety-critical systems. To address these limitations, this thesis focuses on developing fault tolerance and energy-saving techniques tailored explicitly for NoC-based multi-core architectures to enhance their safety and energy efficiency. The main goal is to incorporate fault tolerance mechanisms, such as adaptation and redundancy, into time-triggered systems without compromising the benefits of static resource allocation. The adaptation technique within the NoC is designed to support multiple schedules, allowing the NoC to switch schedules during run-time in response to context events, such as permanent faults in NoC resources (e.g., routers, links, network interfaces, and cores). By dynamically reconfiguring the schedule upon the occurrence of a permanent fault, the faulty component is effectively isolated, and tasks or messages are redistributed to other available resources. This ensures the system’s operational continuity despite faults that could lead to message corruption, delays, or losses within NoC resources. This adaptation technique improves the system’s safety by providing flexibility in resource allocation without sacrificing the benefits of static resource allocation. Furthermore, this thesis incorporates seamless redundancy techniques to enhance the system’s safety, especially in scenarios involving transient and permanent faults. This technique selectively applies message replication and fusion to safety-critical messages at the network interface, minimizing overhead in non-critical parts of the system. It safeguards critical data from potential failures caused by message corruption, delays, and losses in routers or links during message exchanges. The thesis also focuses on improving energy efficiency in multi-core chips by providing low-power services. By incorporating time-triggered communication into NoC-based multi-core architectures, deterministic communication is achieved by scheduling the message’s injection time and specifying the frequency to be used by each router at different points in time. This predetermined frequency in the schedule allows routers to adjust their frequencies accordingly during their active time and to clock gate the idle routers, enhancing energy efficiency and preserving the deterministic behaviour of the NoC communication. Moreover, the adaptation techniques in the NoC are used to reconfigure the operating frequency of the NoC based on workload or power requirement variations by switching between schedules, further optimizing energy consumption. Integrating features such as time-triggered capability, adaptation, time-triggered frequency scaling, and seamless redundancy mechanisms into NoC-based multi-core architectures represents a significant advancement over the current state of the art. The results of this work have significant implications for applications relying on high-performance, safe, and energy-efficient multi-core systems in various domains, such as healthcare and transportation.

Echtzeit Computersysteme sind darauf ausgelegt, strenge Zeitvorgaben zu erfüllen und auf Ereignisse oder Eingaben innerhalb festgelegter Fristen zu reagieren. Diese Systeme werden häufig in sicherheitskritischen Anwendungen wie Raumfahrt, medizinischen Geräten, industrieller Steuerung und Fahrzeugsystemen eingesetzt. Ingenieure verlassen sich auf verschiedene Terminplanungstechniken, um sicherzustellen, dass zeitliche Vorgaben eingehalten werden. Eine solche Technik ist die statische Ressourcenzuweisung in zeitgesteuerten Systemen. Die statische Ressourcenzuweisung bietet wertvolle Vorteile in Bezug auf die Systemzuverlässigkeit, indem sie die Nachrichtenüberlastung und kontention minimiert und eine effiziente Ressourcennutzung in Network-on-Chip (NoC) Architekturen ermöglicht. Dies wird durch die vorzeit ige Zuweisung von Ressourcen und die Terminplanung von Aufgaben erreicht, was zu einer verbesserten Systemdurchsatzrate und verringerter Jitter führt. Das zeit gesteuerte Konzept in NoC-Architekturen liefert präzises Wissen über die erlaubten Zeitpunkte für den Austausch von Nachrichten zwischen Kernen und dient als grundle gender Baustein für Fehleindämmung, Echtzeitunterstützung und verbesserte Systemleistung. Obwohl die statische Ressourcenzuweisung hervorragend darin ist, Überlastung und Kontention zu minimieren und zur Systemzuverlässigkeit beizutragen, kann sie Herausforderungen bei der Anpassung an dynamische Arbeitslasten und sich entwickelnde Anforderungen darstellen. Darüber hinaus kann sie die Erreichung von Fehlertoleranz beeinträchtigen, einem entscheidenden Aspekt für die Sicherheit in sicherheitskritischen Systemen. Um diesen Einschränkungen zu begegnen, konzentriert sich diese Arbeit darauf, Fehlertoleranz und energiesparende Techniken speziell für NoC-basierte Mehrkernarchitekturen zu entwickeln, um deren Sicherheit und Energieeffizienz zu verbessern. Das Hauptziel besteht darin, Fehlertoleranzmechanismen wie Anpassung und Redundanz in zeitgesteuerte Systeme zu integrieren, ohne die Effizienzvorteile der statischen Ressourcenzuweisung zu beeinträchtigen. Die Anpassungstechnik innerhalb des NoC ist darauf ausgelegt, mehrere Zeitpläne zu unterstützen, wodurch das NoC während der Laufzeit in Reaktion auf Kontextereignisse wie permanente Fehler in NoC-Ressourcen (z. B. Router, Links, Netzwerkschnittstellen und Kerne) Zeitpläne wechseln kann. Durch die dynamische Rekonfiguration des Zeitplans bei Auftreten eines permanenten Fehlers wird die fehlerhafte Komponente effektiv isoliert, und Aufgaben oder Nachrichten werden auf andere verfügbare Ressourcen umverteilt. Dies gewährleistet die Betriebskontinuität des Systems trotz Fehler, die zu Nachrichtenkorruption, Verzögerungen oder Verlusten in NoC-Ressourcen führen könnten. Diese Anpassungstechnik verbessert die Sicherheit des Systems, indem sie Flexibilität bei der Ressourcenzuweisung bietet, ohne die Effizienz der statischen Ressourcenzuweisung zu beeinträchtigen. Darüber hinaus integriert diese Arbeit nahtlose Redundanztechniken, um die Sicherheit des Systems zu verbessern, insbesondere in Szenarien mit vorübergehenden und permanenten Fehlern. Diese Technik wendet selektiv Nachrichtenreplikation und fusion auf sicherheitskritische Nachrichten an der Netzwerkschnittstelle an, um Überkopf in nicht-kritischen Teilen des Systems zu minimieren. Dies schützt kritische Daten vor potenziellen Ausfällen aufgrund von Nachrichtenkorruption, Verzögerungen und Verlusten in Routern oder Links während des Nachrichtenaustauschs. Die Arbeit konzentriert sich auch darauf, die Energieeffizienz von Mehrkernchips durch Bereitstellung von energiearmen Diensten zu verbessern. Durch die Integration der zeitgesteuerten Kommunikation in NoC-basierte Mehrkernarchitekturen wird deterministische Kommunikation erreicht, indem die Einspritzzeit der Nachricht und die Frequenz, die von jedem Router zu verschiedenen Zeitpunkten verwendet werden soll, geplant werden. Diese vorbestimmte Frequenz im Zeitplan ermöglicht es den Routern, ihre Frequenzen während ihrer aktiven Zeit entsprechend anzupassen und die inaktiven Router zu takten, um die Energieeffizienz zu steigern und das deterministische Verhalten der NoC-Kommunikation zu bewahren. Darüber hinaus werden die Anpassungstechniken im NoC verwendet, um die Betriebsfrequenz des NoC basierend auf Arbeitslast oder Leistungsanforderungsschwankungen durch Wechsel zwischen Zeitplänen neu zu konfigurieren und damit den Energieverbrauch weiter zu optimieren. Die Integration von Funktionen wie zeitgesteuerter Fähigkeit, Anpassung, zeitgesteuerter Frequenzskalierung und nahtlosen Redundanzmechanismen in NoC-basierte Mehrkernarchitekturen stellt eine bedeutende Weiterentwicklung gegenüber dem aktuellen Stand der Technik dar. Die Ergebnisse dieser Arbeit haben bedeutende Auswirkungen auf Anwendungen, die auf leistungsstarken, sicheren und energieeffizienten Mehrkernsystemen in verschiedenen Bereichen wie Gesundheitswesen und Verkehr angewiesen sind.