CliCFPGA: Collaboration Platform for Component-Based Design and Verification of AI-Based System Using FPGAs

The increasing demand for real-time data processing has propelled Field Programmable Gate Arrays (FPGAs) as prominent programmable accelerators in modern computing systems, as they often deliver substantial performance gains compared to microprocessors and graphics processing units (GPUs), while also consuming less power. FPGAs are now employed across a wide range of applications and are considered a potential solution to the challenges posed by the deceleration of Moore's Law in chip design. This rise of FPGAs in diverse applications has intensified the need to tailor FPGA design and verification platforms. However, FPGA development environments come with several challenges, such as requiring high-end computers for faster hardware compilation and managing multiple versions of FPGA computer-aided design (CAD) tools, which can create conflicts across different projects. In addition, the existing tools and platforms lack support for modularity, collaboration, and accessibility for novice users, offering no resources like hardware accelerator intellectual property (IP) libraries or tools enhanced by large language models (LLMs). Furthermore, the cost of large-scale FPGAs remains prohibitive for many individuals and institutions, limiting widespread FPGA development across various devices and application domains.
To alleviate these challenges, this thesis proposes CliCFPGA, a flexible and scalable FPGA design, verification, and prototyping platform to simplify education and development by reducing hardware costs through the shared use of high-performance servers and consolidating various FPGA CAD tools onto a single platform. CliCFPGA leverages the FPGA design and verification flow through a collaborative workspace for FPGA design, verification, and prototyping. This collaborative workspace provides full access to the peripherals of FPGA boards, enabling real-time debugging and simultaneous testing of multiple distinct FPGA boards.
On the other hand, to further streamline the Artificial Intelligence (AI)-based hardware accelerator design and verification for FPGAs, CliCFPGA offers an IP library module to provide a pre-verified library of high-performance hardware accelerator IP cores, facilitating rapid and secure FPGA prototyping for non-professional users and beginners. The library encompasses accelerator IP cores for various application domains, ensuring a fast and reliable design and verification process. In addition, CliCFPGA also offers an LLM-assisted tool that can assist in generating and verifying the hardware description language (HDL). This tool enhances productivity by automating complex HDL coding and error detection tasks, significantly reducing FPGA design and verification time.
The evaluation of the CliCFPGA platform effectively automates FPGA design and verification processes. A comprehensive evaluation has been conducted to evaluate the performance of the CliCFPGA platform, incorporating both qualitative and quantitative data to assess its effectiveness in meeting educational and research objectives. Users have expressed increased satisfaction with the platform's ease of use and ability to facilitate collaboration through the CliCFPGA collaborative workspace with real-time feedback. A survey evaluating all the CliCFPGA modules, including software and hardware facilities of the CliCFPGA collaborative workspace, IP library, and LLM-assisted design features, revealed high user satisfaction. Results show that users can save up to 3x the time required to design and verify different applications compared to traditional platforms, highlighting the platform's efficiency. These findings suggest that CliCFPGA significantly enhances the development experience while effectively automating FPGA design processes, supporting educational, industrial, and research needs without compromising performance.

Die steigende Nachfrage nach Datenverarbeitung in Echtzeit hat dazu geführt, dass Field Programmable Gate Arrays (FPGAS) zu den wichtigsten programmierbaren Beschleunigern in modernen Computersystemen geworden sind, da sie im Vergleich zu Mikroprozessoren und Grafikprozessoren (GPUs) oft erhebliche Leistungssteigerungen bieten und gleichzeitig weniger Strom verbrauchen. FPGAs werden heute in einem breiten Spektrum von Anwendungen eingesetzt und gelten als potenzielle Lösung für die Herausforderungen, die sich aus der Verlangsamung des Mooreschen Gesetzes beim Chipdesign ergeben. Dieser Anstieg von FPGAs in verschiedenen Anwendungen hat den Bedarf an maßgeschneiderten FPGA-Design- und Verifikationsplattformen verstärkt. FPGA-Entwicklungsumgebungen sind jedoch mit verschiedenen Herausforderungen verbunden, wie z. B. dem Bedarf an High-End-Computern für eine schnellere Hardwarekompilierung und der Verwaltung mehrerer Versionen von FPGA-CAD-Tools (Computer-Aided Design), was zu Konflikten zwischen den verschiedenen Projektversionen führen kann. Außerdem fehlt es den vorhandenen Tools und Plattformen an Unterstützung für Modularität, Zusammenarbeit und Zugänglichkeit für unerfahrene Benutzer, da sie keine Ressourcen wie Bibliotheken für Intellectual Property (IP) von Hardwarebeschleunigern oder durch Large Language Models (LLMs) erweiterte Tools bieten. Darüber hinaus ist die Anschaffung großer FPGAs für viele Einzelpersonen und Institutionen nach wie vor unerschwinglich, was die weit verbreitete FPGA-Entwicklung in verschiedenen Geräten und Anwendungsbereichen einschränkt.
Um diese Herausforderungen zu bewältigen, schlägt diese Arbeit CliCFPGA vor, eine flexible und skalierbare FPGA-Design-, Verifikations- und Prototyping-Plattform, die Ausbildung und Entwicklung vereinfacht, indem sie Hardwarekosten durch die gemeinsame Nutzung von Hochleistungsservern reduziert und verschiedene FPGA-CAD-Tools auf einer einzigen Plattform konsolidiert. CliCFPGA nutzt den FPGA-Design- und Verifikationsfluss durch einen kollaborativen Arbeitsbereich für FPGA-Design, -Verifikation und -Prototyping. Dieser kollaborative Arbeitsbereich bietet vollen Zugriff auf die Peripherie von FPGA-Boards und ermöglicht Debugging in Echtzeit und gleichzeitiges Testen mehrerer unterschiedlicher FPGA-Boards.
Um das Design und die Verifikation von Hardware-Beschleunigern für FPGAs, die auf künstlicher Intelligenz (KI) basieren, weiter zu vereinfachen, bietet CliCFPGA ein IP-Bibliotheksmodul an, das eine vorverifizierte Bibliothek von Hochleistungs-Hardware-Beschleuniger-IP-Cores bereitstellt und so ein schnelles und sicheres FPGA-Prototyping für nicht-professionelle Anwender und Anfänger ermöglicht. Die Bibliothek umfasst Beschleuniger-IP-Cores für verschiedene Anwendungsbereiche und gewährleistet einen schnellen und zuverlässigen Design- und Verifikationsprozess. Darüber hinaus bietet CliCFPGA ein LLM-gestütztes Tool, das bei der Generierung und Verifizierung der Hardwarebeschreibungssprache (HDL) helfen kann. Dieses Tool steigert die Produktivität, indem es komplexe HDL-Codierungs- und Fehlererkennungsaufgaben automatisiert und so die Zeit für FPGA-Design und -Verifikation erheblich reduziert.
Die Evaluierung der CliCFPGA-Plattform automatisiert FPGA-Entwurfs- und Verifikationsprozesse auf effektive Weise. Es wurde eine umfassende Evaluierung durchgeführt, um die Leistung der CliCFPGA-Plattform zu bewerten. Dabei wurden sowohl qualitative als auch quantitative Daten einbezogen, um die Effektivität der Plattform bei der Erfüllung von Ausbildungs- und Forschungszielen zu beurteilen. Die Benutzer äußerten sich sehr zufrieden mit der Benutzerfreundlichkeit der Plattform und der Möglichkeit, die Zusammenarbeit durch den CliCFPGA Collaborative Workspace mit Echtzeit-Feedback zu erleichtern. Eine Umfrage zur Bewertung aller CliCFPGA-Module, einschließlich der Software- und Hardwareeinrichtungen des CliCFPGA Collaborative Workspace, der IP-Bibliothek und der LLM-unterstützten Entwurfsfunktionen, ergab eine hohe Benutzerzufriedenheit. Die Ergebnisse zeigen, dass die Benutzer im Vergleich zu herkömmlichen Plattformen bis zu dreimal so viel Zeit für den Entwurf und die Verifizierung verschiedener Anwendungen einsparen können, was die Effizienz der Plattform unterstreicht. Diese Ergebnisse deuten darauf hin, dass CliCFPGA die Entwicklungserfahrung signifikant verbessert und gleichzeitig FPGA-Designprozesse effektiv automatisiert, um die Bedürfnisse von Ausbildung, Industrie und Forschung ohne Leistungseinbußen zu unterstützen.