Secure Hardware Kernels Execution in CPU+FPGA Heterogeneous Cloud

Hategekimana, Festus; Mbongue, Joel Mandebi; Pantho, Jubaer Hossain; Bobda, Christophe

doi:10.1109/fpt.2018.00035

Cited by 14 publications

(4 citation statements)

References 17 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…Whereas the previous two works focused on a single cloud tenant accessing a dedicated FPGA, there is also work on understanding how mutually distrusting tenants could be allowed to share FPGA resources securely. A recent paper by Hategekimana et al [90] defines an optimal multi-tenancy of FPGAs in a Cloud environment without performance degradation. However, the FPGA devices have no architectural support to allow isolating mutually distrusted accelerators sharing the same FPGA.…”

Section: Providing Trusted Execution Environment With Fpgasmentioning

confidence: 99%

A Survey of Trusted Computing Solutions Using FPGAs

2023

View full text Add to dashboard Cite

Ensuring the security and privacy of computation and data management in the cloud and edge is an ever-important requirement. There are several working solutions today for trusted computing with general purpose processors, for instance, Intel SGX and ARM TrustZone. However, with the widespread commercial adoption of specialized hardware accelerators in the cloud and at the edge, most importantly FPGAs, two questions emerge: 1) How secure are they against threats? and 2) How could FPGAs be utilized for more efficient trusted computing? In this survey, we investigate these two questions precisely. Even though there have been numerous surveys in the past on the security of FPGAs, we believe it is timely to study the space of related work again, given the large number of data-centric applications aimed at targeting trusted execution environments that have recently appeared. Therefore, in addition to presenting an overview of state of the art, we also highlight some opportunities for FPGAs in the context of providing efficient trusted computation.

show abstract

Section: Providing Trusted Execution Environment With Fpgasmentioning

confidence: 99%

A Survey of Trusted Computing Solutions Using FPGAs

2023

View full text Add to dashboard Cite

show abstract

“…Based on a list of waiting jobs and their needs, they use partial reconfiguration to repurpose the FPGA. Other work discuss security challenges of FPGA deployment in the cloud [18]. This aspect is out of the scope of this work.…”

Section: A Fpgas In the Cloudmentioning

confidence: 99%

Architecture Support for FPGA Multi-tenancy in the Cloud

Mbongue

Shuping

Bhowmik

et al. 2020

2020 IEEE 31st International Conference on Application-Specific Systems, Architectures and Processors (ASAP)

Self Cite

View full text Add to dashboard Cite

Cloud deployments now increasingly provision FPGA accelerators as part of virtual instances. While FPGAs are still essentially single-tenant, the growing demand for hardware acceleration will inevitably lead to the need for methods and architectures supporting FPGA multi-tenancy. In this paper, we propose an architecture supporting space-sharing of FPGA devices among multiple tenants in the cloud. The proposed architecture implements a network-on-chip (NoC) designed for fast data movement and low hardware footprint. Prototyping the proposed architecture on a Xilinx Virtex Ultrascale+ demonstrated near specification maximum frequency for on-chip data movement and high throughput in virtual instance access to hardware accelerators. We demonstrate similar performance compared to single-tenant deployment while increasing FPGA utilization ( we achieved 6× higher FPGA utilization with our case study), which is one of the major goals of virtualization. Overall, our NoC interconnect achieved about 2× higher maximum frequency than the state-of-the-art and a bandwidth of 25.6 Gbps.

show abstract

“…Επιπλέον, υπάρχουν κάποιες προσεγγίσεις που παρέχουν ή βελτιώνουν τεχνικές για εικονικοποίηση ή διαμοιρασμό FPGAs, χρησιμοποιώντας ένα παραδοσιακό FPGA ως εικονικό επαναρυθμίσιμο υλικό [34], μειώνοντας την πολυπλοκότητα επικοινωνίας μεταξύ των εφαρμογών και των FPGA πόρων [46], προσφέροντας FPGA-ως-Υπηρεσία [93], ενσωματώνοντας τις FPGAs στις νεφοϋπολογιστικές στοίβες [7,9,18,8,2,73,91,74,63], επικεντρώνοντας στις ιδιότητες της χρονοδρομολόγησης [92,59], της εμπιστευτικότητας [87] και της ασφαλούς εκτέλεσης [30] σε περιβάλλοντα εικονικοποίησης FPGA ή στοχεύοντας σε εικονικές δικτυακές εφαρμογές [90].…”

Section: εικονικοποίηση επιταχυντώνunclassified

“…Additionally, there are some approaches towards providing or optimizing virtualization or sharing characteristics for FPGAs, by realizing a traditional FPGA as a virtual reconfigurable hardware [34], reducing the communication complexity between the application and the FPGA resources [46], offering FPGA-as-a-Service [93], integrating FPGAs to cloud stacks [7,9,18,8,2,73,91,74,63], focusing on the properties of scheduling [92,59], confidentiality [87] and secure execution [30] in FPGA virtualization environments or targeting virtual networking appliances [90].…”

Section: Accelerator Virtualizationmentioning

confidence: 99%

Τεχνικές Αποδοτικής Εικονικοποίησης Επιταχυντών Για Νεφοϋπολογιστικά Περιβάλλοντα

Γεράγγελος¹

View full text Add to dashboard Cite

Καθώς ο ρυθμός με τον οποίο δημιουργούνται δεδομένα στο σύγχρονο κόσμο αυξάνεται συνεχώς, υπάρχει ολοένα και πιο έντονη η ανάγκη για αύξηση της διαθέσιμης υπολογιστικής ισχύος. Παρ' όλα αυτά, η προϋπάρχουσα τάση κλιμάκωσης των πυρήνων στις διάφορες γενιές αρχιτεκτονικών παρουσιάζει ένα εγγενές όριο για το άμεσο μέλλον. Σε αυτό το πλαίσιο, οι επιστήμονες και ερευνητές εκτιμούν ότι ο τρόπος επεξεργασίας των δεδομένων θα προσαρμοστεί σε αυτές τις νέες συνθήκες και τα μελλοντικά κέντρα δεδομένων (data centers) σταδιακά θα μετακινηθούν σε πιο ετερογενή περιβάλλοντα υιοθέτωντας υπολογιστικούς πόρους επιταχυντών. Την ίδια στιγμή, το cloud computing διαδραματίζει εξαιρετικά σημαντικό ρόλο σε πολλά κέντρα δεδομένων προσφέροντας πλεονεκτήματα τόσο για τους τελικούς χρήστες όσο και για τους παρόχους, όπως για παράδειγμα, ευελιξία, ενοποίηση των διαθέσιμων φυσικών κόμβων, μείωση του κόστους και πιο αποτελεσματική χρησιμοποίηση των πόρων. Με την προαναφερθείσα δυναμική που εμφανίζουν οι ετερογενείς αρχιτεκτονικές και πιο συγκεκριμένα οι επιταχυντές, δημιουργείται μία αυξανόμενη ανάγκη για ένταξη αυτών στα υπάρχοντα cloud περιβάλλοντα. Ουσιαστικά, οι υποδομές εικονικοποίησης χρειάζεται να ενσωματώσουν τα συστήματα επιταχυντών λαμβάνοντας υπόψη τα εξειδικευμένα χαρακτηριστικά αυτού του τύπου των συσκεύων. Σε αυτή την εργασία, εξερευνούμε τις συνέπειες της ένταξης των συσκευών επιτάχυνσης στα συστήματα εικονικοποίησης. Αναγνωρίζουμε τις βασικές δυσκολίες και προκλήσεις της εικονικοποίησης επιταχυντών και σκιαγραφούμε τους λόγους για τους οποίους οι παραδοσιακές μέθοδοι εικονικοποίησης Ε/Ε δεν είναι οι πλέον κατάλληλες για αυτές τις εξειδικευμένες συσκευές. Εξερευνούμε τεχνικές εικονικοποίησης με βάση δύο δημοφιλείς οικογένειες επιταχυντών, τις NVIDIA GPUs και τους συνεπεξεργαστές Intel Xeon Phi, ακολουθώντας διαφορετικές προσεγγίσεις με βάση τη φύση κάθε ενός από τους προαναφερθέντες επιταχυντές. Σχετικά με την προσέγγισή μας για εικονικοποίηση GPU, προτείνουμε τη χρησιμοποίηση ενός εργαλείου απομακρυσμένης επιτάχυνσης στο πλαίσιο του ίδιου φυσικού κόμβου συνδυάζοντάς το με ένα αποδοτικό σύστημα για επικοινωνία εντός του ίδιου κόμβου. Αυτό έχει ως αποτέλεσμα σημαντικά καλύτερη επίδοση κατά τη διαδικασία offloading εφαρμογών σε εικονικοποιημένα περιβάλλοντα. Σύμφωνα με τη σχεδίαση του συστήματος επικοινωνίας, το μονοπάτι δεδομένων περιλαμβάνει την εμπλοκή του υπερεπόπτη (hypervisor) ως δικτυακού μέσου, αντί για το προνομιούχο driver domain. Επιπλέον, αξιολογούμε το σύστημα επικοινωνίας κάνοντας τόσο χρήση δικτυακών μικρο-μετροπρογραμμάτων, όσο και ενός κοινού GPU πυρήνα, δείχνοντας ότι η συνολική υποδομή αποτελεί μία βιώσιμη πρόταση για τα λογισμικά επιταχυντών που κυκλοφορούν με κλειστές άδειες. Πιο συγκεκριμένα, τα πειραματικά αποτελέσματα δείχνουν ότι η προσέγγισή μας βελτιώνει τη μεταφορά δεδομένων έως και 6.3 φορές σε σύγκριση με το απομακρυσμένο προκαθορισμένο μονοπάτι, ενώ προσθέτει ένα κόστος 15% κατά την εκτέλεση του GPU υπολογιστικού πυρήνα σε σχέση με την περίπτωση απευθείας ανάθεσης συσκευής. Σύμφωνα με όσα γνωρίζουμε, η προσέγγισή μας για εικονικοποίηση Xeon Phi συνεπεξεργαστών είναι η πρώτη και η μοναδική αυτή τη στιγμή που υποστηρίζει το διαμοιρασμό ενός Xeon Phi επιταχυντή μεταξύ πολλαπλών εικονικών μηχανών που εκτελούνται στον ίδιο φυσικό κόμβο. Ακολουθούμε την τεχνική της παραεικονικοποίησης στοχεύοντας το χαμηλό επίπεδο μεταφοράς της αντίστοιχης στοίβας λογισμικού. Με αυτό τον τρόπο, οι βασικές σχεδιαστικές άρχες της προσέγγισής μας μπορούν να εφαρμοστούν στις μελλοντικές τεχνολογίες επιταχυντών. Η πειραματική αποτίμηση του πρωτοτύπου μας δείχνει ότι μπορεί να επιφέρει καλύτερη χρησιμοποίηση του επιταχυντή όταν αυτός χρησιμοποιείται από πολλαπλές εικονικές μηχανές, αυξάνοντας το συνολικό throughput έως 3.56x σε σχέση με μία host εφαρμογή, η οποία αναπαριστά την περίπτωση της απευθείας ανάθεσης συσκευής.

show abstract

Secure Hardware Kernels Execution in CPU+FPGA Heterogeneous Cloud

Cited by 14 publications

References 17 publications

A Survey of Trusted Computing Solutions Using FPGAs

A Survey of Trusted Computing Solutions Using FPGAs

Architecture Support for FPGA Multi-tenancy in the Cloud

Τεχνικές Αποδοτικής Εικονικοποίησης Επιταχυντών Για Νεφοϋπολογιστικά Περιβάλλοντα

Contact Info

Product

Resources

About