GuardAI - Enhancing Robustness and Security of Edge AI Systems for Safety-Critical Applications

Ξεκίνησε στις:

2024-10-01

Τίτλος:

GuardAI - Enhancing Robustness and Security of Edge AI Systems for Safety-Critical Applications

Πρόγραμμα:

HORIZON Research and Innovation Actions

Διάρκεια:

36 μήνες

Περίληψη:

Το έργο GuardAI επιδιώκει να ενισχύσει την ασφάλεια των συστημάτων τεχνητής νοημοσύνης αιχμής, αντιμετωπίζοντας τα κρίσιμα τρωτά σημεία τους. Δίνεται έμφαση σε τομείς υψηλού κινδύνου, όπως περιγράφεται στον κανονισμό AI Act της ΕΕ, όπου αυτά τα συστήματα, συμπεριλαμβανομένων των μη επανδρωμένων αεροχημάτων (drones), των συνδεδεμένων και αυτόνομων οχημάτων και των υποδομών αιχμής του δικτύου, διαδίδονται ευρέως και θα διαδραματίσουν καθοριστικό ρόλο στη λήψη κρίσιμων αποφάσεων. Αυτές οι εφαρμογές αιχμής βασίζονται σε μεγάλο βαθμό στη λήψη αποφάσεων σε πραγματικό χρόνο και στην επεξεργασία ευαίσθητων δεδομένων, γεγονός που τις καθιστά επιρρεπείς σε διάφορες απειλές ασφαλείας και επιθέσεις. Ως εκ τούτου, ο πρωταρχικός στόχος του GuardAI είναι να αναπτύξει την επόμενη γενιά ανθεκτικών αλγορίθμων τεχνητής νοημοσύνης προσαρμοσμένων για εφαρμογές αιχμής.

Αξιοποιώντας τις τεχνολογικές προόδους αιχμής, το έργο θα αναπτύξει καινοτόμες λύσεις για να διασφαλίσει την ακεραιότητα, την ασφάλεια και την ανθεκτικότητα αυτών των συστημάτων, ενισχύοντας την εμπιστοσύνη και επιταχύνοντας την ασφαλή υιοθέτηση τεχνολογιών που βασίζονται στην τεχνητή νοημοσύνη (AI), καθώς και θα εξετάσει επίσης ηθικούς προβληματισμούς στην ανάπτυξη τεχνολογιών AI για να προωθήσει ηθικά υγιή ψηφιακά περιβάλλοντα. Μέσω μιας πολυεπιστημονικής και πολύπλευρης προσέγγισης, φέρνοντας κοντά ερευνητές, εμπειρογνώμονες του κλάδου, κυβερνητικές υπηρεσίες, επαγγελματίες τεχνητής νοημοσύνης καθώς και προηγμένες μεθόδους ανάλυσης απειλών και ισχυρούς AI αλγόριθμους, το GuardAI φιλοδοξεί να δημιουργήσει μια ριζική αλλαγή αντίληψης για την ασφάλεια της τεχνητής νοημοσύνης. strive to elevate the standards of secure AI systems through cutting-edge advancements and a comprehensive, collaborative approach.

Κοινοπραξία:

• UNIVERSITY OF CYPRUS– Coordinator (Cyprus)
• ATHINA-EREVNITIKO KENTRO KAINOTOMIAS STIS TECHNOLOGIES TIS PLIROFORIAS, TON EPIKOINONION KAI TIS GNOSIS (Greece)
• ETHNIKO KENTRO EREVNAS KAI TECHNOLOGIKIS ANAPTYXIS (Greece)
• UNIVERSITAT WIEN (Austria)
• CONSORZIO NAZIONALE INTERUNIVERSITARIO PER LE TELECOMUNICAZIONI (Italy)
• SPACE HELLAS SA (Greece)
• EXUS SOFTWARE MONOPROSOPI ETAIRIA PERIORISMENIS EVTHINIS (Greece)
• EIGHT BELLS LTD (Cyprus)
• CYPRUS ORGANISATION FOR STANDARDISATION (Cyprus)
• UNIVERSITY OF YORK (UK)

Project Website: https://www.kios.ucy.ac.cy/guardai/