Κυβερνοασφάλεια και τεχνητή νοημοσύνη στα αυτόνομα οχήματα

April 01, 2021: Διεθνή Νομικά Νέα


ethemis

Κυβερνοασφάλεια και τεχνητή νοημοσύνη στα αυτόνομα οχήματα

Οι προκλήσεις που θέτει η εξέλιξη της τεχνολογίας και η χρήση της σε ολοένα περισσότερες εκφάνσεις της καθημερινής ζωής είναι ποικίλες. Εν προκειμένω θα απασχολήσουν οι κίνδυνοι που ανακύπτουν από την εφαρμογή συστημάτων τεχνητής νοημοσύνης στα οχήματα. Ως τεχνητή νοημοσύνη ορίζεται η συλλογή μεθόδων ικανών για λογικούς και αυτόνομους συλλογισμούς, δράση ή λήψη αποφάσεων, προσαρμογή σε πολύπλοκα περιβάλλοντα και/ή σε άγνωστες συνθήκες. Γνώρισμα των αυτοκινήτων νέας γενιάς είναι η αύξηση των αυτόνομων λειτουργιών τους και ο συνακόλουθος περιορισμός της ανάγκης ανθρώπινης παρέμβασης. Η αξιοποίηση της προόδου στον τομέα της τεχνητής νοημοσύνης με σκοπό την παροχή δυνατότητας ημιαυτόνομης και αυτόνομης οδήγησης αποτελεί σημαντική πρόκληση και σηματοδοτεί την έναρξη μίας νέας εποχής στην αυτοκινητοβιομηχανία. Παράλληλα, αναπόδραστα θα επηρεάσει το υφιστάμενο νομικό πλαίσιο, καθώς η ανάγκη προστασίας των χρηστών του οδικού δικτύου και του περιβάλλοντος θα διαφοροποιηθούν σημαντικά.

Παρά τα αδιαφιλονίκητα οφέλη που έχει να προσφέρει στην ανθρωπότητα μία τέτοια τεχνολογική εξέλιξη, εγκυμονεί ταυτόχρονα και νέες μορφές κινδύνων. Αυτοί σχετίζονται άμεσα με τον τρόπο που τα συγκεκριμένα οχήματα λειτουργούν. Τα επιμέρους συστήματά τους είναι προορισμένα να συμβάλλουν στην καταγραφή δεδομένων του περιβάλλοντος χώρου, όπως αποστάσεις, σημάνσεις, σηματοδότες, εμπόδια, άλλοι χρήστες της οδού, καιρικές συνθήκες και στη συνδυαστική αξιολόγησή τους με σκοπό την ασφαλή κίνηση του οχήματος. Παράλληλα, τα συστήματα πρέπει να λειτουργούν με τρόπο ώστε να τηρούνται οι επιταγές της εκάστοτε νομοθεσίας οδικής ασφάλειας και να εξασφαλίζεται μία εν γένει ομαλή πλοήγηση χωρίς ακραίες αυξομειώσεις ταχύτητας ή απότομους ελιγμούς. Υποκαθιστούν, δηλαδή τις ενέργειες στις οποίες κανονικά καλείται να προβεί ο εκάστοτε οδηγός αυτή τη στιγμή. Οι τεχνολογίες που αναπτύσσονται στα οχήματα νέας γενιάς παρουσιάζουν διαβάθμιση ως προς τη δυνατότητα του χρήστη να μπορεί να αναλάβει τον έλεγχο του οχήματος σε κάποιες περιπτώσεις.

Η ανάπτυξη της αυτονομίας στα οχήματα αναπόφευκτα απαιτεί αυξημένα επίπεδα υπολογιστικής λειτουργικότητας και συνδεσιμότητας το οποίο ανάλογα αυξάνει το πεδίο και τις πιθανότητες κυβερνοεπιθέσεων. Μία τέτοια επίθεση μπορεί να θέσει σε κίνδυνο επιβάτες, πεζούς, άλλα οχήματα και σχετικές υποδομές. Οι κίνδυνοι που συνδέονται συγκεκριμένα με την τεχνητή νοημοσύνη σε ένα αυτόνομο όχημα κατατάσσονται σε δύο ευρείες κατηγορίες, τους τυχαίους και τους  σκόπιμους. Οι τυχαίοι προκύπτουν ως παράπλευρα αποτελέσματα μίας κατά τα λοιπά χρηστής εκμετάλλευσης της τεχνητής νοημοσύνης, εξαιτίας κυρίως εκκρεμών ζητημάτων ως προς την αξιοπιστία, την ευρωστία, τους περιορισμούς και την ασφάλεια των μεθόδων τεχνητής νοημοσύνης. Δυσλειτουργίες, ατυχείς υπολογισμοί οφειλόμενοι σε ελλείψεις, ανεπαρκής σχεδιασμός καθώς και εγγενείς ιδιομορφίες είναι ενδεικτικοί παράγοντες κινδύνου για συστήματα τεχνητής νοημοσύνης. Αντίθετα, οι σκόπιμοι κίνδυνοι περιλαμβάνουν ιδίως τους προερχόμενους από μία κακόβουλη εκμετάλλευση των περιορισμών και των τρωτών σημείων που ενυπάρχουν στην τεχνητή νοημοσύνη, ώστε να προκαλέσουν ηθελημένη επίθεση και συνακόλουθη βλάβη.

Οι μέθοδοι κακόβουλων επιθέσεων που στοχεύουν κυρίως στην τεχνητή νοημοσύνη των οχημάτων κατά βάση ταυτίζονται με τις κλασικές μεθόδους κυβερνοεπιθέσεων. Από τις πλέον γνωστές είναι το spoofing και blinding, μέθοδοι με τις οποίες ο επιτιθέμενος εισάγει στον αλγόριθμο του συστήματος λανθασμένα ή κατεστραμμένα δεδομένα εκμηδενίζοντας έτσι την αποτελεσματικότητα του αυτόματου συστήματος λήψης αποφάσεων του οχήματος. Ευρέως διαδεδομένη μέθοδος κυβερνοεπίθεσης είναι η λεγόμενη DoS (Denial of Service) ή και DDoS (Distributed Denial of Service). Πρόκειται για ηθελημένη διακοπή των διαύλων επικοινωνίας ενός αυτόνομου οχήματος, αποκόβοντάς το ουσιαστικά από το εξωτερικό περιβάλλον, κάτι που καθιστά σχεδόν αδύνατη την ασφαλή αυτόνομη πλοήγηση. Ακόμη ένα παράδειγμα επίθεσης είναι το jamming, η χειραγώγηση δηλαδή των επικοινωνιών του οχήματος από τον επιτιθέμενο, ο οποίος τροποποιεί τα δεδομένα που εισάγονται στο σύστημα μέσω των αισθητήρων ή ερμηνεύει λανθασμένα τα μηνύματα που προκύπτουν από την μελέτη της οδού διαταράσσοντας έτσι την ομαλή λειτουργία του. Τελευταία αλλά εξίσου σημαντική είναι η επίθεση που αν και δε διαταράσσει την ασφάλεια της πλοήγησης, επιδιώκει να αποκτήσει πρόσβαση στα προσωπικά μεταξύ άλλων δεδομένα του κατόχου του οχήματος, τα οποία χρησιμοποιούνται από το σύστημα τεχνητής νοημοσύνης.   

Τόσο σε ευρωπαϊκό όσο και σε διεθνές επίπεδο επιδιώκεται η ρύθμιση της νέας πραγματικότητας, καθώς η τεχνητή νοημοσύνη στον τομέα των μεταφορών φαίνεται να απαιτεί ad hoc ρυθμιστικό πλαίσιο. Νέα διακρατικά προγράμματα, στρατηγικές, εγχειρίδια, οδηγίες, κανονισμοί και ομάδες ειδικών έχουν επιστρατευθεί για το εγχείρημα. Τελευταία εξέλιξη αποτελεί μία κοινή έκθεση που δημοσίευσε στις 10 Φεβρουαρίου 2021 το Κοινό Κέντρο Ερευνών της Ευρωπαϊκής Επιτροπής σε συνεργασία με τον Οργανισμό της Ευρωπαϊκής Ένωσης για την Κυβερνοασφάλεια (ENISA), στην οποία εξετάζονται οι απειλές της κυβερνοασφάλειας που συνδέονται με την τεχνητή νοημοσύνη στα αυτόνομα οχήματα και διατυπώνονται συστάσεις για τον μετριασμό τους.

Οι προτάσεις της έκθεσης έχουν κατηγοριοποιηθεί σε πέντε ενότητες, οι οποίες τελούν σε συνάρτηση με τον επιμέρους κίνδυνο που πρέπει να αποσοβηθεί. Η πρώτη ενότητα αφορά προτάσεις για την επίτευξη συστηματικής επαλήθευσης μοντέλων τεχνητής νοημοσύνης και δεδομένων. Η δεύτερη σχετίζεται με προκλήσεις που αφορούν την εφοδιαστική αλυσίδα. Η τρίτη με το ζήτημα της ενσωμάτωσης της κυβερνοασφάλειας στην τεχνητή νοημοσύνη, στις παραδοσιακές αρχές που διέπουν την κυβερνοασφάλεια. Τέταρτη ενότητα ζητημάτων είναι η διαχείριση περιστατικών και η ανακάλυψη τρωτών σημείων της τεχνητής νοημοσύνης. Τελευταία ενότητα προβλημάτων είναι η περιορισμένη εξειδίκευση στο ζήτημα της κυβερνοασφάλειας της τεχνητής νοημοσύνης στην βιομηχανία αυτόνομων οχημάτων.

Για κάθε ενότητα ζητημάτων τίθενται ποικίλες προτάσεις αντιμετώπισης. Από αυτές θα αναφερθούν οι κυριότερες και πιο βιώσιμες ως λύσεις. Συνιστάται να πραγματοποιούνται τακτές αξιολογήσεις της ασφάλειας του συστήματος τεχνητής νοημοσύνης ενός οχήματος καθ΄ όλη τη διάρκεια του κύκλου ζωής του. Αυτή η συστηματική επικύρωση μοντέλων και δεδομένων τεχνητής νοημοσύνης είναι απαραίτητη για να διασφαλιστεί ότι το όχημα θα συμπεριφέρεται πάντα σωστά όταν αντιμετωπίζει απρόσμενες καταστάσεις ή κακόβουλες παρεμβάσεις. Παράλληλα, η παρακολούθηση και καταγραφή πιθανών κινδύνων θα οδηγούσε σε δημιουργία ενός αρχείου κινδύνων αυξάνοντας έτσι την ετοιμότητα της αυτοκινητοβιομηχανίας να ανταποκριθεί πιο γρήγορα στις προκλήσεις. Μια άλλη σύσταση είναι να διέπουν ολόκληρη την αλυσίδα εφοδιασμού αυτοκινήτων κοινή πολιτική ασφάλειας και κοινές οδηγίες, οι οποίες να καταλαμβάνουν ακόμη και τρίτους προμηθευτές. Επίσης, η αυτοκινητοβιομηχανία θα πρέπει να υιοθετήσει μια προσέγγιση σύμφωνα με την οποία η ασφάλεια στον κυβερνοχώρο θα τίθεται ως κεντρικό στοιχείο του ψηφιακού σχεδιασμού εξαρχής. Είναι, επίσης, σημαντικό ο τομέας της αυτοκινητοβιομηχανίας να αυξήσει το επίπεδο ετοιμότητάς του και να ενισχύσει τις ικανότητες αντιμετώπισης συμβάντων για να χειριστεί τα αναδυόμενα ζητήματα ασφάλειας στον κυβερνοχώρο που συνδέονται με την τεχνητή νοημοσύνη. Η δημιουργία μηχανισμών ικανών να προετοιμάζουν εναλλακτικά σχέδια ανταπόκρισης σε περίπτωση κάποιου περιστατικού, επίσης θα προωθούσε σημαντικά την ασφάλεια. Τέλος, η έμφαση στην εκπαίδευση και την επιμόρφωση των παραγόντων που σχετίζονται με την γραμμή παραγωγής αυτόνομων οχημάτων φαίνεται να είναι καίριας σημασίας.

Χωρίς αμφισβήτηση η τεχνητή νοημοσύνη γενικότερα και στην οδήγηση ειδικότερα αποτελεί μία πρόκληση για τη νομική επιστήμη, κυρίως επειδή αναμένονται ακόμα πολλές εξελίξεις στον χώρο αυτό, άρα οποιαδήποτε νέα ρύθμιση διατρέχει τον κίνδυνο να θεωρηθεί παρωχημένη σε βάθος πενταετίας. Προς το παρόν, δεν υπάρχει κάποια διεθνής σύμβαση για την κυβερνοασφάλεια, πολλώ δε μάλλον για την κυβερνοασφάλεια στην τεχνητή νοημοσύνη. Αυτή την έλλειψη προσπαθούν να ισοσκελίσουν κράτη και οργανισμοί με οδηγίες, εγχειρίδια και εκθέσεις. Μία τέτοια προσπάθεια εξάλλου αποτελεί και η παρούσα έκθεση που αναλύθηκε. Μη έχοντας όμως δεσμευτική ισχύ και μάλιστα για μεγάλο αριθμό κρατών, η ωφέλειά τους είναι περιορισμένη. Ως τώρα τα προβλήματα των σύγχρονων τεχνολογιών φαίνεται να αντιμετωπίζονται από τη διεθνή νομική κοινότητα με απόπειρες αναλογικής εφαρμογής κλασικών κανόνων του διεθνούς δικαίου με τρανταχτό παράδειγμα το αρ. 2(4) του Χάρτη το οποίο γίνεται δεκτό ότι καλύπτει και ζητήματα κυβερνοεπίθεσης, παρά το γεγονός ότι κάτι τέτοιο δεν ήταν στο πεδίο εφαρμογής του εξαρχής. Καθίσταται, επομένως σαφές ότι η αναλογική εφαρμογή δεν μπορεί να καλύψει όλα τα νέα ζητήματα. Η ανάγκη για πιο εξειδικευμένους διεθνείς και δεσμευτικής ισχύος κανόνες αναδεικνύεται αδήριτη.


 

Καθίσταται, επομένως σαφές ότι η αναλογική εφαρμογή δεν μπορεί να καλύψει όλα τα νέα ζητήματα. Η ανάγκη για πιο εξειδικευμένους διεθνείς και δεσμευτικής ισχύος κανόνες αναδεικνύεται αδήριτη.



Source/ Author: Ελευθερία Καραμπελιά
LATEST POSTS



ethemis map

Προκηρύξεις/ Αγγελίες

Προκηρύξεις, Διαγωνισμοί και Αγγελίες για δικηγόρους, ασκούμενους & νομικούς.

View more
newsroom

ΝΟΜΚΑ ΝΕΑ/      ΡΟΗ ΕΙΔΗΣΕΩΝ

NewsRoom, Νομικά Νέα

View more
ethemis case law

Noμολογία

Σημαντικές δικαστικές αποφάσεις, ιδίως των ανωτάτων δικαστηρίων της χώρας

View more
ethemis case law

Noμοθεσία

Οι νόμοι που έχουν δημοσιευθεί στην Εφημερίδα της Κυβερνήσεως

View more
ethemis legal studies

Εκπαιδευτικά           Προγράμματα

Για νομικούς & δικηγόρους από εκπαιδευτικούς φορείς στην Ελλάδα και το εξωτερικό.

View more
ethemis.gr

EΚΔΗΛΩΣΕΙΣ            ΦΟΡΕΩΝ

Εκδηλώσεις Nομικού Eνδιαφέροντος από ποικίλους θεσμικούς Φορείς

View more
ethemis international news

Διεθνή                      Νέα

Διεθνή Νομικά Νέα και Αρθρογραφία, Νομολογία ΕΔΔΑ και αποφάσεις Διεθνών Δικαστηρίων

View more
ethemis map

Δελτία            Τύπου

Ανακοινώσεις ΔΣΑ, δικαστικών ενώσεων, ανεξάρτητων αρχών, θεσμικών φορέων.

View more
ethemis

Συντακτική            Ομάδα

Η Επιστημονική Ομάδα του Ethemis.gr

View more
ethemis.gr

ΣΥΝΕΔΡΙΑ             ΕΚΔΗΛΩΣΕΙΣ             e-ΘΕΜΙΣ

Ο Κατάλογος Συνεδρίων και Εκδηλώσεων που έχει διοργανώσει η Ένωση Ελλήνων Νομικών

View more

newsroom