Επιτήρηση, τεχνητή νοημοσύνη και αντιστάσεις

Τα συστήματα παρακολούθησης με κάμερες κάνουν χρήση της τεχνολογίας της τεχνητής νοημοσύνης. Μιλάμε για μια τεχνολογία η οποία καθίσταται πανταχού παρούσα, παρακολουθώντας τα πρόσωπα και τα σώματά από τις κάμερες οι οποίες βρίσκονται σε καταστήματα, γραφεία και δημόσιους χώρους, λίγο πολύ παντού. Σε ορισμένες χώρες, η τεχνολογία αποτελεί ένα ισχυρό νέο εργαλείο που χρησιμοποιείται για αστυνόμευση και μια γενικευμένη επιτήρηση των πληθυσμών.

Ως τεχνητή νοημοσύνη ορίζονται τα συστήματα υπολογιστών που ασχολούνται με τη σχεδίαση νοημόνων υπολογιστικών συστημάτων. Όταν αναφερόμαστε σε υπολογιστική νοημοσύνη αναφερόμαστε σε αυτή που επιδεικνύει χαρακτηριστικά που σχετίζονται με τη νοημοσύνη της ανθρώπινης συμπεριφοράς. [1],[2]

Τα συστήματα τεχνητής νοημοσύνης είναι παντού παρόντα στον σύγχρονο κόσμο, βοηθώντας να «τρέχουν» λειτουργικά των smartphones, μηχανές αναζήτησης στο διαδίκτυο, ψηφιακοί βοηθοί φωνής, προγράμματα τύπου Νetflix, καθώς από όλα αυτά συλλέγουν διαρκώς δεδομένα. Πολλοί άνθρωποι αποτυγχάνουν να συνειδητοποιήσουν πόσο γρήγορα εξελίσσεται η Τ.Ν., εξέλιξη η οποία στηρίζεται στα συνεχώς αυξανόμενα πηγάδια δεδομένων προς ανάλυση, στις διαρκείς βελτιώσεις σε αλγορίθμους και στις εξελισσόμενες τεχνολογίες.

Ευτυχώς, όπως μόλις απέδειξαν μερικοί ερευνητές από το βελγικό πανεπιστήμιο KU Leuven, μπορούμε συχνά να κρυβόμαστε από μια κάμερα τεχνητής νοημοσύνης με τη βοήθεια ενός απλού εντυπώματος χρώματος.

Ποιος το λέει αυτό; Οι ερευνητές έδειξαν ότι η εικόνα που έχουν σχεδιάσει (βλέπε φωτογραφία και video στο youtube με τίτλο “Deep Neural Networks are Easily Fooled”) μπορεί να κρύψει ένα ολόκληρο άτομο από ένα σύστημα υπολογιστικής-όρασης . Το συμπέρασμα αυτό το απέδειξαν με ένα δημοφιλές σύστημα αναγνώρισης αντικειμένων ανοιχτού κώδικα που ονομάζεται YoLo (v2).

Αναζήτηση: Το τέχνασμα που περιγράφεται παραπάνω θα μπορούσε ενδεχομένως να αφήσει τους «απατεώνες» να κρύβονται από τις κάμερες ασφαλείας ή να προσφέρει στους αντιφρονούντες έναν τρόπο να αποφύγουν την κυβερνητική επιτήρηση. «Αυτό που αποδεικνύει η δουλειά των ερευνητών είναι ότι είναι δυνατή η παράκαμψη των συστημάτων επιτήρησης (κάμερες) χρησιμοποιώντας αντιφατικά μοτίβα», λέει ο Wiebe Van Ranst, ένας από τους συγγραφείς της σχετικής έρευνας.

Το άπιαστο όνειρο: Η πλειοψηφία των υπολογιστικών μετρήσεων βασίζεται στην εκπαίδευση ενός (περιπλεγμένου) νευρωνικού δικτύου τροφοδοτώντας αυτό με παραδείγματα (επαναλήψεις πολλών σειρών δεδομένων) και τροποποιώντας τις παραμέτρους του, μέχρι τελικά να ταξινομηθούν σωστά τα αντικείμενα.

Μια απαραίτητη σημείωση: Όταν μιλούμε για νευρωνικά δίκτυα αναφερόμαστε σε ένα δίκτυο πολλών απλών επεξεργαστών («μονάδων»), το καθένα από τα οποία μπορεί να έχει μια μικρή ποσότητα τοπικής μνήμης. Οι μονάδες συνδέονται με κανάλια επικοινωνίας («συνδέσεις») τα οποία συνήθως φέρουν αριθμητικά δεδομένα, κωδικοποιημένα. [3]

Με το να τροφοδοτούνται παραδείγματα (συνδέσεις) σε ένα υπό εκπαίδευση νευρωνικό δίκτυο, και με την παρακολούθηση των αποτελεσμάτων εξόδου, είναι δυνατόν να καταλήξουμε σε συμπέρασμα σχετικά με το ποιοι τύποι εικόνων προκαλούν σύγχυση ή μπορούν να ξεγελάσουν το σύστημα.

Επιτήρηση: Η δουλειά αυτή είναι σημαντική, επειδή η τεχνητή νοημοσύνη είναι ολοένα και περισσότερο εφαρμόσιμη μέσω της καθημερινής χρήσης των καμερών και σχετικού λογισμικού. Χρησιμοποιείται ακόμη και για να αποφευχθεί η ανάγκη για ουρές πληρωμών σε ορισμένα πειραματικά καταστήματα, συμπεριλαμβανομένων εκείνων που διαχειρίζεται η Amazon. Και στην Κίνα, η τεχνολογία αναδύεται ως ένα ισχυρό νέο εργαλείο για την αλίευση ατόμων που περπατούν μεταξύ χιλιάδων σε ένα δρόμο, και, για το πιο ανησυχητικό, την παρακολούθηση ακόμη και μεγάλων κοινοτήτων ανθρώπων.

Ελεύθερη μετάφραση & σημειώσεις: ΑΡ

Πηγή κεντρικού άρθρου: technologyreview.com

Περισσότερες πληροφορίες :

http://www.evolvingai.org/fooling

https://medium.com/deep-learning-cafe/neural-networks-easily-fooled-e19bf575b527

https://theconversation.com/how-artificial-intelligence-systems-could-threaten-democracy-109698