AI στη βιντεοεπιτήρηση: Η νέα πρόκληση της ακεραιότητας του αποδεικτικού υλικού

Όσο η τεχνητή νοημοσύνη αποκτά μεγαλύτερο ρόλο στην ανάλυση και βελτίωση των εικόνων από τις κάμερες, ανακύπτουν κρίσιμα ερωτήματα για την αξιοπιστία του video, την προέλευση των δεδομένων και τον έλεγχό τους.

Η τεχνητή νοημοσύνη έχει αλλάξει σημαντικά τις δυνατότητες των συστημάτων video surveillance. Από την αναγνώριση αντικειμένων και συμπεριφορών έως την ανάλυση μεγάλου όγκου εικόνας σε πραγματικό χρόνο, τα AI-powered video analytics προσφέρουν στις ομάδες ασφαλείας δυνατότητες που μέχρι πρόσφατα ήταν δύσκολο να επιτευχθούν.

Ταυτόχρονα, όμως, δημιουργείται ένα νέο και ιδιαίτερα σημαντικό ζήτημα:

Όσο περισσότερο η AI επεξεργάζεται την εικόνα, τόσο περισσότερο πρέπει να γνωρίζουμε τι ακριβώς βλέπουμε.

Πρόκειται για ένα θέμα που αφορά δύο διαφορετικές αλλά αλληλένδετες διαστάσεις: την ακεραιότητα του video ως αποδεικτικού υλικού και τη διακυβέρνηση των δεδομένων που συλλέγουν οι κάμερες.

Όταν η AI «βελτιώνει» την εικόνα

Η επεξεργασία εικόνας δεν είναι κάτι καινούργιο στη βιντεοεπιτήρηση. Οι κάμερες εδώ και χρόνια εφαρμόζουν τεχνικές για τη βελτίωση της έκθεσης, της αντίθεσης, του θορύβου και της ορατότητας σε δύσκολες συνθήκες.

Η είσοδος της AI, όμως, διευρύνει σημαντικά αυτές τις δυνατότητες.

Ένα AI σύστημα μπορεί να βοηθήσει τον operator να κατανοήσει καλύτερα μια σκηνή με χαμηλό φωτισμό, έντονο θόρυβο ή άλλες δύσκολες συνθήκες. Αυτό είναι ιδιαίτερα χρήσιμο για την άμεση αξιολόγηση ενός περιστατικού.

Υπάρχει όμως μια κρίσιμη διάκριση:

Άλλο η βελτίωση της εικόνας για την κατανόηση ενός συμβάντος και άλλο η αλλοίωση του αρχικού καταγεγραμμένου υλικού.

Όταν ένα video πρόκειται να χρησιμοποιηθεί σε μια έρευνα ή να αποτελέσει αποδεικτικό στοιχείο, η διατήρηση του αρχικού υλικού αποκτά ιδιαίτερη σημασία.

Η ασφαλέστερη προσέγγιση είναι επομένως το original footage να διατηρείται ανέπαφο και ξεχωριστά από οποιαδήποτε επεξεργασμένη ή AI-enhanced έκδοση.

Η βελτιωμένη εικόνα μπορεί να βοηθήσει τον άνθρωπο να κατανοήσει τι συνέβη. Το πρωτότυπο υλικό, όμως, παραμένει η βάση της καταγραφής.

Η σημασία του video provenance

Σε ένα περιβάλλον όπου η εικόνα μπορεί να υποστεί πολλαπλά επίπεδα επεξεργασίας, αποκτά ιδιαίτερη σημασία η έννοια του video provenance, δηλαδή η δυνατότητα να γνωρίζουμε την προέλευση και την ιστορία ενός αρχείου.

Για μια ομάδα ασφαλείας ή έναν ερευνητή δεν θα αρκεί πλέον να γνωρίζει πότε και πού καταγράφηκε ένα video.

Θα πρέπει να μπορεί να απαντήσει και σε ερωτήματα όπως:

• Είναι αυτό το αρχικό recording;
• Έχει υποστεί επεξεργασία;
• Ποια επεξεργασία εφαρμόστηκε;
• Πρόκειται για AI-enhanced έκδοση;
• Ποιο είναι το πρωτότυπο αρχείο;
• Ποιος και πότε πραγματοποίησε την επεξεργασία;

Η διάκριση αυτή γίνεται ιδιαίτερα σημαντική όταν το υλικό περνά από την καθημερινή λειτουργία του security operations center σε μια διαδικασία διερεύνησης ενός σοβαρού περιστατικού.

Μια εικόνα που έχει βελτιωθεί ώστε να γίνει πιο κατανοητή από τον operator μπορεί να είναι εξαιρετικά χρήσιμη επιχειρησιακά. Αυτό όμως δεν σημαίνει ότι πρέπει να αντιμετωπίζεται αυτομάτως ως ισοδύναμη με την αρχική καταγραφή.

Η δεύτερη πρόκληση: Ποιος έχει τον έλεγχο των δεδομένων;

Η ακεραιότητα του video δεν είναι το μοναδικό ζήτημα.

Τα σύγχρονα συστήματα surveillance συλλέγουν τεράστιες ποσότητες δεδομένων. Σε αυτά μπορεί να περιλαμβάνονται εικόνες εργαζομένων, επισκεπτών και πελατών, πληροφορίες σχετικά με τις κινήσεις τους, αλλά και δεδομένα για τη διάταξη και τη λειτουργία μιας εγκατάστασης.

Καθώς η AI απαιτεί μεγάλες ποσότητες δεδομένων για την ανάπτυξη και βελτίωση μοντέλων, ένα εύλογο ερώτημα για κάθε οργανισμό είναι:

Μπορεί το video που συλλέγεται για λόγους ασφάλειας να χρησιμοποιηθεί αργότερα για την εκπαίδευση ενός AI μοντέλου;

Η απάντηση δεν πρέπει να θεωρείται αυτονόητη.

Το γεγονός ότι ένας οργανισμός χρησιμοποιεί μια AI-enabled πλατφόρμα video surveillance δεν σημαίνει αυτομάτως ότι παρέχει στον κατασκευαστή απεριόριστο δικαίωμα να χρησιμοποιεί το video για δικούς του σκοπούς.

Η επεξεργασία ενός video για να πραγματοποιηθεί μια συγκεκριμένη λειτουργία ασφαλείας είναι διαφορετική από τη χρήση του ίδιου υλικού ως dataset για την ανάπτυξη ενός μοντέλου.

Από την αγορά μιας κάμερας στην αγορά μιας πολιτικής δεδομένων

Η εξέλιξη αυτή αλλάζει και τα κριτήρια με τα οποία θα πρέπει να αξιολογούν οι οργανισμοί τις λύσεις AI video analytics.

Μέχρι σήμερα, βασικά ερωτήματα ήταν:

Πόσο ακριβής είναι το analytics;

Τι μπορεί να ανιχνεύσει;

Πόσες κάμερες μπορεί να διαχειριστεί;

Στο εξής, θα πρέπει να προστίθενται και άλλα:

• Πού επεξεργάζεται το video;
• Ποια δεδομένα αποθηκεύονται;
• Για πόσο χρονικό διάστημα;
• Ποιος έχει πρόσβαση;
• Χρησιμοποιούνται τα δεδομένα για εκπαίδευση AI μοντέλων;
• Απαιτείται προηγούμενη εξουσιοδότηση του πελάτη;
• Μπορεί ο πελάτης να ελέγξει ή να περιορίσει τη δευτερογενή χρήση των δεδομένων;
• Πώς διασφαλίζεται η ακεραιότητα του αρχικού video;
• Υπάρχει σαφής διαχωρισμός μεταξύ original και AI-enhanced footage;

Έτσι, η επιλογή μιας AI video surveillance πλατφόρμας γίνεται πλέον και ζήτημα data governance.

Ο άνθρωπος παραμένει στην «αλυσίδα εμπιστοσύνης»

Η AI μπορεί να αναλύσει πολύ μεγαλύτερο όγκο video από αυτόν που θα μπορούσε να εξετάσει μια ομάδα ανθρώπων. Μπορεί να εντοπίσει αντικείμενα, συμπεριφορές και συμβάντα και να μειώσει σημαντικά τον χρόνο απόκρισης.

Όσο όμως περισσότερες αποφάσεις μεταφέρονται από τον άνθρωπο στο software, τόσο μεγαλύτερη σημασία αποκτά η ανθρώπινη εποπτεία.

Η AI μπορεί να εντοπίσει ένα πιθανό περιστατικό. Μπορεί να προτείνει μια ενέργεια ή να επισημάνει ένα τμήμα του video.

Η τελική αξιολόγηση, ιδιαίτερα όταν υπάρχουν σημαντικές επιχειρησιακές, νομικές ή ανθρώπινες συνέπειες, δεν θα πρέπει να αντιμετωπίζεται ως μια απλή αυτοματοποιημένη διαδικασία.

Η human-in-the-loop προσέγγιση παραμένει κρίσιμη για τη διατήρηση της εμπιστοσύνης.

Η εμπιστοσύνη γίνεται μέρος της τεχνολογίας

Η AI αναμφίβολα θα συνεχίσει να επεκτείνει τις δυνατότητες της βιντεοεπιτήρησης. Το ερώτημα, όμως, δεν θα είναι πλέον μόνο πόσο «έξυπνη» είναι μια κάμερα ή πόσο ακριβές είναι ένα analytics.

Θα είναι και το κατά πόσο μπορούμε να εμπιστευτούμε το αποτέλεσμα.

Για να συμβεί αυτό, οι οργανισμοί θα χρειαστούν σαφείς κανόνες γύρω από τρία βασικά ζητήματα:

Ακεραιότητα: Το αρχικό video πρέπει να διατηρείται και να μπορεί να διαχωριστεί από οποιαδήποτε επεξεργασμένη έκδοση.

Διακυβέρνηση δεδομένων: Ο οργανισμός πρέπει να γνωρίζει πώς, πού και για ποιο σκοπό χρησιμοποιούνται τα δεδομένα που συλλέγει.

Ανθρώπινη εποπτεία: Οι κρίσιμες αποφάσεις δεν πρέπει να μετατρέπονται αυτομάτως σε «αποφάσεις της AI».

Η μετάβαση από την κλασική βιντεοεπιτήρηση στο AI-powered surveillance δεν είναι, επομένως, μόνο μια τεχνολογική εξέλιξη.

Είναι και μια εξέλιξη εμπιστοσύνης.

Και όσο η AI αποκτά μεγαλύτερο ρόλο στην ερμηνεία όσων καταγράφουν οι κάμερες, τόσο πιο σημαντικό θα γίνεται να γνωρίζουμε όχι μόνο τι βλέπει η AI, αλλά και τι ακριβώς κατέγραψε αρχικά η κάμερα, τι άλλαξε στην πορεία και ποιος έχει τον έλεγχο των δεδομένων.