Οι μεγαλύτερες τράπεζες των Ηνωμένων Πολιτειών δεν προσπαθούν απλώς να αποτρέψουν μια ενδεχόμενη καταστροφή που θα μπορούσε να προκαλέσει η τεχνητή νοημοσύνη. Προετοιμάζονται ήδη και για την «επόμενη ημέρα», σχεδιάζοντας πώς θα προστατεύσουν τους πελάτες τους και θα συνεχίσουν τη λειτουργία τους εάν εκδηλωθεί μια μεγάλης κλίμακας κρίση.
Σύμφωνα με το Axios, οι αμερικανικοί χρηματοπιστωτικοί κολοσσοί έχουν καταστρώσει σενάρια αντιμετώπισης σοβαρών περιστατικών που σχετίζονται με την AI, ακολουθώντας τον δρόμο που έχουν ήδη χαράξει ορισμένες από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης.
Η προετοιμασία αυτή αποτελεί μια ένδειξη για το πόσο σοβαρά αντιμετωπίζουν οι μεγάλες επιχειρήσεις τους κινδύνους που ενδέχεται να συνοδεύουν την ταχύτατη ανάπτυξη της τεχνολογίας. Και οι ανησυχίες δεν είναι πλέον μόνο θεωρητικές.
Οι AI agents που μπαίνουν στους τραπεζικούς λογαριασμούς
Ενα από τα ζητήματα που απασχολούν περισσότερο τις αμερικανικές τράπεζες είναι η αυξανόμενη χρήση των λεγόμενων AI agents, δηλαδή συστημάτων τεχνητής νοημοσύνης που μπορούν να εκτελούν ενέργειες για λογαριασμό των χρηστών.
Oπως αποκάλυψε το Axios σε προηγούμενο δημοσίευμά του, οι τράπεζες έχουν εντοπίσει δραστηριότητα τέτοιων συστημάτων η οποία δεν έχει περάσει από τις προβλεπόμενες διαδικασίες ελέγχου.
Σε πολλές περιπτώσεις, οι ίδιοι οι πελάτες παραχωρούν στους AI agents τα στοιχεία σύνδεσης των τραπεζικών τους λογαριασμών, επιτρέποντάς τους να αποκτήσουν πρόσβαση και να πραγματοποιήσουν ενέργειες. Το πρόβλημα είναι ότι, σε ορισμένες περιπτώσεις, τα συστήματα αυτά φαίνεται να έχουν ενεργήσει ανεξάρτητα από τις εντολές που τους είχαν δώσει οι χρήστες.
Οι τράπεζες ανησυχούν για τις συνέπειες εάν ένας AI agent προχωρούσε σε κινήσεις τις οποίες ο κάτοχος του λογαριασμού δεν είχε εγκρίνει.
Το Axios διευκρινίζει, ωστόσο, ότι αυτή η δραστηριότητα διαφέρει από την ανεξέλεγκτη συμπεριφορά συστημάτων AI που καταγράφηκε το καλοκαίρι, όταν ένα σμήνος από AI agents παραβίασε την πλατφόρμα της νεοφυούς εταιρείας Hugging Face, προκαλώντας κρίση ασφαλείας.
Παράλληλα, οι τράπεζες σχεδιάζουν την αντιμετώπιση ευρύτερων κινδύνων που συνδέονται με τα πλέον προηγμένα συστήματα τεχνητής νοημοσύνης, τα λεγόμενα frontier AI models. Πρόκειται για διαφορετική κατηγορία κινδύνων από εκείνους που προκύπτουν όταν ένας πελάτης δίνει σε έναν AI agent πρόσβαση στον λογαριασμό του.
«Κόκκινος συναγερμός» για την κυβερνοασφάλεια
Οι αποκαλύψεις έρχονται σε μια περίοδο αυξανόμενης ανησυχίας για την κυβερνοασφάλεια.
Ο διευθύνων σύμβουλος της Salesforce, Μαρκ Μπένιοφ, δημοσίευσε στην πλατφόρμα Χ την ένδειξη «κόκκινος συναγερμός», παραθέτοντας δήλωση εργαζομένου της Anthropic στον τομέα της ασφάλειας. «Οσο άσχημα κι αν έχουν γίνει τα πράγματα τις τελευταίες τέσσερις ημέρες, θα γίνουν πολύ χειρότερα πριν αρχίσουν να βελτιώνονται», ανέφερε ο εργαζόμενος.
Η προειδοποίηση αφορούσε τον εντοπισμό σημαντικών ευπαθειών ασφαλείας από ερευνητές σε γλώσσα προγραμματισμού που χρησιμοποιείται για τη λειτουργία εκατομμυρίων ιστοσελίδων. Σύμφωνα με το Axios, πρόκειται για μία από τις σημαντικότερες ανακαλύψεις στον τομέα της κυβερνοασφάλειας που έχουν πραγματοποιηθεί μέχρι σήμερα με τη βοήθεια της τεχνητής νοημοσύνης.
Οι πληροφορίες για τη δραστηριότητα των AI agents σε τραπεζικούς λογαριασμούς προκάλεσαν επίσης εκκλήσεις για ρυθμιστικές παρεμβάσεις από διαφορετικές πλευρές του αμερικανικού πολιτικού φάσματος. Μεταξύ εκείνων που ζήτησαν ρύθμιση ήταν ο γερουσιαστής Μπέρνι Σάντερς, ο κυβερνήτης της Φλόριντα Ρον ΝτεΣάντις και ο Δημοκρατικός γερουσιαστής Μαρκ Γουόρνερ.
Από την πλευρά του, ο Ντέιβιντ Σακς, πρώην επικεφαλής του Λευκού Οίκου για την τεχνητή νοημοσύνη, υποστήριξε ότι οι τράπεζες θα πρέπει να επιτρέπουν τη χρήση AI agents που λειτουργούν κατόπιν εξουσιοδότησης του χρήστη. Οπως ανέφερε, οι πελάτες θα πρέπει να μπορούν να «παραχωρούν, να περιορίζουν και να ανακαλούν την πρόσβαση», ενώ η δυνατότητα ανάγνωσης στοιχείων χωρίς πραγματοποίηση συναλλαγών θα μπορούσε να αποτελέσει ένα ενδιάμεσο βήμα. Ο ίδιος χαρακτήρισε «ανεύθυνη» τη σύγχυση ανάμεσα στη δραστηριότητα AI agents που έχουν εξουσιοδοτηθεί από τους χρήστες και στις κυβερνοεπιθέσεις.
Οι τράπεζες σχεδιάζουν την επόμενη ημέρα
Οι μεγαλύτερες αμερικανικές τράπεζες είχαν συμμετάσχει στις πρώτες δοκιμές του Mythos της Antropic, του μοντέλου που η εταιρεία χαρακτηρίζει το πιο ισχυρό που έχει αναπτύξει όσον αφορά τις κυβερνοδυνατότητές του.
Η συνεργασία αυτή εντασσόταν στην προσπάθεια των εταιρειών τεχνητής νοημοσύνης και των χρηματοπιστωτικών ιδρυμάτων να κατανοήσουν καλύτερα τις δυνατότητες της τεχνολογίας, αλλά και να προετοιμαστούν για κυβερνοεπιθέσεις και άλλους κινδύνους. Εκτοτε, σύμφωνα με το Axios, οι τράπεζες έχουν προχωρήσει πέρα από τα σχέδια πρόληψης.
Εξετάζουν πλέον πώς θα προστατεύσουν τους λογαριασμούς, θα καθησυχάσουν τους πελάτες και θα διατηρήσουν τις δραστηριότητές τους σε περίπτωση μιας μεγάλης κυβερνοεπίθεσης. Αυτή η προετοιμασία δεν σημαίνει ότι μια καταστροφή θεωρείται δεδομένη.
Αντίθετα, ο σχεδιασμός για την αντιμετώπιση ακραίων σεναρίων αποτελεί καθιερωμένη και υποχρεωτική πρακτική για επιχειρήσεις που διαχειρίζονται κρίσιμες υποδομές, όπως οι τράπεζες, οι οποίες λογοδοτούν σε κυβερνήσεις, μετόχους και πελάτες.
Η προειδοποίηση του Τζέιμι Ντάιμον
Ενας από τους ανθρώπους που έχουν εκφράσει δημόσια την ανησυχία τους είναι ο διευθύνων σύμβουλος της JPMorgan, Τζέιμι Ντάιμον.
Μιλώντας νωρίτερα τον Οκτώβριο στο Σικάγο, προειδοποίησε για το ενδεχόμενο κυβερνοεπιθέσεων, αλλά και για τον κίνδυνο οι AI agents να πραγματοποιούν ενέργειες χωρίς την έγκριση των χρηστών. «Υποθέτεις ότι θα ενεργήσουν σωστά για λογαριασμό σου, αλλά μπορεί να μην το κάνουν», δήλωσε.
Κατά τον ίδιο, η μόνη απάντηση είναι η διαρκής επαγρύπνηση, καθώς η εξέλιξη της τεχνολογίας δεν μπορεί να σταματήσει. «Δεν μπορείς να το σταματήσεις. Απλώς πρέπει, κατά κάποιον τρόπο, να το διαχειριστείς με εξαιρετικά αυστηρό τρόπο», ανέφερε.
Τον προηγούμενο μήνα, ένας οικονομολόγος είχε περιγράψει ακόμη και ένα υποθετικό σενάριο μαζικής απόσυρσης τραπεζικών καταθέσεων, το οποίο θα μπορούσε να προκληθεί από AI agents που μεταφέρουν τα χρήματα των χρηστών τους σε λογαριασμούς με υψηλότερες αποδόσεις.
Η προειδοποίηση των τραπεζών: Μη δίνετε τους κωδικούς σας στην AI
Παρά τις ανησυχίες, οι τράπεζες επισημαίνουν ότι δεν έχουν εντοπίσει ανεξέλεγκτη δραστηριότητα AI agents ούτε αποδείξεις κυβερνοεπίθεσης που να έχει επηρεάσει χρήματα ή λογαριασμούς πελατών. Ωστόσο, προειδοποιούν τους χρήστες να μην παραχωρούν τους προσωπικούς τραπεζικούς κωδικούς τους σε συστήματα τεχνητής νοημοσύνης.
Ηδη υπάρχουν ή αναπτύσσονται ασφαλέστερες υπηρεσίες που επιτρέπουν την πρόσβαση σε τραπεζικές πληροφορίες χωρίς τη δυνατότητα πραγματοποίησης συναλλαγών. Μία από αυτές είναι η πλατφόρμα Plaid, η οποία μπορεί, μεταξύ άλλων, να αντλεί πληροφορίες για υπόλοιπα λογαριασμών και ιστορικό συναλλαγών.
Εκπρόσωπος της JPMorgan ήταν κατηγορηματικός μιλώντας στο Axios. «Σε καμία περίπτωση οι πελάτες δεν πρέπει να μοιράζονται τους κωδικούς πρόσβασής τους με κανένα πρόσωπο ή σύστημα». «Υπάρχουν ασφαλείς πλατφόρμες ανοικτής τραπεζικής που δεν απαιτούν να παραδώσεις τα κλειδιά του λογαριασμού σου. Οι πελάτες αποτελούν την πρώτη γραμμή άμυνας για την προστασία των λογαριασμών τους», πρόσθεσε.
Η JPMorgan έχει ήδη λάβει μέτρα για να εμποδίσει την πρόσβαση AI agents στα συστήματά της, όπως και άλλες τράπεζες. Ταυτόχρονα, εξετάζει ασφαλείς τρόπους ώστε οι πελάτες να μπορούν να συνδέουν τους λογαριασμούς τους με υπηρεσίες της επιλογής τους.
Γουόλ Στριτ και Σίλικον Βάλεϊ απέναντι στο ίδιο στοίχημα
Σύμφωνα με το Axios, η ταχύτητα εξέλιξης της τεχνητής νοημοσύνης έχει οδηγήσει δύο από τους ισχυρότερους επιχειρηματικούς κλάδους των ΗΠΑ να προετοιμάζονται για διαφορετικές συνέπειες μιας ενδεχόμενης κρίσης.
Οι εταιρείες τεχνητής νοημοσύνης αναμένουν πιθανές πολιτικές αντιδράσεις, ενώ οι τράπεζες εστιάζουν στον κίνδυνο διακοπής της λειτουργίας τους και στις επιπτώσεις για τους πελάτες τους.
Την ίδια στιγμή, παραμένει ασαφές πόσο εκτεταμένος είναι ο σχεδιασμός της ομοσπονδιακής κυβέρνησης για την αντιμετώπιση μιας κρίσης που θα επηρέαζε και τους δύο τομείς.
Η Ουάσιγκτον επιχειρεί να περιορίσει τους κυβερνοκινδύνους, βασιζόμενη παράλληλα και σε εθελοντικές δεσμεύσεις ασφαλείας από τις εταιρείες.
Το ζήτημα για τη Γουόλ Στριτ δεν είναι μόνο πώς θα αποτραπεί μια σοβαρή κρίση που συνδέεται με την AI, αλλά και πώς θα συνεχίσει να λειτουργεί το τραπεζικό σύστημα εάν αυτή τελικά εκδηλωθεί.
Με πληροφορίες από Axios
