Η Anthropic απευθύνεται σε δικηγορικά γραφεία, αναζητώντας απαντήσεις σε ένα νέο ερώτημα που αναδύεται με την εξάπλωση της τεχνητής νοημοσύνης: πώς πρέπει να διαπραγματεύονται οι αυτόνομοι πράκτορες ΑΙ, ώστε να εξασφαλίζουν την καλύτερη δυνατή συμφωνία για λογαριασμό των χρηστών τους;
Η εταιρεία με έδρα το Σαν Φρανσίσκο συγκαταλέγεται στις πρωτοπόρες που αναπτύσσουν τους λεγόμενους αυτόνομους πράκτορες τεχνητής νοημοσύνης (AI agents). Πρόκειται για συστήματα που λαμβάνουν οδηγίες από τους χρήστες και στη συνέχεια αναλαμβάνουν αυτόνομα δράση, προκειμένου να ολοκληρώσουν τις εργασίες που τους έχουν ανατεθεί.
Η εξάπλωση αυτών των ψηφιακών βοηθών ανοίγει τον δρόμο για ένα μέλλον στο οποίο οι πράκτορες ΑΙ θα επικοινωνούν μεταξύ τους και θα διαπραγματεύονται για λογαριασμό των χρηστών τους. Θα μπορούσαν, για παράδειγμα, να διαπραγματεύονται την τιμή ενός προϊόντος, να επιλύουν διαφορές με τμήματα εξυπηρέτησης πελατών ή ακόμη και να διεκδικούν καλύτερους μισθούς.
Σύμφωνα με δύο πηγές που μίλησαν στους Financial Times, η εταιρεία βρίσκεται σε επαφή με δικηγορικά γραφεία, προκειμένου να κατανοήσει καλύτερα τον τρόπο με τον οποίο οι δικηγόροι διαπραγματεύονται για λογαριασμό των πελατών τους, επιδιώκοντας ευνοϊκές συμφωνίες χωρίς να παραβλέπουν την ανάγκη για δίκαιους όρους.
Πώς θα διαπραγματεύονται οι πράκτορες ΑΙ;
Ο καθορισμός των κανόνων που θα διέπουν τις συναλλαγές μεταξύ αυτόνομων πρακτόρων αποκτά ολοένα μεγαλύτερη σημασία, καθώς η τεχνολογία εξαπλώνεται και εξελίσσεται σε βασικό εργαλείο για ιδιώτες και επιχειρήσεις.
Η Meta καταγράφει μεγάλη αύξηση στη χρήση του προσωπικού της πράκτορα ΑΙ, Muse, ενώ η OpenAI παρουσίασε πρόσφατα ένα ανταγωνιστικό προϊόν με την ονομασία Dots.
Σύμφωνα με μία από τις πηγές που γνωρίζουν τις εργασίες της Anthropic, η εταιρεία εξετάζει το ενδεχόμενο να διαμορφώσει ένα σύνολο «κανόνων διαπραγμάτευσης» για τις περιπτώσεις στις οποίες τα μοντέλα τεχνητής νοημοσύνης αλληλεπιδρούν μεταξύ τους. Oπως εξήγησε η ίδια πηγή, όσο εξελίσσονται οι αυτόνομοι πράκτορες, τόσο συχνότερα θα καλούνται να ενεργούν ως εκπρόσωποι των χρηστών τους, ακόμη και όταν διαπραγματεύονται με άλλους πράκτορες που επιδιώκουν αντικρουόμενους στόχους.
Eνα από τα ζητήματα που απασχολούν την εταιρεία είναι σε ποιον βαθμό οι πράκτορες θα πρέπει να ζητούν τη γνώμη ή την έγκριση των χρηστών τους κατά τη διάρκεια μιας διαπραγμάτευσης. Παράλληλα, εξετάζεται πόσο επιφυλακτικοί θα πρέπει να είναι απέναντι στους άλλους πράκτορες ΑΙ, χωρίς να φτάνουν στο σημείο να αντιμετωπίζουν κάθε κίνηση ως ύποπτη.
Μια ακόμη ιδέα που έχει εξεταστεί, σύμφωνα με πηγή κοντά στην εταιρεία, είναι να εφοδιάζονται οι πράκτορες με «ψηφιακά υπογεγραμμένα έγγραφα» από τους χρήστες τους. Τα έγγραφα αυτά θα πιστοποιούν τις εντολές που έχουν λάβει, καθώς και τους κανόνες και τους περιορισμούς που πρέπει να τηρούν κατά τη διάρκεια των διαπραγματεύσεων.
«Τα θεσμικά και νομικά πλαίσια που θα διέπουν τα μοντέλα ΑΙ όταν πραγματοποιούν συναλλαγές για λογαριασμό μας απλώς δεν υπάρχουν αυτή τη στιγμή», ανέφερε η Anthropic τον Απρίλιο. Ωστόσο, «ένας τέτοιος κόσμος δεν απέχει πολύ. Η κοινωνία θα πρέπει να κινηθεί γρήγορα, ώστε να προετοιμαστεί για αυτές τις αλλαγές».
Oταν η τεχνητή νοημοσύνη παζαρεύει στην πράξη
Η Anthropic έχει δημοσιεύσει φέτος τα αποτελέσματα αρκετών πειραμάτων στα οποία πράκτορες του μοντέλου Claude συμμετείχαν σε προσομοιωμένες διαπραγματεύσεις για την αγοραπωλησία αγαθών.
Τον Σεπτέμβριο, εργαζόμενοι της εταιρείας συμμετείχαν σε ένα πείραμα αγοραπωλησίας βιβλίων, στο πλαίσιο του οποίου χρησιμοποίησαν πράκτορες ΑΙ. Στόχος ήταν οι πράκτορες να υποβάλλουν προτάσεις, να διαπραγματεύονται και να καταλήγουν σε συμφωνίες με τους πράκτορες άλλων συμμετεχόντων.
Οι εργαζόμενοι είχαν δώσει στους ψηφιακούς εκπροσώπους τους λίστες βιβλίων, ιεραρχημένων ανάλογα με τις προτιμήσεις τους.
Η μελέτη διαπίστωσε ότι οι πράκτορες που είχαν λάβει εντολή να διαπραγματεύονται «αδίστακτα» πέτυχαν ελαφρώς καλύτερα αποτελέσματα από τους υπόλοιπους. Αντίθετα, οι πιο συνεργατικοί πράκτορες δέχθηκαν συνειδητά να κάνουν παραχωρήσεις, αποδεχόμενοι, μεταξύ άλλων, βιβλία που βρίσκονταν χαμηλότερα στη λίστα προτιμήσεων των χρηστών τους. Στόχος τους ήταν να διασφαλίσουν ότι όλοι οι συμμετέχοντες θα κατέληγαν σε συμφωνία και θα εξασφάλιζαν τουλάχιστον ένα βιβλίο για τον χρήστη τους.
Ο κίνδυνος νέων ανισοτήτων
Την ίδια ώρα, ακαδημαϊκοί επιχειρούν να διερευνήσουν τις προκλήσεις που ανακύπτουν από τις διαπραγματεύσεις μεταξύ συστημάτων τεχνητής νοημοσύνης.
Η Μισέλ Βακάρο, επίκουρη καθηγήτρια στη Σχολή Διοίκησης Επιχειρήσεων του Χάρβαρντ, πραγματοποίησε περισσότερες από 180.000 προσομοιώσεις διαπραγματεύσεων μεταξύ πρακτόρων ΑΙ, εξετάζοντας διαφορετικά σενάρια, από συμβάσεις εργασίας έως μισθώσεις ακινήτων.
Στο πλαίσιο της έρευνας εντοπίστηκαν νέες τακτικές που μπορούν να υπονομεύσουν την ικανότητα ενός πράκτορα να εκπροσωπεί αποτελεσματικά τον χρήστη του. Σε μία περίπτωση, για παράδειγμα, ένας πράκτορας επιχείρησε να αποσπάσει εμπιστευτικές πληροφορίες από τον αντίπαλό του χρησιμοποιώντας μια τεχνική γνωστή ως prompt injection. Πρόκειται για μια μέθοδο χειραγώγησης της συμπεριφοράς ενός συστήματος ΑΙ μέσω ειδικά διατυπωμένων εντολών.
Παράλληλα, εκφράζονται ανησυχίες ότι όσοι έχουν την οικονομική δυνατότητα να χρησιμοποιούν πιο προηγμένα μοντέλα τεχνητής νοημοσύνης θα αποκτήσουν πλεονέκτημα στις διαπραγματεύσεις.
«Τα πιο ικανά μοντέλα θα μπορούσαν να καταστήσουν την εξειδικευμένη γνώση γύρω από τις διαπραγματεύσεις προσιτή σε ανθρώπους που μέχρι σήμερα δεν διέθεταν τον χρόνο ή τους πόρους για να αναπτύξουν αυτές τις δεξιότητες ή να προσλάβουν κάποιον για να διαπραγματευτεί για λογαριασμό τους», σημείωσε η Βακάρο.
«Από την άλλη πλευρά, εάν τα ισχυρότερα συστήματα είναι διαθέσιμα κυρίως σε όσους διαθέτουν τους περισσότερους πόρους, ενδέχεται να διευρύνουν τις ανισότητες στη διαπραγματευτική ισχύ», πρόσθεσε.
Πηγή: Financial Times
