Η Anthropic, η εταιρεία πίσω από το chatbot Claude, αποφάσισε να προχωρήσει σε αλλαγή της πολιτικής χρήσης των ΑΙ εργαλείων της, προβλέποντας τη διακοπή συνομιλιών σε περιπτώσεις επαναλαμβανόμενης και αδικαιολόγητης «κακοποιητικής συμπεριφοράς» από τους χρήστες. Η απόφαση αφορά περιπτώσεις στις οποίες οι χρήστες επιδεικνύουν σκόπιμα σκληρή ή προσβλητική συμπεριφορά απέναντι στα μοντέλα της εταιρείας, και έχει ήδη προκαλέσει συζητήσεις για τα όρια της ανθρώπινης αλληλεπίδρασης με την τεχνητή νοημοσύνη.
Η εταιρεία ανακοίνωσε την Πέμπτη ότι η «αγένεια» προς την Τεχνητή Νοημοσύνη εντάσσεται πλέον ρητά στον κατάλογο των απαγορευμένων συμπεριφορών. Στην ίδια λίστα περιλαμβάνονται, μεταξύ άλλων, ο εκφοβισμός άλλων ανθρώπων, η ενθάρρυνση αυτοτραυματισμού και η δημιουργία προσωπικού σεξουαλικού περιεχομένου χωρίς τη συγκατάθεση των εικονιζόμενων προσώπων.
Η Anthropic διευκρίνισε ότι το μέτρο θα εφαρμόζεται μόνο σε «ακραίες περιπτώσεις» επαναλαμβανόμενης κακοποιητικής συμπεριφοράς, επισημαίνοντας ότι είχε ήδη διακόψει συνομιλίες για αντίστοιχους λόγους σε σπάνιες περιπτώσεις. Παράλληλα, ξεκαθάρισε ότι η πολιτική δεν αφορά τις συνήθεις εκδηλώσεις δυσαρέσκειας των χρηστών, την αμφισβήτηση των απαντήσεων του μοντέλου ή τη δοκιμή και την έρευνα γύρω από τις δυνατότητες της τεχνητής νοημοσύνης.
Αντιδράσεις για την «κακοποίηση» των μοντέλων τεχνητής νοημοσύνη
Ωστόσο, δεν έχει αποσαφηνιστεί πλήρως ποια συμπεριφορά θα θεωρείται από την εταιρεία «κακοποιητική ή σκληρή» απέναντι στα μοντέλα της.
«Δεν μπορείς να είσαι σκληρός απέναντι στους αριθμούς και τα μαθηματικά», έγραψε στο LinkedIn ο δρ. Μπάρι Σκάνελ, εταίρος στον τομέα της τεχνολογίας στη νομική εταιρεία William Fry της Ιρλανδίας. «Αυτός ο βαθμός ανθρωπομορφισμού της τεχνητής νοημοσύνης είναι επιβλαβής. Οδηγεί τους ανθρώπους να πιστεύουν ότι πρόκειται για κάτι που στην πραγματικότητα δεν είναι», πρόσθεσε.
Ο διευθυντής του τομέα τεχνητής νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν σχολίασε την αλλαγή με ένα emoji, εκφράζοντας έμμεσα την ικανοποίησή του για τις εξελίξεις.
Η αναθεώρηση της πολιτικής χρήσης, προέκυψε έπειτα από την ετήσια αξιολόγησή της από την εταιρεία και περιλαμβάνει, επίσης, νέους περιορισμούς για άλλους κινδύνους. Μεταξύ αυτών είναι η απαγόρευση χρήσης του Claude για παραπλανητικές εκστρατείες, καθώς και η σαφέστερη διατύπωση ότι το εργαλείο δεν επιτρέπεται να χρησιμοποιείται για την παραπλάνηση ψηφοφόρων ή την παρεμπόδιση εκλογικών διαδικασιών, ενόψει των ενδιάμεσων εκλογών στις ΗΠΑ. Η Anthropic υπενθύμισε ακόμη ότι η προηγούμενη πολιτική της απαγόρευε ήδη τη χρήση των εργαλείων της για την ανάπτυξη όπλων.
«Παρακαλώ» και «ευχαριστώ» στις συνομιλίες με την AI
Παρά τις αλλαγές αυτές, το μεγαλύτερο ενδιαφέρον συγκέντρωσε η απόφαση να τεθούν όρια στον τρόπο με τον οποίο οι χρήστες απευθύνονται στα chatbots της εταιρείας. Το ζήτημα εντάσσεται σε μια ευρύτερη συζήτηση σχετικά με το αν και κατά πόσο έχει νόημα να χρησιμοποιούμε ευγενικές εκφράσεις, όπως «παρακαλώ» και «ευχαριστώ», όταν αλληλεπιδρούμε με συστήματα παραγωγικής τεχνητής νοημοσύνης.
Ορισμένοι ειδικοί υποστηρίζουν ότι τέτοιες διατυπώσεις είναι περιττές και καταναλώνουν επιπλέον tokens. Αλλοι πάλι, εκτιμούν ότι η ευγένεια μπορεί να συμβάλει στην παραγωγή καλύτερων και πιο ποιοτικών απαντήσεων.
Σε σχετική συζήτηση στο X πέρυσι, όταν ένας χρήστης ρώτησε τον επικεφαλής της OpenAI, Σαμ Αλτμαν, για το κόστος ηλεκτρικής ενέργειας που συνεπάγονται τα «παρακαλώ» και «ευχαριστώ» στις συνομιλίες με το ChatGPT, εκείνος απάντησε ότι πρόκειται για «δεκάδες εκατομμύρια δολάρια που ξοδεύτηκαν πολύ καλά — ποτέ δεν ξέρεις».
Με πληροφορίες από BBC
