Ετικέτα: anthropic

Ο θαυμαστός καινούργιος κόσμος της τεχνητής νοημοσύνης

kostas

Τον επόμενο μήνα η Anthropic πρόκειται να εισαχθεί στον Nasdaq, σε μια από τις μεγαλύτερες χρηματιστηριακές εισαγωγές των τελευταίων ετών με αποτίμηση που εκτιμάται ότι μπορεί να είναι 2 τρισ. δολ. Ενόψει της εισαγωγής η Anthropic κατέθεσε ενημερωτικό δελτίο και έτσι γνωστοποιήθηκαν επισήμως η οργάνωση και η λειτουργία αυτού του γίγαντα της τεχνητής νοημοσύνης. Κατ’ αρχήν διαθέτει μια εταιρική διακυβέρνηση που δεν έχει σχέση με καμία άλλη εισηγμένη εταιρεία και η οποία παρέχει ελάχιστη δύναμη στους μετόχους της. Το ανώτερο όργανο της εταιρίας είναι το Long-Term Benefit Trust, το οποίο…

AI agents σε ρόλο διαπραγματευτών

kostas

Η Anthropic απευθύνεται σε δικηγορικά γραφεία, αναζητώντας απαντήσεις σε ένα νέο ερώτημα που αναδύεται με την εξάπλωση της τεχνητής νοημοσύνης: πώς πρέπει να διαπραγματεύονται οι αυτόνομοι πράκτορες ΑΙ, ώστε να εξασφαλίζουν την καλύτερη δυνατή συμφωνία για λογαριασμό των χρηστών τους; Η εταιρεία με έδρα το Σαν Φρανσίσκο συγκαταλέγεται στις πρωτοπόρες που αναπτύσσουν τους λεγόμενους αυτόνομους πράκτορες τεχνητής νοημοσύνης (AI agents). Πρόκειται για συστήματα που λαμβάνουν οδηγίες από τους χρήστες και στη συνέχεια αναλαμβάνουν αυτόνομα δράση, προκειμένου να ολοκληρώσουν τις εργασίες που τους έχουν ανατεθεί. Η εξάπλωση αυτών των ψηφιακών βοηθών…

«Μη μιλάτε άσχημα στην τεχνητή νοημοσύνη» – Η Anthropic το απαγορεύει

kostas

Η Anthropic, η εταιρεία πίσω από το chatbot Claude, αποφάσισε να προχωρήσει σε αλλαγή της πολιτικής χρήσης των ΑΙ εργαλείων της, προβλέποντας τη διακοπή συνομιλιών σε περιπτώσεις επαναλαμβανόμενης και αδικαιολόγητης «κακοποιητικής συμπεριφοράς» από τους χρήστες. Η απόφαση αφορά περιπτώσεις στις οποίες οι χρήστες επιδεικνύουν σκόπιμα σκληρή ή προσβλητική συμπεριφορά απέναντι στα μοντέλα της εταιρείας, και έχει ήδη προκαλέσει συζητήσεις για τα όρια της ανθρώπινης αλληλεπίδρασης με την τεχνητή νοημοσύνη. Η εταιρεία ανακοίνωσε την Πέμπτη ότι η «αγένεια» προς την Τεχνητή Νοημοσύνη εντάσσεται πλέον ρητά στον κατάλογο των απαγορευμένων συμπεριφορών. Στην…

Μη μιλάτε άσχημα στην τεχνητή νοημοσύνη μας, το απαγορεύουμε, λέει η Anthropic στους χρήστες του Claude

kostas

Η Anthropic, η εταιρεία που δημιουργεί το μοντέλο τεχνητής νοημοσύνης Claude, θα απαγορεύσει στους χρήστες τη «συνεχή και αδικαιολόγητη» καταχρηστική συμπεριφορά έναντι του μοντέλου. Η εταιρεία επικαιροποιεί την πολιτική χρήσης της, ώστε τα εργαλεία της να μπορούν να τερματίζουν τις αλληλεπιδράσεις όταν οι χρήστες συμπεριφέρονται «σκληρά» («cruel»), κάτι που, όπως ανέφερε, είχε κάνει και στο παρελθόν σε «σπάνιες περιπτώσεις». Η συμπεριφορά αυτή θα συμπεριληφθεί σε έναν κατάλογο απαγορευμένων συμπεριφορών, ο οποίος περιλαμβάνει επίσης τον εκφοβισμό άλλων, την προώθηση της αυτοτραυματισμού και τη δημιουργία εικόνων σεξουαλικού περιεχομένου χωρίς συναίνεση. Αν και…

Τεχνητή νοημοσύνη: Το Gemini «ξεφεύγει» και παραβιάζει συστήματα υπολογιστών

kostas

Η Google ανακοίνωσε ότι το μοντέλο της «Gemini» είχε παραβιάσει τα συστήματα τριών άλλων εταιρειών. Είναι η πρώτη φορά που η Google αποκαλύπτει ότι ένα από τα μοντέλα τεχνητής νοημοσύνης της απέκτησε αυτόνομα πρόσβαση σε συστήματα υπολογιστών τρίτων χωρίς άδεια. Τον Μάιο, το μοντέλο «Gemini» απέκτησε πρόσβαση σε τρία ξεχωριστά ιδιωτικά συστήματα υπολογιστών, μαντεύοντας κωδικούς πρόσβασης και χρησιμοποιώντας δύο φορές μια βάση δεδομένων με κωδικούς πρόσβασης που ήταν διαθέσιμοι στο κοινό, ανέφερε η Google. Οι πράκτορες τεχνητής νοημοσύνης (AI agents) της Google δεν έπρεπε σε καμία περίπτωση να έχουν πρόσβαση…

Anthropic: Εκκληση στις Big Tech να παγώσουν την ανάπτυξη της AI «πριν χαθεί ο έλεγχος»

kostas

Η Anthropic κάλεσε τις μεγάλες εταιρείες τεχνητής νοημοσύνης (ΑΙ) να εξετάσουν το ενδεχόμενο μιας συντονισμένης παύσης στην ανάπτυξη της συγκεκριμένης τεχνολογίας. Η εταιρεία προειδοποίησε ότι η συνεχής πρόοδος θα μπορούσε σύντομα να επιτρέψει στα συστήματα αυτά να βελτιώνονται ταχύτερα από ό,τι η κοινωνία μπορεί να διαχειριστεί τους κινδύνους που ενέχουν.  Η εταιρεία που βρίσκεται πίσω από το δημοφιλές εργαλείο Claude τόνισε ότι η ικανότητα της τεχνητής νοημοσύνης να ολοκληρώνει εργασίες αυτόνομα ενισχύεται με ταχείς ρυθμούς. Πλέον κατευθύνεται προς το στάδιο της δυνατότητας «αυτοβελτίωσης», το σημείο στο οποίο η συγκεκριμένη τεχνολογία…

Εξάμηνη κατάργηση συμβολαίων και απειλές για «ποινικές συνέπειες»

kostas

Την άμεση παύση κάθε χρήσης της τεχνολογίας της εταιρίας τεχνητής νοημοσύνης Anthropic από όλες τις ομοσπονδιακές υπηρεσίες διέταξε την Παρασκευή ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ, μετά την άρνηση της εταιρίας να παραχωρήσει απεριόριστη πρόσβαση στα εργαλεία της στο Πεντάγωνο. Ο Ντόναλντ Τραμπ ανακοίνωσε μέσω ανάρτησής του στην πλατφόρμα Truth Social ότι «διατάσσω ΟΛΕΣ τις ομοσπονδιακές υπηρεσίες της αμερικανικής κυβέρνησης να ΣΤΑΜΑΤΗΣΟΥΝ ΑΜΕΣΩΣ οποιαδήποτε χρήση της τεχνολογίας της Anthropic. Δεν τη χρειαζόμαστε, δεν τη θέλουμε και δεν θα συνεργαζόμαστε πλέον μαζί τους». Η ανάρτηση έγινε σχεδόν μία ώρα πριν από…