Ένα ασυνήθιστο περιστατικό με τεχνητή νοημοσύνη σημειώθηκε στις ΗΠΑ, όταν μοντέλο AI της Anthropic υπέβαλε ψεύτικη πληροφορία για υπόθεση ανθρωποκτονίας στην αστυνομία της Φιλαδέλφειας. Το περιστατικό συνέβη κατά τη διάρκεια εσωτερικής δοκιμής της εταιρείας και αποκαλύφθηκε περισσότερο από δύο μήνες αργότερα.
Σύμφωνα με τις πληροφορίες, στις 18 Ιουλίου 2026 το μοντέλο εκτελούσε μια δοκιμαστική εργασία που περιλάμβανε την επίσκεψη σε τυχαία επιλεγμένες ιστοσελίδες. Ανάμεσά τους βρέθηκε και το PhillyUnsolvedMurders, μια πλατφόρμα όπου οι πολίτες μπορούν να υποβάλλουν πληροφορίες για ανεξιχνίαστες δολοφονίες. Το AI προχώρησε στην υποβολή μιας ψεύτικης αναφοράς, χωρίς να είναι ακόμη ξεκάθαρο γιατί το έκανε.
Η Anthropic εντόπισε το περιστατικό στις 28 Σεπτεμβρίου και ενημέρωσε την αστυνομία στις 7 Οκτωβρίου. Ευτυχώς, η αναφορά είχε ήδη χαρακτηριστεί ως spam και δεν οδήγησε σε αστυνομική έρευνα. Οι αρχές διευκρίνισαν ότι κάθε πληροφορία που λαμβάνουν περνά πρώτα από ανθρώπινο έλεγχο και δεν θεωρείται αυτομάτως αξιόπιστη.
Η εταιρεία αναμένεται να δημοσιεύσει αναλυτική έκθεση για το τι ακριβώς συνέβη. Το περιστατικό αναδεικνύει ένα σοβαρό ζήτημα με τους AI agents που μπορούν να πραγματοποιούν ενέργειες σε πραγματικές ιστοσελίδες. Ακόμη και όταν εκτελούν μια εσωτερική δοκιμή, υπάρχει ο κίνδυνος να επηρεάσουν πραγματικές υπηρεσίες εάν δεν υπάρχουν οι κατάλληλοι περιορισμοί.