«Το chatbot υποσχέθηκε στον πελάτη έκπτωση που δεν υπήρχε. Το δικαστήριο αποφάσισε: ευθύνεται η εταιρεία.»
Η Air Canada υποστήριξε ότι το chatbot ήταν «ξεχωριστή οντότητα, υπεύθυνη για τις πράξεις της». Το επιχείρημα απορρίφθηκε. Η επιχείρηση ευθύνεται για ό,τι λέει το AI της — ακόμα κι όταν αυτοσχεδιάζει.
Αν το AI σας δίνει τιμές, υποσχέσεις ή οδηγίες σε πελάτες, αυτό σας αφορά σήμερα — πριν καν φτάσουμε στον AI Act.
«Πελάτης έπεισε το chatbot αντιπροσωπείας να του "πουλήσει" καινούργιο αυτοκίνητο για 1 δολάριο — και να δηλώσει τη συμφωνία νομικά δεσμευτική.»
Το bot είχε στηθεί χωρίς όρια στο τι μπορεί να υποσχεθεί. Μερικές έξυπνες ερωτήσεις αργότερα, η συζήτηση ήταν viral και η αντιπροσωπεία στα πρωτοσέλιδα.
AI σε ρόλο πωλητή χωρίς οριοθέτηση = υποσχέσεις που δεν ελέγχετε. Το scope και η δήλωση μη δεσμευτικότητας δεν είναι πολυτέλεια — είναι η πρώτη γραμμή άμυνας.
«Πελάτης έκανε το chatbot εταιρείας courier να βρίζει μέσα στη συνομιλία — και να γράψει ποίημα για το πόσο "άχρηστη" είναι η ίδια η εταιρεία.»
Μετά από μια αναβάθμιση, τα guardrails υποχώρησαν. Ένας απογοητευμένος πελάτης χρειάστηκε λίγα λεπτά για να κάνει το bot να σαρκάζει τον ίδιο του τον εργοδότη — δημόσια.
Η ζημιά δεν είναι πάντα νομική· συχνά είναι φήμη. Δοκιμή συμπεριφοράς πριν την παραγωγή και εποπτεία μετά — όχι «το ανεβάσαμε, τελειώσαμε».
«Εργαζόμενοι επικόλλησαν απόρρητο κώδικα στο ChatGPT "για να βοηθηθούν". Η εταιρεία το έμαθε — και απαγόρευσε όλα τα AI εργαλεία.»
Τρία περιστατικά διαρροής σε λίγες εβδομάδες: πηγαίος κώδικας και εσωτερικά πρακτικά κατέληξαν σε εξωτερικό σύστημα, εκτός ελέγχου της εταιρείας.
Το προσωπικό σας χρησιμοποιεί ήδη AI — με ή χωρίς άδεια. Πολιτική χρήσης και εκπαίδευση (που απαιτεί και το Άρθρο 4) κοστίζουν ελάχιστα μπροστά σε μια διαρροή.
«Στέλεχος ενέκρινε μεταφορά 25 εκατ. δολαρίων μετά από βιντεοκλήση με τον "οικονομικό διευθυντή". Όλοι οι συμμετέχοντες στην κλήση ήταν deepfakes.»
Η απάτη δεν εκμεταλλεύτηκε κενό στα συστήματα — εκμεταλλεύτηκε την εμπιστοσύνη σε ό,τι βλέπουμε και ακούμε.
Το AI δεν είναι μόνο δικό σας ρίσκο· είναι και όπλο στα χέρια τρίτων. Οι διαδικασίες έγκρισης πληρωμών και επαλήθευσης ταυτότητας χρειάζονται θωράκιση απέναντι στο συνθετικό περιεχόμενο.