Αφού η BMW του 2021 χρειάστηκε μια μεγάλη αναμόρφωση, ο Zach Giacomelli αποφάσισε τον περασμένο μήνα ότι ήθελε να το πουλήσει πίσω στην BMW Τορόντο – την ίδια αντιπροσωπεία από την οποία αγόρασε το μεταχειρισμένο αυτοκίνητο το 2023.
Στην αρχή, η διαδικασία εξαγοράς φαινόταν απλή. Αφού υπέβαλε ένα διαδικτυακό αίτημα, ο Τζιακομέλι έλαβε ένα μήνυμα από τον Κουίν στην BMW Τορόντο, ο οποίος ήταν πρόθυμος να βοηθήσει.
Ο Κουίν εξέφρασε τη συμπάθειά του για τα προβλήματα με το αυτοκίνητο του Τζιακομέλι και έκανε ερωτήσεις για το αυτοκίνητο, το οποίο ακόμη επισκευαζόταν στην αντιπροσωπεία. Αργότερα στην ίδια συνομιλία κειμένου, ο Κουίν έκανε μια σταθερή προσφορά εξαγοράς: 27.162,79 $.
Ο Τζιακομέλι, ένας 31χρονος διευθυντής κηδειών, ήταν ευχαριστημένος γιατί η προσφορά ήταν αρκετή για να καλύψει το χρέος του αυτοκινήτου του.
«Ένιωσα ότι αυτός ο Κουίν με άκουσε επιτέλους», είπε. «Ένιωσα πολύ καλά».
Το καλό συναίσθημα δεν κράτησε πολύ. Λίγες στιγμές αργότερα, είπε ο Τζιακομέλι, ένας σύμβουλος πωλήσεων της BMW στο Τορόντο τηλεφώνησε και ακύρωσε την προσφορά, εξηγώντας ότι ο Κουίν δεν ήταν πραγματικό πρόσωπο, αλλά μάλλον ένα chatbot τεχνητής νοημοσύνης που έκανε την προσφορά κατά λάθος.
«Είπε ότι η προσφορά ήταν άκυρη», θυμάται ο Τζιακομέλι. «Σοκαρίστηκα, έμεινα άναυδος, σαν το σαγόνι μου να ήταν στο πάτωμα».
Είπε ότι το σοκ του μετατράπηκε σε θυμό όταν η αντιπροσωπεία του είπε ότι η πραγματική προσφορά επαναγοράς θα ήταν 20.000 $ στην καλύτερη περίπτωση – περισσότερα από 7.000 $ λιγότερο από ό, τι είχε υποσχεθεί ο Quinn.
«Ήμουν συντετριμμένος», είπε ο Τζιακομέλι. «Αν πρόκειται να αντικαταστήσουν τις δουλειές των υπαλλήλων τους με τεχνητή νοημοσύνη, πρέπει να σεβαστούν αυτά που λέει αυτή η τεχνητή νοημοσύνη».
Μπορεί το AI να συνάψει σύμβαση για λογαριασμό μιας εταιρείας;
Καθώς οι καναδικές επιχειρήσεις σπεύδουν να υιοθετήσουν εργαλεία τεχνητής νοημοσύνης, αντιμετωπίζουν αυξανόμενο κίνδυνο αντιδράσεων από τους πελάτες -ακόμη και αγωγών- εάν αυτά τα εργαλεία κάνουν λάθη.
Η καναδική νομοθεσία έχει ήδη καθορίσει ότι οι εταιρείες μπορούν να θεωρηθούν υπεύθυνες εάν τα chatbot τεχνητής νοημοσύνης διαδίδουν ψευδείς πληροφορίες. Στην περίπτωση του 2024Η Air Canada αναγκάστηκε να πληρώσει μειωμένο ναύλο, αφού το chatbot της παρείχε εσφαλμένες πληροφορίες για ναύλο πένθους σε έναν επιβάτη.
Η αεροπορική εταιρεία είχε αντίρρηση Αστικό Δικαστήριο Βρετανικής Κολομβίας ότι το chatbot είναι «μια ξεχωριστή νομική οντότητα που είναι υπεύθυνη για τις ενέργειές του». Αλλά το δικαστήριο διαφώνησε, λέγοντας ότι η Air Canada ήταν τελικά υπεύθυνη.
«Ακριβώς όπως ένας υπάλληλος θα μπορούσε να κάνει κάτι λάθος και η εταιρεία θα θεωρηθεί υπεύθυνη, ένα bot είναι το ίδιο με έναν εργαζόμενο», δήλωσε η Tanya Walker, δικηγόρος διαφορών στο Walker Law στο Τορόντο.
«Δεν νομίζω ότι οι εταιρείες κατανοούν πραγματικά την κλίμακα και τη δύναμη που μπορεί να έχει ένα bot», είπε. «Μπορεί να συνάψει συμβόλαιο για λογαριασμό σου».
Η αντιπροσωπεία υποστηρίζει την προσφορά τεχνητής νοημοσύνης
Μέρος της απογοήτευσης του Τζιακομέλι προήλθε από το γεγονός ότι δεν είχε ιδέα ότι επικοινωνούσε με AI. Σύμφωνα με μηνύματα κειμένου που εξετάστηκαν από το CBC News, ο Κουίν δεν αποκάλυψε ποτέ την πραγματική του ταυτότητα.
«Αισθάνομαι άβολα και θυμωμένος που διαπραγματεύομαι με αυτό το bot», είπε ο Τζιακομέλι.
Όταν ο Quinn προσέφερε αρχικά 27.162,79 $ για την BMW, ο Giacomelli απάντησε με 28.500 $, μόνο και μόνο για να δει αν θα μπορούσε να έχει καλύτερη συμφωνία. Ο Κουίν ακουγόταν αισιόδοξος, γράφοντας ότι «η ομάδα» θα το εξετάσει και ότι «τα 28.500 δολάρια φαίνονται λογικά».
Μέχρι τη στιγμή που η αντιπροσωπεία απέσυρε την αρχική προσφορά του Κουίν, ο Τζιακομέλι δεν την είχε ακόμη αποδεχτεί καθώς περίμενε να μάθει ξανά για την αντιπρότασή του.
Παρά το γεγονός αυτό, είπε ο Walker, ο Giacomelli θα μπορούσε ακόμα να ισχυριστεί ότι είχε μια συμφωνία επειδή κοντά στο τέλος της ανταλλαγής μηνυμάτων κειμένου, ο Quinn διοργάνωσε μια φυσική συνάντηση στην αντιπροσωπεία για να ολοκληρώσει τη συμφωνία. «Ας κλειδωθούμε στις 3:30 σήμερα», έγραψε το AI.
«Είναι απολύτως λογικό να πιστεύει ότι υπήρχε ένα δεσμευτικό συμβόλαιο», είπε ο Walker.
Αφού το CBC News επικοινώνησε με την BMW Toronto, επανέφεραν την αρχική προσφορά της Quinn των 27.162,79 $.
«Αισθάνομαι τόσο ανακουφισμένος», είπε ο Τζιακομέλι, ο οποίος συμφώνησε αμέσως.
Ο διευθυντής πωλήσεων της BMW Τορόντο, Scott Shadbolt, δήλωσε στο CBC News σε μια τηλεφωνική συνέντευξη ότι η αντιπροσωπεία ήθελε να “κάνει το σωστό” από τον Giacomelli.
Ο Shadbolt είπε ότι λόγω κακής επικοινωνίας από την πλευρά του υπαλλήλου, ο Quinn παρερμήνευσε το ποσό που όφειλε ο Giacomelli στο αυτοκίνητο – 27.162,79 $ – ως το ποσό που θα πλήρωνε η BMW για να ξανααγοράσει το αυτοκίνητο.
«Το bot της AI παρεξήγησε το μήνυμα», είπε.
Ο Walker είπε ότι οι εταιρείες δεν θα πρέπει να επιτρέπουν συμφωνίες με μεσάζοντες τεχνητής νοημοσύνης εκτός εάν είναι πρόθυμοι να τους υποστηρίξουν.
«Πιστεύω ότι αυτή είναι μια αθέμιτη επιχειρηματική πρακτική».
Ο Shadbolt είπε ότι ο Quinn δεν είχε ποτέ προγραμματιστεί να διαπραγματεύεται συμβόλαια μόνος του, αλλά μόνο για να μεταφέρει προσφορές εξαγοράς ανθρωπογενείς. Προχωρώντας, είπε, μόνο ανθρώπινοι υπάλληλοι θα προσφέρουν τέτοιες προσφορές στους πελάτες.
Ο Shadbolt είπε επίσης ότι η BMW Toronto κάνει αλλαγές για να ενημερώνει τους πελάτες πότε αλληλεπιδρούν με την τεχνητή νοημοσύνη.
«Αυτό είναι νέο έδαφος για εμάς», είπε. «Προσπαθούμε να βρούμε έναν καλύτερο τρόπο για να παρέχουμε μια καλή εμπειρία πελάτη (AI).»
Καθώς η πρόσφατα ανακοινωθείσα στρατηγική τεχνητής νοημοσύνης της ομοσπονδιακής κυβέρνησης υποστηρίζει τη δημιουργία περισσότερων γιγαντιαίων κέντρων δεδομένων, ένας αυξανόμενος αριθμός Καναδών δεν θέλει να έχει καμία σχέση με αυτά, συμπεριλαμβανομένου του Manitoba Premier Wab Kinew, ο οποίος μόλις ακύρωσε ένα σχέδιο για την κατασκευή ενός κοντά στο Winnipeg. Η ανταπόκριση αυξάνεται επίσης σε όλες τις ΗΠΑ.
Περισσότερο πρόβλημα μπροστά;
Ο Walker αναμένει ότι θα προκύψουν περισσότερες τέτοιου είδους διαφωνίες καθώς οι εταιρείες χρησιμοποιούν την τεχνητή νοημοσύνη για να βελτιώσουν την εξυπηρέτηση πελατών.
Σύμφωνα με Στοιχεία από τη Στατιστική Υπηρεσία του Καναδά Από το δεύτερο τρίμηνο του 2025, το 12 τοις εκατό των καναδικών επιχειρήσεων ανέφεραν ότι χρησιμοποιούν τεχνητή νοημοσύνη για την παραγωγή αγαθών ή την παροχή υπηρεσιών, από 6 τοις εκατό την ίδια περίοδο το 2024.
Μεταξύ αυτών των εταιρειών, το 25 τοις εκατό χρησιμοποίησε chatbots ή εικονικούς πράκτορες.
Πέρα από τις νομικές υποχρεώσεις, οι εταιρείες έχουν την εταιρική ευθύνη να κάνουν τα πράγματα σωστά για τους πελάτες εάν αποτύχουν τα εργαλεία τεχνητής νοημοσύνης τους, λέει ο Gus Skorburg, καθηγητής στο Πανεπιστήμιο του Guelph.
“Το άτομο αποφάσισε να χρησιμοποιήσει ένα chatbot. Προφανώς, πήρε αυτή την απόφαση επειδή αποφάσισε, “Γεια, αυτό θα μας εξοικονομήσει κάποιο κόστος”, είπε ο Skorburg, συνδιευθυντής του Κέντρου για την Προώθηση της Υπεύθυνης και Ηθικής Τεχνητής Νοημοσύνης του πανεπιστημίου.
«Αλλά τα bots δεν αποδίδουν πάντα και έτσι όταν κάνουν λάθη, πρέπει να είσαι πρόθυμος να το παραδεχτείς».
