Μια κακή απάντηση από ένα εργαλείο τεχνητής νοημοσύνης μπορεί να διορθωθεί γρήγορα όταν φαίνεται πρόχειρη ή παράλογη. Η δυσκολότερη περίπτωση είναι η καλογραμμένη απάντηση που μοιάζει ολοκληρωμένη. Έχει σωστό ύφος, λογική σειρά και αυτοπεποίθηση. Γι’ αυτό μπορεί να περάσει σε μια παρουσίαση, σε ένα email ή σε μια εσωτερική απόφαση χωρίς ουσιαστικό έλεγχο. Το πρόβλημα δεν είναι μόνο τεχνολογικό. Είναι ότι η ανθρώπινη προσοχή συχνά χαλαρώνει μπροστά σε κάτι που δείχνει επαγγελματικό.
Η παγίδα της καλοσχηματισμένης βεβαιότητας
Ένα μοντέλο μπορεί να συνθέσει πειστικό κείμενο ακόμη και όταν τα δεδομένα είναι ελλιπή ή οι υποθέσεις δεν έχουν επιβεβαιωθεί. Αν ζητήσεις μια ανάλυση ανταγωνισμού, μπορεί να παρουσιάσει γενικεύσεις σαν συγκεκριμένα ευρήματα. Αν ζητήσεις οικονομική εκτίμηση, μπορεί να χρησιμοποιήσει λογικούς αλλά αυθαίρετους αριθμούς. Ο κίνδυνος αυξάνεται όταν το αποτέλεσμα διαβάζεται από άνθρωπο που δεν γνωρίζει καλά το αντικείμενο. Δεν αρκεί λοιπόν να ελέγχεται η ορθογραφία ή η συνοχή. Χρειάζεται να ελέγχεται από πού προέρχεται κάθε κρίσιμο γεγονός, ποια παραδοχή κρύβεται πίσω από το συμπέρασμα και τι θα άλλαζε αν η παραδοχή ήταν λάθος.
Ο έλεγχος πρέπει να ταιριάζει στο ρίσκο
Δεν χρειάζονται όλα τα AI outputs την ίδια διαδικασία. Μια ιδέα για τίτλο μπορεί να αξιολογηθεί με γρήγορη ανθρώπινη κρίση. Μια αναφορά που θα επηρεάσει επένδυση, πρόσληψη ή επικοινωνία με πελάτη χρειάζεται τεκμηρίωση και δεύτερο έλεγχο. Ένας πρακτικός κανόνας είναι να ζητάς από το εργαλείο να ξεχωρίζει δεδομένα, υποθέσεις και προτάσεις. Στη συνέχεια, ο υπεύθυνος ελέγχει τα στοιχεία που μπορούν να προκαλέσουν πραγματική ζημιά αν είναι λανθασμένα. Εξίσου σημαντικό είναι να οριστεί ποιος υπογράφει το τελικό αποτέλεσμα. Η ύπαρξη AI δεν μεταφέρει την ευθύνη από την επιχείρηση στο λογισμικό.
Η πραγματική ωριμότητα στη χρήση AI δεν μετριέται από το πόσο γρήγορα παράγεται ένα κείμενο. Μετριέται από το αν η ομάδα γνωρίζει πότε μπορεί να το εμπιστευτεί, πότε πρέπει να το ελέγξει και πότε οφείλει να το απορρίψει.
Η ομάδα μπορεί να συμφωνήσει εκ των προτέρων ποια είδη ισχυρισμών χρειάζονται πηγή. Για παράδειγμα, αριθμοί αγοράς, νομικές αναφορές και πληροφορίες για συγκεκριμένες εταιρείες δεν πρέπει να περνούν σε τελικό υλικό μόνο επειδή διατυπώθηκαν πειστικά.
Η εκπαίδευση της ομάδας είναι εξίσου κρίσιμη με την επιλογή εργαλείου. Αν οι εργαζόμενοι αντιμετωπίζουν το AI output σαν τελικό έγγραφο, καμία τεχνική ρύθμιση δεν θα καλύψει όλα τα κενά. Αν, αντίθετα, γνωρίζουν πώς να ζητούν διευκρινίσεις, να αναζητούν πρωτογενείς πηγές και να εντοπίζουν ασυνέπειες, μπορούν να αξιοποιούν την ταχύτητα χωρίς να εγκαταλείπουν την κρίση τους. Ένα χρήσιμο εσωτερικό παράδειγμα είναι να παρουσιάζονται δύο πειστικές απαντήσεις με διαφορετικά λάθη και να συζητείται πώς θα εντοπίζονταν. Η κουλτούρα ελέγχου μαθαίνεται στην πράξη και όχι με μια γενική προειδοποίηση.
Φαντάσου ότι ένα AI εργαλείο προτείνει τρεις εναλλακτικές τιμές για μια νέα υπηρεσία και τις συνοδεύει με δήθεν ακριβείς συγκρίσεις αγοράς. Η παρουσίαση μπορεί να είναι άψογη, αλλά αν τα στοιχεία δεν έχουν ελεγχθεί, η απόφαση στηρίζεται σε άγνωστη βάση. Η ομάδα μπορεί να χρησιμοποιήσει το κείμενο ως αφετηρία ερωτήσεων, όχι ως τελικό τεκμήριο. Να ελέγξει πραγματικές προσφορές, να υπολογίσει τα δικά της κόστη και να μιλήσει με πελάτες. Έτσι η AI επιταχύνει τη σκέψη χωρίς να υποκαθιστά την έρευνα.