Μπορείτε να εμπιστευτείτε το AI; Πρέπει να αποδεχτείτε τα συμπεράσματά σας ως αντικειμενικά έγκυρα χωρίς αμφιβολία; Το πρόβλημα είναι ότι ακόμη και η αμφισβήτηση του ίδιου του AI δεν θα δώσει σαφείς απαντήσεις.
Τα συστήματα AI λειτουργούν γενικά σαν ένα μαύρο κουτί: Τα δεδομένα εισάγονται και τα δεδομένα εξάγονται, αλλά οι διαδικασίες που μετασχηματίζουν αυτά τα δεδομένα είναι ένα μυστήριο. Αυτό δημιουργεί ένα διπλό πρόβλημα. Το ένα είναι ότι δεν είναι σαφές ποια απόδοση των αλγορίθμων είναι πιο αξιόπιστη. Το άλλο είναι ότι τα φαινομενικά αντικειμενικά αποτελέσματα μπορούν να παραμορφωθούν από τις αξίες και τις προκαταλήψεις των ανθρώπων που προγραμματίζουν τα συστήματα. Αυτός είναι ο λόγος για τον οποίο υπάρχει ανάγκη για διαφάνεια για τις εικονικές διαδικασίες σκέψης, όπως η χρήση των συστημάτων, ή "επεξηγηματικό AI".
Η δεοντολογική επιταγή έχει γίνει νόμιμη για όλους όσους υπόκεινται σε GDPR, γεγονός που δεν επηρεάζει μόνο τις επιχειρήσεις που εδρεύουν στην ΕΕ, αλλά όσες έχουν συναλλαγές με ανθρώπους ή οργανισμούς εκεί. Περιέχει μια σειρά διατάξεων σχετικά με την προστασία των δεδομένων, οι οποίες επεκτείνονται στους πολίτες της ΕΕ "το δικαίωμα να μην υπόκεινται αποκλειστικά σε αυτοματοποιημένη λήψη αποφάσεων, εκτός από ορισμένες περιπτώσεις" και "το δικαίωμα παροχής ουσιαστικών πληροφοριών σχετικά με τη λογική που εμπλέκεται στην απόφαση . "
