Ερ:
Γιατί η DARPA ερευνά "επεξηγηματικό AI";
ΕΝΑ:Σε γενικές γραμμές, η τεκμηριωμένη τεχνητή νοημοσύνη γίνεται ένα πολύ αναγγέλλον τμήμα της πρωτοποριακής εργασίας στις επιστήμες των δεδομένων. Συμβάλλει στην καθοδήγηση του ανθρώπινου ελέγχου ενός εγγενώς ασταθούς και δυναμικού τύπου τεχνολογίας - το εύχρηστο AI βοηθά στην απάντηση σε πολλές από τις συλλογικές μας ερωτήσεις σχετικά με το πώς θα λειτουργήσει η τεχνητή νοημοσύνη.
Για να κατανοήσουμε την επεξηγηματική AI, βοηθά να καταλάβουμε τι μοιάζει με το "κανονικό AI". Παραδοσιακά, καθώς το AI αρχίζει να διαμορφώνεται, το τυπικό έργο αποτελείται από μια φανταστική νέα δυνατότητα λογισμικού, κρυμμένη σε αλγόριθμους και εκπαιδευτικά σετ και γραμμικό κώδικα, που είναι ένα είδος "κουτιού" στους χρήστες. Ξέρουν ότι λειτουργεί - απλά δεν ξέρουν ακριβώς πώς.
Αυτό μπορεί να οδηγήσει σε "ζητήματα εμπιστοσύνης" όπου οι χρήστες μπορούν να αμφισβητήσουν τη βάση πάνω στην οποία μια τεχνολογία λαμβάνει αποφάσεις. Αυτός είναι ο λόγος που πρέπει να διευκρινιστεί το AI: Τα επεξηγηματικά έργα AI έρχονται με πρόσθετη υποδομή για να δείξουν στους τελικούς χρήστες την πρόθεση και τη δομή του AI - γιατί κάνει ό, τι κάνει.
Σε μια εποχή όπου κορυφαίοι πρωτοπόροι όπως ο Bill Gates και ο Elon Musk εκφράζουν την ανησυχία τους για το πώς θα λειτουργήσει η τεχνητή νοημοσύνη, το εύχρηστο AI φαίνεται εξαιρετικά ελκυστικό. Οι εμπειρογνώμονες υποστηρίζουν ότι το καλώς αιτιολογημένο AI θα μπορούσε να βοηθήσει τους τελικούς χρήστες να καταλάβουν γιατί οι τεχνολογίες κάνουν ό, τι κάνουν, αυξάνουν την εμπιστοσύνη και επίσης αυξάνουν την ευκολία χρήσης και αξιοποίησης αυτών των τεχνολογιών.
Συγκεκριμένα, όμως, η DARPA εξηγεί μόνοι του γιατί ενδιαφέρεται για τα νέα έργα. Μια σελίδα σχετικά με το DARPA δείχνει ότι το Υπουργείο Άμυνας προβλέπει ένα "χείμαρρο" εφαρμογών τεχνητής νοημοσύνης και ένα ορισμένο ποσό χάους στην ανάπτυξή του.
"Οι συνεχείς προόδους υπόσχονται να παράγουν αυτόνομα συστήματα που θα αντιλαμβάνονται, θα μαθαίνουν, θα αποφασίζουν και θα ενεργούν μόνα τους", γράφει ο David Gunning. "Ωστόσο, η αποτελεσματικότητα αυτών των συστημάτων περιορίζεται από την τρέχουσα αδυναμία της μηχανής να εξηγήσει τις αποφάσεις και τις ενέργειές της στους χρήστες του ανθρώπινου δυναμικού. … Επεξήγηση του AI - ειδικά εξηγήσιμης μηχανικής μάθησης - θα είναι απαραίτητη για να κατανοήσουν οι μελλοντικοί πολεμιστές, να εμπιστευτούν κατάλληλα και να διαχειριστούν αποτελεσματικά μια αναδυόμενη γενιά τεχνητά ευφυών μηχανών.
Το ηλεκτρονικό δοκίμιο της Gunning υποδεικνύει ότι τα επεξηγηματικά συστήματα AI θα βοηθήσουν να "δώσουν τη λογική" για τις τεχνολογίες, να δείξουν τα πλεονεκτήματα και τις αδυναμίες τους και να κάνουν τις περιπτώσεις χρήσης πιο διαφανείς. Ένα γράφημα στη σελίδα δείχνει πώς μια ευθεία αγωγός της λειτουργικότητας τεχνητής νοημοσύνης από τα δεδομένα εκπαίδευσης θα επεκταθεί από κάτι που ονομάζεται επεξηγηματικό μοντέλο και μια επεξηγηματική διεπαφή που θα βοηθήσει τις ερωτήσεις απάντησης χρήστη. Η Gunning υποδεικνύει επίσης ότι ένα εξειδικευμένο πρόγραμμα AI θα έχει δύο κύριους τομείς εστίασης - κάποιος θα κοσκινίσει μέσω δεδομένων πολυμέσων για να βρει χρήσιμα για τους χρήστες και μια δεύτερη εστίαση θα προσομοιώνει τις διαδικασίες λήψης αποφάσεων για τη λήψη αποφάσεων.
Η DARPA ελπίζει να παράσχει ένα "εργαλείο" που μπορεί να βοηθήσει στην ανάπτυξη μελλοντικών επεξηγηματικών συστημάτων AI.
