Ερ:
Γιατί η μηχανική προκατάληψη αποτελεί πρόβλημα στη μηχανική μάθηση;
ΕΝΑ:Αυτή η ερώτηση μπορεί να απαντηθεί με δύο διαφορετικούς τρόπους. Πρώτον, γιατί είναι το πρόβλημα της μηχανικής προκατάληψης, όπως συμβαίνει, γιατί υπάρχει στις διαδικασίες μηχανικής μάθησης;
Η μηχανική μάθηση, αν και εξελιγμένη και πολύπλοκη, είναι σε κάποιο βαθμό περιορισμένη με βάση τα σύνολα δεδομένων που χρησιμοποιεί. Η κατασκευή των συνόλων δεδομένων συνεπάγεται εγγενή προκατάληψη. Όπως και στα μέσα μαζικής ενημέρωσης, όπου οι παραλείψεις και οι εσκεμμένες επιλογές ενσωμάτωσης μπορεί να παρουσιάσουν μια συγκεκριμένη μεροληψία, στη μηχανική μάθηση, τα σύνολα δεδομένων που χρησιμοποιούνται πρέπει να εξεταστούν για να προσδιοριστεί το είδος της μεροληψίας που υπάρχει.
| Δωρεάν Λήψη: Μηχανική Μάθηση και γιατί έχει σημασία |
Για παράδειγμα, είναι ένα συνηθισμένο πρόβλημα για τις διαδικασίες δοκιμής και σχεδιασμού της τεχνολογίας να δείχνουν μια προτίμηση για έναν τύπο χρήστη έναντι άλλου. Ένα μεγάλο παράδειγμα είναι η ανισότητα μεταξύ των φύλων στον κόσμο της τεχνολογίας.
Γιατί αυτό κάνει τη διαφορά και γιατί ισχύει για τη μηχανική μάθηση;
Επειδή η έλλειψη των υφιστάμενων θηλυκών σε ένα περιβάλλον δοκιμών μπορεί να οδηγήσει σε μια παραγόμενη τεχνολογία που είναι λιγότερο φιλική προς το χρήστη σε ένα θηλυκό ακροατήριο. Ο τρόπος με τον οποίο κάποιοι εμπειρογνώμονες το περιγράφουν είναι ότι χωρίς τις υπάρχουσες γυναικείες δοκιμές το τελικό προϊόν μπορεί να μην αναγνωρίζει την είσοδο των γυναικών χρηστών - μπορεί να μην έχει τα εργαλεία για να αναγνωρίσει τις γυναίκες ταυτότητες ή να αντιμετωπίσει επαρκώς τις εισροές γυναικών.
Το ίδιο ισχύει και για διάφορες εθνικότητες, για ανθρώπους διαφορετικών θρησκειών ή για οποιοδήποτε άλλο δημογραφικό είδος. Χωρίς τα σωστά δεδομένα, οι αλγόριθμοι εκμάθησης μηχανών δεν θα λειτουργήσουν σωστά για ένα συγκεκριμένο σύνολο χρηστών, έτσι ώστε τα δεδομένα της συμπερίληψης πρέπει να προστεθούν σκόπιμα στην τεχνολογία. Αντί να λαμβάνουν πρωταρχικά σύνολα δεδομένων και να ενισχύουν την εγγενή προκατάληψη, οι χειριστές των ανθρώπων πρέπει να εξετάσουν πραγματικά το ζήτημα.
Ένα άλλο παράδειγμα είναι ένας μηχάνημα εκμάθησης μηχανών που λαμβάνει πληροφορίες σχετικά με την εργασία και το μισθό και αποδίδει αποτελέσματα. Εάν το συγκεκριμένο σύνολο δεδομένων δεν αναλυθεί, το μηχάνημα θα ενισχύσει την προκατάληψη. Εάν αντιληφθεί ότι οι άνδρες κατέχουν τη συντριπτική πλειοψηφία των εκτελεστικών θέσεων εργασίας και η διαδικασία εκμάθησης μηχανών περιλαμβάνει φιλτράρισμα μέσω του ακατέργαστου συνόλου δεδομένων και επιστροφή αντίστοιχων αποτελεσμάτων, πρόκειται να επιστρέψει αποτελέσματα που δείχνουν αρσενική προκατάληψη.
Το δεύτερο μέρος της ερώτησης αφορά γιατί αυτή η προκατάληψη είναι τόσο επιβλαβής. Χωρίς επαρκή εποπτεία και δοκιμή, οι νέες τεχνολογίες μπορούν να βλάψουν, να μην βοηθήσουν, την αίσθηση συμπερίληψής μας και την ισότητα. Εάν ένα νέο προϊόν τεχνολογίας είναι τυλιγμένο που αναγνωρίζει πρόσωπα με ελαφρύτερο δέρμα, αλλά όχι πιο σκουρόχρωμα, μπορεί να οδηγήσει σε κλιμάκωση εθνοτικών εντάσεων και την αίσθηση ότι η εν λόγω εταιρεία δεν είναι ευαίσθητη στην ποικιλομορφία. Εάν ένας αλγόριθμος εκμάθησης μηχανών αναπαράγει και αυξάνει την προκατάληψη στα σύνολα δεδομένων, η τεχνητή νοημοσύνη θα προσθέσει τη φωνή του στις ανθρώπινες φωνές και τις ανθρώπινες τάσεις που υπάρχουν ήδη στο κοινωνικό σύστημα που ευνοούν μια ομάδα ανθρώπων έναντι άλλου.
Ο καλύτερος τρόπος να αντιμετωπιστεί αυτό είναι να εξετάσει προσεκτικά τα υποκείμενα σύνολα δεδομένων, να χρησιμοποιήσει την επιλογή των χαρακτηριστικών, να προσθέσει μεταβλητές εισόδους και να χειριστεί τα ίδια τα σύνολα πρώτων δεδομένων και να αυξήσει την πραγματική δύναμη της μηχανικής μάθησης με σκόπιμη ανθρώπινη επεξεργασία δεδομένων. αποτέλεσμα που προσφέρει μεγάλη αναλυτική ισχύ, αλλά και μερικές από αυτές τις ανθρώπινες γνώσεις που οι υπολογιστές δεν μπορούν να αντιγράψουν ακόμα.
