Ερ:
Γιατί μια εταιρεία μπορεί να κλείσει ένα έργο AI chatbot;
ΕΝΑ:Οι εταιρείες ενδέχεται να τερματίσουν έργα τεχνητής νοημοσύνης για πολλούς λόγους, αλλά οι πιο πιθανές μπορούν να ομαδοποιηθούν σε δύο κατηγορίες. Πρώτον, οι εταιρείες ενδέχεται να τερματίσουν τις τεχνολογίες chatbot αν ενεργούν με τρόπους που θα μπορούσαν να κάνουν την εταιρεία ανήσυχη, όπως η προώθηση απαράδεκτων ομιλιών. Εναλλακτικά, οι εταιρείες θα μπορούσαν να τερματίσουν ένα έργο chatbot εάν αρχίσουν να επιδεικνύουν ευαισθησία και ικανότητα που είτε δεν μπορούν να ελεγχθούν εύκολα, είτε μπορεί να αποτελέσουν κάποιο είδος ενδεχόμενης απειλής για τη δημόσια υγεία και ασφάλεια.
Και τα δύο αυτά σενάρια έχουν τεκμηριωθεί στην πρόσφατη ιστορία. Το πείραμα της Microsoft με το Tay chatbot τελείωσε όταν ο Tay άρχισε να αναλαμβάνει μερικά από τα χειρότερα χαρακτηριστικά των ανθρωπίνων ομολόγων του - ρατσιστικά και επιθετικά σχόλια και γενικά απαράδεκτη δραστηριότητα, πολλά από τα οποία ήταν σαφώς έμαθε ή ακόμη και παρωχημένα απ 'ευθείας από τους χρήστες.
Σε μια πολύ διαφορετική περίπτωση, μια εγκατάσταση chatbot που πρωτοστάτησε από το Facebook έκλεισε όταν οι επιστήμονες παρατήρησαν δύο chatbots επικοινωνώντας μεταξύ τους κατά τρόπο που ήταν κάπως αποκλειστικός για την ανθρώπινη παρατήρηση. Υπήρχε ο ισχυρισμός ότι οι οντότητες chatbot είχαν αρχίσει να "μιλάνε σε ένα είδος κώδικα" που ήταν πιο βολικό γι 'αυτούς και λιγότερο διαφανές για τους ανθρώπους χειριστές τους. Αυτό είναι ένα παράδειγμα αυτής της πολύ πραγματικής ανησυχίας γύρω από την τεχνητή νοημοσύνη εν γένει - ότι καθώς κάνουμε μεγάλα βήματα στην εξέλιξη της ισχυρής τεχνητής νοημοσύνης, οι άνθρωποι πρέπει να ενεργήσουν για να περιορίσουν και να ελέγξουν τυχόν παραδείγματα εφαρμογής του AI για να βεβαιωθούν ότι δεν θα διασχίσουν σύνορα. Υπάρχει ένας μεγάλος αριθμός δεοντολογικών ανησυχιών και ζητημάτων ασφάλειας που πρέπει να αντιμετωπιστούν με ισχυρή τεχνητή νοημοσύνη και αυτός είναι ένας από τους κύριους λόγους για τους οποίους κάποιες από τις συζητήσεις ή άλλα έργα τεχνητής νοημοσύνης ενδέχεται στο μέλλον να τερματιστούν από τους φορείς που έχουν δημιουργήσει και τους υποστήριξε μέσω μιας συγκεκριμένης διαδικασίας.
