"Το λάθος είναι ανθρώπινο. σε πραγματικά αβλαβή πράγματα απαιτεί υπολογιστή. »Ο William E. Vaughan έκανε την παρατήρηση αυτή το 1969. Η άσκηση ελέγχου σε ένα αυτοματοποιημένο σύστημα φέρνει το δυναμικό για το σύστημα να πάει στραβά και να προκαλέσει σοβαρή βλάβη πριν να ελεγχθεί.
Η αυτοματοποίηση δεν είναι νέα, αλλά γίνεται πολύ πιο διαδεδομένη χάρη στην ενσωμάτωση ψηφιακών και φυσικών συστημάτων. Η άνοδος της αυτοματοποίησης σε κλίμακα είναι μεγάλη απόδοση. Αλλά το μειονέκτημα της στήριξης σε ένα σύστημα set-it-and-forget-it είναι ότι κάποιος μπορεί να αποτύχει να το ρυθμίσει σωστά.
Με ένα σύστημα που ακολουθεί απλά χωρίς καμία παρέμβαση και χωρίς τρόπο να σταματήσει η μηχανή, μπορεί να έχετε καταστροφικά αποτελέσματα. Ως εκ τούτου, η τεχνολογία μπορεί να δημιουργήσει τον τύπο της κατάστασης που απεικονίζεται στο "The Sorcerer's Apprentice", όταν αυτό που φαίνεται να κάνει τη ζωή ευκολότερη στην πραγματικότητα εξαντλείται.
