"Griješiti je ljudski; William E. Vaughan ovo je opažanje napravio 1969. godine. Davanje kontrole nad automatiziranim sustavom nosi potencijal da se sistem pokvari i nanese ozbiljnu štetu prije nego što se provjeri.
Automatizacija nije nova, ali postaje puno raširenija zahvaljujući integraciji digitalnog i fizičkog sustava. Napon automatizacije na skali je velika učinkovitost. No, nedostatak oslanjanja na sustav "postavi i zaboravi" jest taj što ga netko možda neće pravilno postaviti.
Sa sustavom koji jednostavno slijedi bez intervencija i nikakvog zaustavljanja strojeva možete imati destruktivne posljedice. Prema tome, tehnologija može stvoriti vrstu situacije koja je prikazana u "Čarobnjakovu pripravniku", kada ono što se čini olakšavanjem života zapravo nestane iz kontrole.
