Il termine inglese antico sæd, che significa "sazioso, pieno, aver avuto la propria dose (di cibo, bevande, combattimenti, ecc.), stanco di qualcosa," deriva dal proto-germanico *sathaz. Questo termine ha radici comuni anche in altre lingue germaniche, come l'antico norreno saðr, il medio olandese sat, l'olandese zad, l'antico alto tedesco sat, il tedesco satt e il gotico saþs, tutte forme che esprimono l'idea di "sazietà, pienezza." La sua origine risale al proto-indoeuropeo *seto-, che a sua volta proviene dalla radice *sa-, significante "soddisfare." Tra i termini correlati troviamo Sadder; saddest.
Nel medio inglese e nei primi periodi dell'inglese moderno, i significati predominanti erano legati a concetti di stabilità e serietà, come "fermo, ben stabilito, rigido, serio, ordinato." Tuttavia, questi significati sono oggi obsoleti, tranne che in alcune varianti dialettali. Si pensa che l'evoluzione semantica sia passata attraverso l'idea di "pesante, ponderoso" (cioè "pieno" mentalmente o fisicamente), fino a giungere a "stanco, annoiato da." Intorno al 1300, il significato principale che conosciamo oggi, ovvero "infelice, triste, malinconico, mesto," comincia a emergere chiaramente. Un'altra possibile evoluzione semantica potrebbe essere avvenuta attraverso il comune significato medio inglese di "risoluto, ben stabilito, fisso" (come in sad-ware, che si riferisce a "vasi di stagno resistenti") e "serio," fino a connotare "grave." In questo senso moderno, ha sostituito l'inglese antico unrot, il negativo di rot, che significava "allegro, felice."
Già a metà del XIV secolo, il termine era usato per descrivere qualcuno "che esprime o manifesta tristezza o malinconia." Il significato di "molto cattivo, malvagio" risale agli anni '90 del Seicento, talvolta usato in contesti scherzosi. Il significato slang di "inferiore, patetico" appare nel 1899; sad sack è un'espressione degli anni '20, resa popolare dalle forze armate durante la Seconda Guerra Mondiale, in particolare grazie a un personaggio dei fumetti creato dal sergente George Baker nel 1942 e pubblicato nella rivista delle forze armate statunitensi "Yank." Probabilmente, si tratta di una forma eufemistica abbreviata della comune espressione militare sad sack of shit.