Verso la fine del XIII secolo, il termine sugre indicava una "sostanza cristallina dolce ricavata dai succhi delle piante." Proveniva dal francese antico sucre, che significava "zucchero" (XII secolo), e risaliva al latino medievale succarum, dall'arabo sukkar, dal persiano shakar e dallo sanscrito sharkara, che originariamente si riferiva a "zucchero macinato o candito," ma significava anche "granelli" o "ghiaia" (cognato del greco kroke, che significa "ciottolo").
La parola araba è stata adottata anche in italiano (zucchero), spagnolo (azucar, con l'articolo arabo) e tedesco (alto tedesco antico zucura, tedesco moderno Zucker). Le sue varianti si trovano nella maggior parte delle lingue europee, come il serbo cukar, il polacco cukier e il russo sakhar.
Il suo luogo d'origine nel Vecchio Mondo era l'India. I compagni di Alessandro Magno si meravigliavano di "miele senza api," e lo zucchero rimase un prodotto esotico in Europa fino a quando gli arabi iniziarono a coltivarlo in Sicilia e Spagna. Solo dopo le Crociate cominciò a competere con il miele come dolcificante nel mondo occidentale. Gli spagnoli nelle Indie Occidentali iniziarono a coltivare la canna da zucchero intorno al 1506.
Il motivo per cui nella parola inglese compare la -g- è poco chiaro (il Dizionario Etimologico Comparato [OED] la confronta con flagon, dal francese flacon). Il cambiamento di pronuncia da s- a sh- è probabilmente dovuto al suono vocalico lungo iniziale syu- (come in sure).
Dal 1826, il termine è stato usato come nome generico per indicare un tipo di composto chimico. L'uso gergale come "sostituto eufemistico per un'imprecazione" [OED] è attestato dal 1891. Come termine affettuoso, risale al 1930.
Sugar-maple, il tipo di acero nordamericano da cui si estrae lo zucchero, è documentato dal 1731. Sugar-tongs, le pinze per sollevare i piccoli pezzi di zucchero, sono attestati dal 1708.