À la fin du XIIIe siècle, le mot sugre désignait une "substance cristalline sucrée provenant des jus de plantes." Il vient du vieux français sucre, qui signifie "sucre" (XIIe siècle), lui-même issu du latin médiéval succarum, emprunté à l'arabe sukkar, lui-même dérivé du persan shakar, et du sanskrit sharkara, qui signifiait à l'origine "sucre broyé ou cristallisé," mais aussi "gravier" ou "sable" (cognat avec le grec kroke signifiant "caillou").
Le mot arabe a également été adopté en italien (zucchero), en espagnol (azucar, avec l'article arabe), et en allemand (vieux haut allemand zucura, allemand moderne Zucker). On retrouve ses formes dans la plupart des langues européennes, comme en serbe (cukar), en polonais (cukier), et en russe (sakhar).
Son berceau était l'Inde, où les compagnons d'Alexandre le Grand s'émerveillaient de ce qu'ils appelaient "le miel sans abeilles." Il est resté un produit exotique en Europe jusqu'à ce que les Arabes commencent à le cultiver en Sicile et en Espagne. Ce n'est qu'après les Croisades qu'il a commencé à rivaliser avec le miel en tant qu'édulcorant dans l'Ouest. Les Espagnols des Antilles ont commencé à planter de la canne à sucre dès 1506.
La raison de la présence du -g- dans le mot anglais reste floue (le dictionnaire Oxford English Dictionary compare cela au mot flagon, issu du français flacon). Le changement de prononciation de s- à sh- s'explique probablement par un son vocalique long au début, comme dans sure (qui se prononce syu-).
Le terme a été utilisé pour désigner en général un type de composé chimique à partir de 1826. Son usage argotique comme "substitut euphémique pour une imprécation" [OED] est attesté dès 1891. En tant que terme d'affection, il apparaît en 1930.
Sugar-maple, l'espèce d'érable nord-américain qui produit du sucre, est mentionné dès 1731. Les Sugar-tongs, utilisés pour soulever les petits morceaux de sucre, sont attestés dès 1708.