In antico inglese, col significava "carbone di legna; carbone ardente, pezzo di legno o altra sostanza combustibile, sia in combustione che già bruciata." Questa parola deriva dal proto-germanico *kula(n), che ha dato origine anche a termini come l'antico frisone kole, il medio olandese cole, l'olandese kool, l'antico alto tedesco chol, il tedesco Kohle e l'antico norreno kol. La radice indoeuropea è *g(e)u-lo-, che significa "carbone ardente" ed è alla base anche del termine irlandese gual, che significa "carbone."
Il significato di "minerale solido composto da carbonio fossilizzato, combustibile e usato come fonte di energia" risale alla metà del XIII secolo. La sostanza stessa viene menzionata nel 370 a.C. da Teofrasto nel suo trattato "Sui Sassi," dove la chiama lithos anthrakos (vedi anthrax). Tradizionalmente considerato un portafortuna, il carbone veniva regalato a Capodanno in Inghilterra, con la credenza che garantisse un focolare caldo per l'anno a venire.
La frase drag (or rake) over the coals si riferiva al trattamento riservato ai eretici da parte dei cristiani. L'espressione carry coals, che significa "fare un lavoro sporco" o "sottoporsi a un insulto," risale agli anni '20 del XVI secolo.
Dire carry coals to Newcastle, ovvero "aggiungere qualcosa di cui c'è già abbondanza, svolgere un lavoro inutile" (circa 1600), è una variante locale di un'antica classe di espressioni. In latino si usava in litus harenas fundere ("versare sabbia sulla spiaggia") o in silvam ligna ferre ("portare legna nel bosco"), mentre in greco si diceva glauk eis Athenas ("gufi ad Atene"). Newcastle si trova nel cuore di una grande regione produttrice di carbone. Tuttavia, la percezione antica non è necessariamente quella moderna. Un storico, notando che gli inglesi medievali esportavano tessuti lavorati nei Paesi Bassi, dove l'industria della tessitura era fiorente, scrive: "è sempre sensato portare carbone a Newcastle o gufi ad Atene, se si è certi di poter vendere a un prezzo inferiore rispetto ai locali" [George D. Painter, "William Caxton," 1976].