Le moyen anglais rough (fin du 14e siècle), aussi écrit rouhe, rouwe, roghe, rugh, etc., vient de l'ancien anglais ruh, rug-, qui signifie « pas lisse au toucher, rugueux (pour un tissu) ; poilu, ébouriffé » ; pour les peaux, « non apprêté, non taillé » ; et pour les terrains, « non cultivé ». Ce mot provient du germanique occidental *rukhwaz, qui signifie « ébouriffé, poilu, rugueux » (à l'origine aussi du moyen néerlandais ruuch, néerlandais ruig, haut allemand ancien ruher, allemand rauh), lui-même issu du proto-germanique *rukhaz, qui pourrait être lié à la source du sanskrit ruksah (« rugueux ») ; du latin ruere (« se précipiter, tomber violemment, s'effondrer »), ruina (« effondrement ») ; du lituanien raukas (« ride »), rukti (« rétrécir »).
À l'origine, le son -gh- était guttural, comme dans le loch écossais. La forme row est une variante régulière apparue au début du 16e siècle et qui a persisté dans certains dialectes. Pour décrire des actions, le mot a pris le sens de « caractérisé par la dureté ou l'inégalité » vers 1300. Concernant les terrains, il a été utilisé à la fin du 15e siècle pour désigner des paysages « accidentés, difficiles à parcourir ». En ce qui concerne le temps orageux, il est attesté depuis le milieu du 14e siècle, et à la fin du 14e siècle, il désigne aussi des mers agitées, un langage grossier ou des sons discordants.
À partir du milieu du 14e siècle, il a été utilisé pour qualifier des objets « fabriqués de manière rudimentaire ». Vers 1600, il a pris le sens de « suffisamment grossier, pas lisse ou façonné avec soin ». L'expression Rough stone (« pierre brute »), désignant « des pierres non taillées cimentées ensemble », date du milieu du 15e siècle. Dans le domaine de l'écriture ou du style littéraire, il a été utilisé dans les années 1530 pour signifier « manquant de raffinement, peu poli ». Le sens d'« approximatif » est attesté vers 1600.
Le terme Rough draft (ou draught) pour désigner un « brouillon » apparaît dans les années 1690. L'expression Rough-and-ready (« rudimentaire et désordonné ») est attestée en 1832, dérivée d'un nom plus ancien (1810), à l'origine militaire. Le terme rough-and-tumble (« désordonné, sans précautions ») provient d'un style de combat libre caractérisé par des coups et des chutes indiscriminés (1810). Rough music (« musique rudimentaire »), désignant le bruit produit en frappant des casseroles et des poêles pour ennuyer ou punir un voisin, date de 1708. Enfin, Rough-snout (vers 1300) était un ancien terme pour désigner « un visage barbu ».