La palabra "piedra" se refiere a un "trozo discreto de roca", especialmente si no es grande. En inglés antiguo se usaba stan para referirse a rocas comunes, gemas preciosas, concreciones en el cuerpo o piedras conmemorativas. Proviene del protogermánico *stainaz, que también dio lugar al nórdico antiguo steinn, danés steen, sajón antiguo sten, frisón antiguo sten, holandés steen, alto alemán antiguo stein, alemán moderno Stein y gótico stains.
Se reconstruye que proviene del protoindoeuropeo *stoi-no-, una forma sufijada de la raíz *stai-, que significa "piedra" y también "espesar, endurecerse". Esta raíz también se encuentra en sánscrito styayate ("se cuaja, se vuelve dura"), avéstico stay- ("montón"), griego stear ("grasa, sebo"), stia, stion ("piedra pequeña"), eclesiástico eslavo antiguo stena y ruso stiena ("pared").
Desde finales del siglo XII, la palabra se usó para referirse a la "sustancia de la que están hechas las piedras, roca, piedra como medio". En inglés antiguo tardío, también adquirió el significado de "testículo". La medida británica de peso conocida como "stone" (que suele equivaler a 14 libras) apareció a finales del siglo XIV, originalmente refiriéndose a una piedra específica utilizada para pesar.
Stone-fruit, que significa "drupe, fruto con un hueso o nuez dura en el centro", se documenta en la década de 1520. La expresión Stone's throw, que significa "una corta distancia", se atestigua desde la década de 1580; stone's cast con el mismo sentido aparece a finales del siglo XIII y también puede significar "un corto periodo de tiempo". El término Stone age, que designa el "período de desarrollo cultural humano caracterizado por herramientas o armas de piedra", se documenta en 1864. El uso adjetival que implica "desfasado, poco sofisticado" surge en 1927.
La expresión kill two birds with one stone, que significa "lograr dos objetivos con un solo acto", se atestigua en la década de 1650. Por su parte, leave no stone unturned, que significa "usar todos los recursos posibles", data de la década de 1540. La frase heart of stone, que se usa en sentido figurado para describir a alguien como "frío o insensible", aparece a finales del siglo XIV.