在14世紀末，「拉丁語法，拉丁語規則」的意思，來自古法語 gramaire，意指「語法；學問」，特別是拉丁語和語言學的知識，也有「（魔法）咒語，咒語，胡言亂語」的含義（12世紀，現代法語 grammaire）。這是一種「不規則的半流行採用」，[OED, 2nd ed. 1989]，源自拉丁語 grammatica，「語法，語言學」，可能是通過某種未記錄的中世紀拉丁語形式 *grammaria 演變而來。
這個詞的古典拉丁語來源於希臘語 grammatike (tekhnē)，「（藝術）文字的技藝」，既指語言學，也指文學，涵蓋範圍非常廣泛。它是 grammatikos（形容詞）的陰性形式，意為「與文字或學問相關的，精通學問的」，來自 gramma，「字母」（參見 -gram）。在古英語中，這個詞的對應詞是 stæfcræft（參見 staff (n.)）。
在拉丁語和希臘語中，這個詞的涵義要廣泛得多；將其意義限制為「系統性地描述語言規則和用法」的狹義解釋，是後來的發展。
直到16世紀，這個詞的使用仍然主要限於拉丁語；到了16世紀末，開始用來指英語，隨後演變為「語言規則，說話者和寫作者必須遵循的規範」（1580年代）。「語法學著作」的含義出現於1520年代。
在「魔法」的意義上，可以參考 gramary。這一演變特別體現了黑暗時代的特徵：最初指「學問總論，特定於學者階層的知識」，這其中包括占星術和魔法。因此，它還衍生出「隱秘知識」（15世紀末的英語），並在蘇格蘭演變為 glamour（參見該詞）。
最初的 grammar-school（14世紀末）是一所教授拉丁語的學校，學生們首先需要背誦語法。1842年，在美國，這個詞被用來指一種分級學校，介於初等教育和中等教育之間，英語語法是其中一門必修課。
這個詞最早出現在姓氏中（12世紀末），例如 Robertus Gramaticus 和 Richard le Gramarie，這些名字最終演變為現代姓氏 Grammer。
