「打開鎖的工具」，中世紀英語 keie，來自古英語 cæg「能打開鎖的金屬片，鑰匙」，字面和比喻意義（「解決方案，解釋，開啟道路或解釋的東西或人」），其起源不明，演變異常，除了古弗里西亞語 kei 外，沒有確定的同源詞。
或許它與中古低地德語 keie「長矛，矛」有關，基於「劈開的工具」的概念，來自原始日耳曼語 *ki-「劈開，分裂」（同源詞：德語 Keil「楔子」，哥特語 us-kijans「萌芽」，keinan「發芽」）。但 Liberman 寫道：「*kaig-jo- 的原意可能是『*有扭曲末端的釘子』。以輔音結尾的根 *kai- 表示『彎曲，扭曲』的詞僅在北日耳曼語中常見。」另可比較梵語 kuncika-「鑰匙」，來自 kunc-「使彎曲」。
現代發音是從約 1700 年開始的北方變體；早期和中世紀英語通常發音為「kay」。意指「將其他部分連接在一起的東西」始於 1520 年代。意指「解決方案的解釋」（對一組問題、代碼等）始於約 1600 年。
音樂上的意義原本是「音調，音符」（15 世紀中期）。在音樂理論中，這個意義在 17 世紀發展為「音階中音調的旋律和和聲關係的總和」，也指「圍繞某個音調的旋律和和聲關係」。這可能是基於拉丁語 clavis「鑰匙」的翻譯，Guido 用於「音階中的最低音」，或法語 clef（參見 clef；也參見 keynote）。「由演奏者的手指操作的樂器機制」的意義始於約 1500 年，可能也受 clavis 的使用啟發。OED 說這種用法「似乎僅限於英語」。最初用於管風琴和鋼琴，1765 年用於管樂器；1837 年轉用於電報，後來用於打字機（1876 年）。
Key ring，用於持有多把鑰匙的環，始於 1685 年（當時作為拉丁語 annulus clavicularius 的翻譯）。
