14世紀後半、錬金術の分野で「哲学者の石の二大主成分の一つ」として使われるようになったこの言葉は、中世ラテン語の magnesia に由来し、さらに遡るとギリシャ語の (he) Magnesia (lithos)、「磁石の石」、つまり「マグネシウムの石」と訳されます。この鉱物は、テッサリア地方にある Magnesia という地域から持ち込まれたとされ、そこに住む人々の名前 Magnetes に由来していると言われていますが、その起源は不明です。
この古い言葉は、現在の magnet という単語へと進化しました。しかし古代では、magnes という言葉が磁石を指すだけでなく、ガラスの漂白に使われる鉱物（現代の pyrolusite、すなわち二酸化マンガン）を指すこともありました。
中世には、磁石を magnes（男性名詞）、漂白剤としてのマンガン鉱を magnesia（女性名詞）と区別しようとする試みがありました。一方、18世紀には、化粧品や歯磨き粉として使われる白い粉（炭酸マグネシウム）がローマで magnesia alba（「白いマグネシウム」）として販売されていました。
この最後の例から、1808年にデービーが magnesium を単離しました。彼はこの新元素を magnium と名付けたかったのですが、混乱を避けるために magnesia という言葉からできるだけ離れた名前を選びたかったからです。しかし結局、その名前は magnesium という形で定着しました。その一方で、16世紀にはマンガン鉱の別名が manganese に変わり、1774年に新しい元素がそこから単離されると、それも manganese と呼ばれるようになりました。
現代における Magnesia の主な意味、「酸化マグネシウム」（1755年）は、おそらく現代ラテン語の magnes carneus（「肉の磁石」、1550年頃）から独立して形成されたものです。この名前は、唇に強く付着することから名付けられたと考えられています。
