古英語の sponge や spunge は、「特定の水生生物の吸収性があり多孔質な部分」を指します。これはラテン語の spongia、「海綿」を意味する言葉から来ており、さらに「海綿が取れる海の生物」を指すこともありました。このラテン語はギリシャ語の spongia に由来し、そこから spongos(「海綿」)へとつながりますが、その起源は不明です。Beekes はこれを「古い Wanderwort(流浪語)」と呼んでいます。「おそらく非印欧語族からの借用語で、ギリシャ語、ラテン語、アルメニア語に独立して *sphong- の形で取り入れられた」と de Vaan は述べています。このラテン語が古ザクセン語の spunsia、中世オランダ語の spongie、古フランス語の esponge、スペイン語の esponja、イタリア語の spugna の語源となっています。
英語では1530年代から海の生物を指す言葉として使われ、1600年頃からは海綿のような物質全般を指すようになりました。また、1600年頃からは「無差別に吸収する人」を比喩的に表現するようになり、1838年には「他人に寄生してしつこく生きる人」という意味も持つようになりました(動詞の用法を比較し、sponger を参照)。
「throw in the sponge」(1860年、「辞める、降参する」という意味)は、賞金稼ぎのボクシングから来た表現で、ラウンドの合間に選手の顔を掃除するための海綿を指しています(後の throw in the towel と比較)。Sponge-cake(スポンジケーキ)は1801年に確認されており、その軽やかで甘い食感から名付けられました。