古英語の þæt は、「あれ」「それ」「そのように」「その後で」といった意味を持つ中性単数の指示代名詞です。たとえば、「A Man's a Man for a' that」のように使われます。また、関係代名詞(例:「O thou that hearest prayer」)や指示形容詞(例:「Look at that caveman go!」)としても機能します。この言葉は、男性形の se、女性形の seo に対応しています。語源をたどると、原始ゲルマン語の *that、さらに遡ると印欧語族の *tod- から来ており、指示代名詞の基本形 *-to-(詳細は -th (1) を参照)を拡張した形です。
文法的な性別システムが崩壊すると、中世英語や現代英語ではすべての性別に対して使われるようになりました。ゲルマン語系の同根語には、古ザクセン語の that、古フリジア語の thet、中世オランダ語および現代オランダ語の dat(いずれも「それ」)、ドイツ語の der、die、das(いずれも「その」「あの」)などがあります。
一般的には the よりも具体的または強調的ですが、一部のケースでは互換性があります。おおよそ1200年頃からは this と対比され、より遠くのものを指すようになりました。また、副詞的な用法(例:「I'm that old」)では、暗示的または前述の内容を指し、「その程度で」「その程度に」といった意味を持つ短縮形として使われるようになりました。接続詞としての用法(例:「Not that I loved Caesar less, but that I loved Rome more」)は、もともと中性の代名詞または形容詞 that が、文全体を定義する冠詞的な役割を果たしていたものです。
スラングとしての that way(「恋をしている」「恋愛中である」)は1929年に確認され、1960年には「同性愛者」を指す意味でも使われるようになりました。That-a-way(「あの方向に」「そのように」)は1839年から記録されています。また、"Take that!"(「これを受け取れ!」)という表現は、15世紀初頭から見られ、攻撃を加える際に使われました。That is(「つまり」「言い換えれば」)という表現は12世紀末までに登場し、That's what(「その通り」「まさにそうだ」)は1790年頃に確認されました。強調表現の at that(「さらに」「その上に」)は1830年頃のアメリカの口語表現で、おそらく「その価格で(安価で)」などの表現から派生したものです。