人类自从铜器时代起开始使用带刃的武器。早在公元前2世纪，人类就可以制造类似于匕首的武器。在铜器时代，由于无法突破铜的抗张强度，超过90厘米的剑是几乎无法见到的。人们需要找到一种比铜更硬的金属才能造出更长的剑。剑柄最开始只是一个简单的把手，防止使用者被剑刃割伤。

欧洲地区的地中海、黑海以及西亚地区的剑是典型的柳叶刃，北欧地区的剑则是螺旋型的。

中国在商代开始有制剑的史料记载，在考古上也发现了青铜剑遗物，当时通常是作为长兵器之下的辅助武器，但在吴、越等河川较多的地区则因水战较多而是将剑作为主要武器，春秋时代的名剑也因此大多出于这些地区。

铁剑在公元前13世纪的铁器时代开始普及。赫梯人、希腊迈锡尼文明以及原始凯尔特语系的初铁器时代文明（公元前8世纪）是最早使用铁剑的。铁剑，由于对原料的充分利用而被进行大规模生产。早期的铁剑要比后来的钢刃剑差很多，由于很脆，铁剑甚至还不如一些好的铜剑，不过铁剑的优势在于制作简单，材料利用率高，这使得整只军队都能用上这种金属武器（不过埃及军队早在铜器时代就已全军装备铜剑）。