世界上出土的最古老冶炼铁器是土耳其（安纳托利亚）北部赫梯先民墓葬中出土的铜柄铁刃，距今4500年（公元前2500年）。中国发现的最古老冶炼铁器是甘肃省临潭县磨沟寺洼文化墓葬出土的两块铁条，距今3510年-3310年之间（公元前1510年-公元前1310年）。

中国在公元前6世纪已出现了成规模的生铁制品，并将其运用到生产生活中。在此之前，最早冶炼铁的记录由公元前800年的虢国玉柄铁剑保持。

在公元前1000年左右，在欧洲地区出现了铁制工具，大约是由小亚细亚慢慢地西传而来。在尼德兰，大约在公元前800年左右出现铁制工具。而因为罗马带入文字，所以尼德兰的铁器时代大约于公元50年结束。

人们最早知道的铁是陨石中的铁，古代埃及人称之为神物。在很久以前，人们就曾用这种天然铁制作过刀刃和饰物，这是人类使用铁的最早情况。

地球上的天然铁是少见的，所以铁的冶炼和铁器的制造经历了一个很长的时期。当人们在冶炼青铜的基础上逐渐掌握了冶炼铁的技术之后，铁器时代就到来了。