我国是世界上最早发现天然磁铁具有指向性，并用来辨别方向的国家。
远在2000多年前的战国时代，古人就从冶铁中认识了磁，并利用磁的特性制作出辨别方向的仪器“司南”。《韩非子·有度篇》中就有记载：“先王立司南以端朝夕”，“端朝夕”就是辨别方向的意思。
“司南”可以说是指南针的前世，先将天然磁铁打磨成勺子的样子放在盘上，再在盘的四周刻上二十四位方向和符号，完成后，只需将勺柄轻轻转动，静止时勺柄的方向必定指向南方。
古人在使用司南的过程中，慢慢发现了司南的缺点：天然磁铁会消磁，消磁后磁铁就不再转动，而勺子底部和盘接触面积大，阻力也大，用得越久效果就越差。
随着社会生产力的发展，唐朝中期，铸造工业相对发达，当时的工人们发现钢铁在天然磁铁上摩擦后，能产生比较稳固的磁性，人造磁铁由此诞生。
到了北宋，人造磁铁被做成针状，经过磁化的钢针或铁针代替了天然磁铁勺子，让指南针的发展跨出了一大步。
曾公亮在他的著作《武经总要》中提到了一种新型指南设备的制作过程——指南鱼，是利用地球磁场来磁化铁片，将铁片鱼放在无风的水面辨别方向。
人造磁铁的发明，对指南针的应用和发展起了巨大的作用。在磁学和地磁学的发展史上也有很大的贡献。
沈括在《梦溪笔谈》中介绍了指南针的四种用法，分别是水浮法、甲旋定法、碗唇旋定法和缕旋法。我国从宋朝开始，历经元朝、明朝，一直到清朝初年，航海业中一直使用的都是水浮法，将磁针横穿在灯草芯上，浮于水面辨别方向。
这些方法中较为准确的其实是将磁针的中部涂上蜡，粘上一根细丝线来辨别方向的缕旋法。
南宋的曾三异在《同话录》中记载的罗盘，有子午正针和子午壬间的缝针，分别指用磁针确定的地磁南北极方向和用日影确定的地球南北极方向，这两个方向之间有一个角，称为“磁偏角”。
沈括的《梦溪笔谈》中记载的“方家以磁石磨针锋，则能指南，然常微偏东，不全南也。”就是“磁偏角”。
南宋时期，民间出现了一种叫“指南龟”的物件，是在木龟腹下先挖一个光滑的小孔，再将一块天然磁石放在木刻龟的腹内，之后在直立的木板上放置一颗顶端尖滑的竹钉，最后将木龟对准放在竹钉上，就可以有一个固定的、自由旋转的支点了。
由于支点处摩擦力很小，木龟可以自由转动辨别方向。但当时这种指南设备并没有用于航海业，而被用于幻术，实在可惜了当时的发明。不过这为后来出现的旱罗盘奠定了基础。
南宋末年，罗盘的发明大大提高了指南针的准确性，罗盘是用木或铜做成的圆形器件。盘的四周和司南一样，不同的是在刻有方位盘的中央装置了一根可以灵活转动的磁针，静止时，磁针总是指向南方。
罗盘大大提高了指南针的指向稳定性，这种形式的罗盘广为流传，至今尚可见到，也是现代罗盘的原形。
我国的指南针大约在12世纪中期，由两条丝绸之路传入阿拉伯，到了12世纪末，指南针又从阿拉伯传入欧洲。
他国商人非常喜欢乘坐我国的船只，使得指南针的每一次进步，都随着商人之间的频繁交流传入世界各地，这大大提升了船舶的远洋能力，使得一些不为人知的大陆慢慢浮出水面。
1488年，葡萄牙航海家迪亚发现了非洲最西南端的好望角。
1492年哥伦布越过大西洋发现了新大陆。
1519年葡萄牙航海家麦哲伦率船队作环地球航行，1522年其船队中的维多利亚号完成了第一次环球航行。
马克思在《机器自然力和科学的应用》一文中，高度赞扬指南针、*药火**和印刷术是“预兆资产阶级社会到来的三项伟大发明”，对推动世界历史的进展起了伟大作用。
到了元朝，指南针已经成为航海的重要仪器，不论天气如何，都能用指南针导航。航海业的发展，促进了“罗盘针路”方法的诞生，是指船只行驶到什么地方、采用什么针位、路途的航线都一一标注的方法。
明朝时期的指南针发展已经相对成熟，吸取丝绸之路带来的经验，指南针已进化到可以支撑大规模船队的远洋航行。
航海家郑和完成的“七下西洋”，是无可比拟的伟大成就。郑和船队之所以能够大规模的远洋航行而未有意外，皆可归功于指南针的忠诚护佑。
到了清朝，清政府的闭关锁国，让清朝经济文化和西方交流变成空白，世界不断发展，最终西方诸强完全超过我国，前朝的伟大发明，没有用到真正该用地方。
指南针同其他三大发明一起，为世界的进步作出了不可磨灭的贡献，这是中华民族永远引以为荣的事，也是不断鼓舞中华民族继续前进、创新创造的动力之一。
本文编辑：葡萄糖先生
校对：凛汐
