罗盘问世之前，旅行者总是从一个路标走到另一个路标。 水手们总是靠近岸边航行— —他们利用海岸上的某些特征作航行标志，即使远程航行亦是如此。 有的水手远洋航行时白天利用太阳，夜间利用北极星作标志，为自己导航。，这些标志阴天时就会失去效应。许多船只远远偏离了航道，水手们只能一边听天由命，一边苦苦等待晴天的到来。
罗盘的原理约在公元前４世纪时由中国人发现。 希腊和埃及的古书中也有关于某些石头具有磁性的记载，但无论是古希腊人还是古埃及人好像都没有真正使用过罗盘。中国人发现，磁石薄片（一种天然磁铁矿）悬浮在水中时总是指向南方。 起初，磁石的这种功能并没有被用于航海，而是被用于看风水。 中国人在建造房屋时，根据谶纬之学，用早期的罗盘给房屋、房间、窗户甚至家具摆设选址或选方向。 又过了约５个世纪，人们才发现了罗盘的航海价值。
罗盘是怎样发明的？ 汉朝时期，一位聪明的中国人断定，用于风水和算命的磁石薄片也能为旅行者提供基本的方向信息。公元８３年的史书中有一条“指南针”被珠宝商用来指引方向的记载。
早期的罗盘被做成勺子形状，并被放入一碗水中悬浮起来。 中国旅行者习惯把这种罗盘叫做“浮鱼”。 公元６００ 年左右，另一位中国人发现，铁棒与磁石反复摩擦后也可以像磁石一样被用作指南针，准确地指向南方，而且比磁石耐用。
到公元８００年，漂浮指南针在中国的船上已经很常见。 这大大推动了中国人的远航探险活动，他们乘船航行到了印度。 由于使用了指南针，中国的航海和海洋探险活动比西方和阿拉伯国家早了几个世纪。
后来，一位不知名的中国船长想到了用油代替水来漂浮指南针。 因为铁指南针在浓度比水大的油中更容易漂浮。不久以后，又一位聪明的水手断定，指南针在密封的容器里指示方向会更准确。 油如果装在密闭的容器里，即使在天气不好的时候，也不会像放在碗里一样容易溢出来。 这位聪明的水手把油、木片、指南针密闭在一个玻璃盖瓷罐里。 就这样，现代指南针终于诞生了。
１１５０年以后，指南针传到了欧洲。１１９０年，英国人亚历山大· 奈克姆记录了用指南针航海的经历。大约１２４０年，法国人发明了支柱指南针不再把指南针放在液体里，而是把它放到一根直立的针尖上。 这样，指南针就可以在空中自由摆动。他把这种指南针叫做“浮针”。
罗盘的名字是意大利人大约在１２５０年最先开始使用的。 罗盘（cｏｍｐａｓｓ ）一词来自意大利语 ，意思是“大步到处走”，用来 比喻“测量或向导”的意思。 １４００年以来，指南针几乎再也没有什么大的改进。改变的倒是我们关于地球磁场和磁力的观念。
全球卫星定位系统（ＧＰＳ ）在过去２０年的时间里获得了广泛应用。 ，ＧＰＳ 只能指示原来和现在所处的位置，却不能指引方向。 ，即使是使用高科技进行探险活动，也离不开一只简单的罗盘。
