古代有各种提水器具：如埃及的链泵(公元前17世纪)、中国的桔槔(公元前17世纪)、辘轳(公元前11世纪)和水车(公元1世纪)。比较著名的还有公元前三世纪由阿基米德发明的螺旋杆，可以平稳连续地将水提至几米高处，其原理仍为现代螺杆泵所利用。
公元前200年左右，古希腊工匠克特西比乌斯发明的灭火泵是一种最原始的活塞泵，已具备典型活塞泵的主要元件，但活塞泵只是在出现了蒸汽机之后才得到迅速发展。
1840～1850年，美国沃辛顿发明泵缸和蒸汽缸对置的，蒸汽直接作用的活塞泵，标志着现代活塞泵的形成。19世纪是活塞泵发展的高潮时期，当时已用于水压机等多种机械中。然而随着需水量的剧增，从20世纪20年代起，低速的、流量受到很大限制的活塞泵逐渐被高速的离心泵和回转泵所代替。但是在高压小流量领域往复泵仍占有主要地位，尤其是隔膜泵、柱塞泵独具优点，应用日益增多。
回转泵的出现与工业上对液体输送的要求日益多样化有关。早在1588年就有了关于四叶片滑片泵的记载，以后陆续出现了其他各种回转泵，但直到19世纪回转泵仍存在泄漏大、磨损大和效率低等缺点。20世纪初，人们解决了转子润滑和密封等问题，并采用高速电动机驱动，适合较高压力、中小流量和各种粘性液体的回转泵才得到迅速发展。回转泵的类型和适宜输送的液体种类之多为其他各类泵所不及。
离心泵早在5世纪就出现了，那是一台在圣多明各铜矿中用来排水的木质的泵，现陈列在巴黎博物馆中。15世纪末意大利著名学者达·芬奇提出了离心泵的概念，法国物理学家坦尼斯·巴本在1689年制造出了离心泵的试验模型，1705年巴本又在试验泵的基础上加以改进，制造出了第一台多叶片的、并且采用螺旋形压水室的泵。但更接近于现代离心泵的，则是1818年在美国出现的具有径向直叶片、半开式双吸叶轮和蜗壳的所谓马萨诸塞泵。1851～1875年，带有导叶的多级离心泵相继被发明，使得发展高扬程离心泵成为可能。
尽管早在1754年，瑞士数学家欧拉就提出了叶轮式水力机械的基本方程式，奠定了离心泵设计的理论基础，但离心泵在实际应用上没有得到发展，在蒸汽机全盛使其，所有的泵几何全是容积式的泵--往复泵。后来汽轮机问世，发电技术进步以及电动机问世，出现了高速电动机，使离心泵获得了理想的动力源，它其优越性才得以充分发挥。于是，离心泵(以及比它稍后出现的轴流泵和混流泵)迅速得到了发展。在英国的雷诺和德国的普夫莱德雷尔等许多学者的理论研究和实践的基础上，离心泵的效率大大提高，它的性能范围和使用领域也日益扩大，已成为现代应用最广、产量最大的泵。
