液壓驅動高壓水泵通常由兩個主要部分組成，即液壓驅動系統和水泵部分。液壓驅動系統將原動機（如電動機、內燃機等）的機械能轉化為液壓能，通過液壓油的壓力傳遞來推動水泵的活塞或柱塞運動。
當液壓油進入水泵的液壓缸時，推動活塞或柱塞做往復運動，使水泵的工作腔容積發生周期性變化。在活塞或柱塞向前運動時，工作腔容積減小，水被壓縮并排出，形成高壓水流；當活塞或柱塞向后運動時，工作腔容積增大，形成負壓，水從進水口被吸入工作腔，為下一次排水做準備。