Perkataan gendarme berasal daripada Perancis Lama gens d'armes, bermakna lelaki bersenjata. Sewaktu zaman lewat pertengahan hingga zaman awal moden, istilah tersebut dirujuk sebagai askar perisai berkuda keturunan bangsawan, dengan banyaknya berkhidmat didalam tentera darat Perancis (lihat Gendarme (sejarah)). Perkataan tersebut mendapat konotasi kepolisan hanya selepas Revolusi Perancis apabila pihak Maréchaussée dari Rejim Purba dinamakan semula Gendarmerie.

Mengikut sejarah, ejaan dalam bahasa Inggeris ialah gendarmery, tetapi sekarang orang Perancis mengejanya gendarmerie. Kamus Oxford English Dictionary (OED) menggunakan gendarmery sebagai ejaan utama; manakala kamus Merriam-Webster menggunakan gendarmerie sebagai ejaan utama.