Jean-Pierre Melville, eredeti nevén Grumbach, Párizsban született.
Ifjú korában amatőr filmezéssel próbálkozott, de csak a II. világháború után, amelyet Angliában vészelt át, készítette el első filmjeit. Amikor visszatért Franciaországba, filmes céget alapított, és ekkor forgatta le A tenger csendjé-t. A Vásott kölykök című Cocteau regény megfilmesítése volt az első igazán nagy alkotása, de később is szívesen merített témát az irodalomból. Filmjei erős hatással voltak a kialakuló francia új hullám alkotóira. Okos krimiket, gengszter történeteket készített, képi világa sokszor nyomasztó, remény nélküli.
Kedvelte az amerikai kultúrát, nevét is Herman Melville tengerentúli írótól vette kölcsön. Rendezései mellett forgatókönyvíróként, producerként is tevékenykedett. Színészként feltűnt a vásznon saját filjében (Két férfi Manhattanben), de mások által készített alkotásokban is (Jean-Luc Godard: Kifulladásig, Claude Chabrol: Landru, Jean Cocteau: Orpheusz).