Francis Vincent Zappa junior-ként született, görög illetve szicíliai szülők gyermekeként, Baltimore-ban. Első lemezei megjelenésekor olyan posztert nyomattatott, amely egy vécékagylón ülve, letolt gatyával ábrázolta őt. Ez a polgárpukkasztó kivagyiság szinte egész életén végigvonul, a fellépései körül támadt botrányoktól kezdve, szövegeinek szinte mindenkit támadó éléig, valamint a szexuális és vegetatív életet leíró szavak szorgos alkalmazásáig.

Zappa 1956-ban a The Ramblers nevű R&B együttesben dobolt. Edgar Varese avantgarde zeneszerző művének, az Ionisation-nek az átirata jól mutatta érdeklődését a modern ritmusképletek iránt: ez a szenvedélye pályáján végig elkísérte, csakúgy mint az elektromos gitárok iránt érzett elragadtatása. 1964-ben egy másik helyi R&B zenekarhoz, Soul Gianthoz csatlakozott és nekiállt dalokat írni nekik. Az együttes nevét Mothers-re változtatták, az Of Invention-t azért tették hozzá mert a lemezkidó ragaszkodott hozzá. A Tom Wilson producerségével készült Freak Out! meglepően jól sikerült bemutatkozó album, valójában dupla lemez, ahol az egyik oldalt teljes egészében egy vad dobolás és a vitriolos protest song, a Trouble Every Day foglalja el.

Turnék jöttek, majd újabb lemezek, köztük a We're Only In It For Money, mely gyilkos szatíra a hippi világról, és egy figyelemreméltó fellépés a londoni Royal Albert Hallban, melyet az Uncle Meat dokumentált. A Cruising With Ruben & The Jets nagyszerű tisztelgés a doo-wop előtt, a brit rajongókat pedig különösen meghódította a Hot Rats, mely a társadalmi nyavajgás helyett elementáris erejű jazz-rockot hozott.

Az eredeti együttes feloszlott. A Turtles énekesei, Flo és Eddie csatlakoztak Zappához a 200 Motels című film, valamint három lemez felvételére. De 1971-nem volt szerencsés év. Tűz pusztította el az együttes felszerelését Montreux-ben (ezt az eseményt örökítette meg a Deep Purple a Smoke On The Woter-ben), majd nem sokkal ezután Zappát Londonban lelökték a színpadról, eltörte a gégéjét és a gerince is megsérült, így egy időre tolószékbe kényszerült.

1972-ben egy különleges, teljesen új típusú nagyzenekari fúziós zenét készített, Waka/Jawaka melyen a nyugati part legkiválóbb stúdiózenészeit foglalkoztatta. Aztán hamar megunta őket és az egész bagázst lecserélte egy elektromos zenekarra. Az 1973-as Over-Nite Sensation fúziós zene, szexuális utalásokkal teli szövegekkel és sürgető-kergető ritmusokkal. A King Kong-on Jean-Luc Ponty hegedült és a virtuóz Ruth Undewood dobolt. 1975-ben Captain Beefheart egy turné erejéig csatlakozott Zappához és énekelt a Bongo Fury-n. Ike Willisszel találkozva Zappa felismerte, az énekes nem csak megértette, de hozni is tudta az érzelmi kitörések és intimitások általa elvárt kombinációját, és így végig szerepeltette a Joe's Garage-on.

A 70-es évek derekától Zappa érdeklődését a filozófiai fogalmak vagy zenei trükkök helyett a politika váltotta fel. A  You Are What You Is a fundamentalista jobboldal megerösödését kommentálja. 1982-ben lányával, Moon Unittal készített sikeres felvételt. Ugyanabban az évben producere lett és New York-i koncerten mutatta be Edgar Varese muzsikáját. A Shut Up 'N Play Yer Guitar, valamint a Guitar adják vissza legkiválóbban Zappa egyéni játékát, a Jazz From Hell Conlon Nancarrow hatására elektromos zongorára írott, hangszeres kompozíciókat hozott, a Thing-Fish pedig egy Broadway stílusú musical az AIDS-ről, embergyűlöletről, rasszizmusról. A következő nagy projekt 1988-ban jött létre, egy 12 tagú zenekar élén feldolgozásokat, hangszeres számokat és egy csomó új politikai dalt játszik.

1991-ben bejelentette, hogy független jelöltként indul az Egyesült Államok következő elnökválasztásán. Ebben az évben derült ki, hogy prosztatarákja van, mely 1993 májusában már a csontjaira is átterjedt.
Néhány hónappal ezt követően meghalt.