Nato a Budapest nel 1874 con il nome di Erik Weisz, si trasferì con la famiglia negli Stati Uniti all'età di quattro anni.
Iniziò come prestigiatore nel 1891 senza grande successo iniziale. Scelse lo pseudonimo Harry Houdini in omaggio al prestigiatore francese Jean Eugène Robert-Houdin (reso suo nome legale nel 1913).
Nel 1893 sposò Wilhelmina Beatrice "Bess" Rahner, che fu anche la sua fidata assistente di scena per tutta la vita.

Nel 1899 incontrò lo showman Martin Beck, che lo incoraggiò a focalizzarsi sulle evasioni e lo inserì nel circuito di vaudeville Orpheum. Un tour in Europa (1900-1904) consacrò la sua fama internazionale.
Divenne celebre per la capacità di liberarsi da corde, catene, manette e camicie di forza (spesso sospeso nel vuoto o sott'acqua).
Nel 1913 introdusse la celeberrima cella della tortura cinese dell'acqua, in cui veniva immerso a testa in giù in una cassa di vetro e acciaio piena d'acqua e chiusa a chiave.
Svelò molte tecniche nei suoi scritti: straordinaria forza fisica, disarticolazione controllata delle spalle per liberarsi dalle camicie di forza, e strumenti/chiavi abilmente occultati.

Negli anni '20, colpito dal lutto per la madre, si dedicò con rigore a svelare le truffe di medium e occultisti, sfruttando la sua profonda conoscenza dei trucchi di prestigio. Fece parte della commissione di Scientific American per premiare autentici fenomeni paranormali (premio mai assegnato). Ebbe un celebre e controverso scontro con la medium Mina Crandon ("Margery").
La sua crociata contro lo spiritismo distrusse l'amicizia con lo scrittore Sir Arthur Conan Doyle, convinto sostenitore dei fenomeni paranormali.

Morì a 52 anni la notte di Halloween del 1926 a causa di una peritonite provocata dalla rottura dell'appendice.
Due settimane prima aveva subìto colpi all'addome a sorpresa da uno studente universitario a Montréal, anche se la dinamica medica esatta della morte e alcune teorie complottistiche (tra cui sospetti di avvelenamento da parte di circoli spiritisti) restano tuttora oggetto di discussione.

Nell'immagine: Houdini - sulla sinistra - prima di una esibizione fa verificare da un poliziotto la catena che lega le sue mani