Fotógrafo autodidacta nacido en Boskovice, Checoslovaquia en 1938. Estudia Ingeniería Aeronáutica en Praga. Comienza su trabajo fotográfico dentro del ambiente del teatro, documentando representaciones, además de colaborar para la revista Divadlo. De su experiencia como fotógrafo en teatros recupera la exaltación de gestos y expresiones intensas, que incorpora a las fotografías que más tarde hace; cuya temática central gira entorno a la vida de los gitanos. En sus tomas logra crear un equilibrio entre aquella expresión teatral y la cotidianidad en la que son representados los retratados.
El interés de Koudelka por fotografiar fiestas tradicionales y celebraciones religiosa, tema introducido por Markéta Luska, lo ha llevado a seguir los pasos de los gitanos por Europa (la antigua Checoslovaquia, Rumania, Hungría, España, Portugal, Francia, Inglaterra e Irlanda). Sus imágenes se concentran en retratar la marginación, el desarraigo y la persecución sufrida por los gitanos. En los rostros de sus retratados existe cierta expresión de desolación, que apoyada por las sencillas composiciones creadas por Koudelka, hablan de los aspectos más íntimos y dolorosos de este grupo. El trabajo de Koudelka comparte ciertos aspectos del fotoperiodismo. Sus imágenes son un documento, son el vivo testimonio del aislamiento y el abuso social al que son sujetos los gitanos.
En 1970 abandona Checoslovaquia y obtiene asilo en Inglaterra, donde permanece por varios años, antes de ir a vivir a Francia (en 1987 se naturaliza). Un año después Elliot Erwitt, presidente entonces de la Agencia Magnum, lo propone para formar parte de ella. Conoce a Henri Cartier-Bresson y a Robert Delpire, con quienes entabla una gran amistad.
Koudelka ha recibido numerosos reconocimientos a su trabajo: la Medalla de oro Robert Capa por sus fotografías de los eventos de 1968 en Praga; obtiene el Prix Nadar por su libro Gitans: La fin du voyage; y el Grand Prix de la Photographie otorgado por el Ministère de la Culture et de la Communication. En dos ocasiones el Arts Council of Great Britain le ha otorgado apoyo para el desarrollo de sus proyectos, además ha sido becado por el National Endowment for the Arts (Estados Unidos) y el Centre National des Arts Plastiques (Francia).