Йозеф фон Бакі народився в угорському селі Зобор (нині — Зомбор на території Словаччини). Ще до закінчення навчання у школі працював кіномеханіком. У 1920 році Бакі закінчив Вищу технічну школу в Будапешті. За дорученням угорського банку очолював готель на Адріатиці та займався кінопрокатом.
У 1927 році Бакі переїхав до Берліна, де працював статистом, потім асистентом режисера Гези фон Больварі[5][6]. У 1936 році відбувся його режисерський дебют з фільмом «Інтермеццо». Вирізнявся знанням соціального середовища і незабаром добився комерційного успіху, що зумовило його призначення режисером ювілейного для UFA фільму «Мюнхгаузен» (1943) з Гансом Альберсом у головній ролі[7].
Після Другої світової війни Йозеф фон Бакі заснував компанію Objectiv-Film GmbH, що зняла два післявоєнні фільми «…і небо над нами» (нім....und über uns der Himmel) і «Заклик» (нім.Der Ruf). Пізніше Бакі продовжив знімати соціально-критичні стрічки, зняв фільм про знаменитий берлінський готель «Адлон», а на кіностудії Едгара Воллеса — фільм «Дивна графиня».