После окончания школы в 1888—1892 гг. проходил обучение в кадетском пехотном училище в Триесте. Военную службу начал в 15-ом пехотном полку в Тернополе в качестве командира взвода. С 1898 по 1900 г. учился в Терезианской военной академии в Вене, а затем поступил в 7-ю пехотную дивизию в Осиеке (Славония. В 1908—1910 гг. бы преподавателем тактики в кадетской школе в Вене.
В звании майора отправлен 18 августа 1914 г. командиром батальона на Восточный фронт; участвовал в боевых действиях в Галиции и Карпатах. 3 июля 1915 года он был ранен; находился в полевом госпитале в Любляне. Преподавал на офицерских курсах, с июня 1918 года в качестве командира 7-го боснийско-герцеговинского пехотного полка участвовал в боях на итальянском фронте.
После провозглашения независимости Чехословакии Йозеф Билый присоединился к формирующейся чехословацкой армии в Праге. В звании полковника он занимал должности в областном и гарнизонном штабе в Чешских Будейовицах. С весны 1920 года он некоторое время был командиром полка в Ужгороде, а затем командиром пехотной бригады во Фридек-Мистеке (1920—1922). 16 декабря 1921 года произведен в генералы и назначен заместителем командующего военным округом в Брно.
В 1923—1928 гг. командовал 6-й пехотной дивизией, проходил стажировку во Франции. С 3 апреля 1928 г. — дивизионный генерал, с 26 июня 1931 года — генерал армии. Вышел в отставку 1 июля 1935 года.
После оккупации Чехословакии в марте 1939 г. присоединился к антинацистскому сопротивлению. Совместно с Сергеем Войцеховским, Алоисом Элиашем и Гуго Войтой входил в т. н. «Совет старейшин». Инициировал создание организации «Защита нации», состоявшей из бывших офицеров чехословацкой армии и поддерживавшей связь с эмигрантским правительством в Лондоне. С апреля 1939 г. возглавлял штаб «Защиты нации», вёл курс на подготовку вооружённого восстания после начала войны между Германией и западными странами. С декабря 1939 г., после начала арестов гестапо членов «Защиты нации», перешёл на нелегальное положение. Арестован 14 ноября 1940 г. в Моравии, находился в заключении в Терезиенштадте. После ареста Билого «Защиту нации» возглавил генерал Бедржих Гомола.
На следующий день после назначения Рейнхарда Гейдриха и. о. рейхспротектора Богемии и Моравии генералы Йозеф Билый и Гуго Войта были расстреляны в Праге. Последними словами Билого были: «Да здравствует Чехословацкая Республика! Псы, стреляйте!»
VHÚ Praha; VHÚ Bratislava. Vojenské osobnosti československého odboje 1939—1945. Praha: Ministerstvo obrany ČR — AVIS, 2005. 348 s. ISBN 80-7278-233-9.
ŠRÁMEK, Pavel. Českoslovenští vojáci v domácím odboji. Armádní techn. magazín. 2004, roč. 34, č. 12, s. 41-42.
Ministerstvo vnitra, odbor pro politické zpravodajství. Čís. Z-5062/1945/II.
CHURAŇ, Milan a kol. Kdo byl kdo v našich dějinách ve 20. století. I. A-M. 2. rozš. vyd. Praha: Libri, 1998. 467 s. ISBN 80-85983-44-3. S. 50-51.
Osobnosti — Česko : Ottův slovník. Praha: Ottovo nakladatelství, 2008. 823 s. ISBN 978-80-7360-796-8. S. 53.
TOMEŠ, Josef a kol. Český biografický slovník XX. století. I. díl. A-J. Praha ; Litomyšl: Paseka ; Petr Meissner, 1999. 634 s. ISBN 80-7185-245-7. S. 99.
VOŠAHLÍKOVÁ, Pavla a kol. Biografický slovník českých zemí. [5. sešit], Bi-Bog. Praha: Libri, 2006. 478—585 s. ISBN 80-7277-309-7. S. 510—511.
Медиафайлы на Викискладе
