Его отцом былл чешский король Ян Люксембургский (1310–1346) а матерью королева Элишка Пржемысловна.
Воспитывался при французском королевском дворе, в 1331-1333 годыотец отправил его представлять династию Люксембургов в Италии, с 1333 года был маркграфом Моравии и предстваителем отца в Чешском королевстве, в 1346 году стал чешским и римским королем, в 1355 году коронован императором Священной римской империи.
В 1348 году основал Карлов университет, в 1344 году - пражское архиепископство, многочисленные монастыри, целенправленно возвышал Прагу как центральный город империи. Приказал построить многочисленные замки, например, Карлштейн, также построил Карлов мост, храм Святого Вита, основал Новый Город в Праге, благоустроил Пражский Град и Старый королевский дворец. Эта деятельность вызывала благодарность как у дворян, так и у простых горожан.
Также занимался литературным творчеством, напимал собственную биографию (Vita Caroli)и легенду о Святой Екатерине. В течение жизни был четыре раза женат (Бланка Валуа, Анна Фальцкая, Елизавета Поморжанская). Среди его потомков особенно прославились римский король Вацлав IV (1378–1419 годы) и Зигмунд Люксембургский (в 1387–1437 годы венгерский король, в 1419–1437 годы чешский король, 1411–1436 годы римский король, 1436–1437 годы римский император). За свой вклад в развитие чешского королевста Карл IV был назван Войтехом Раньковым из Ежова Отцом родины.