В семилетнем возрасте по приказанию отца был послан на воспитание во Францию ко двору Карла IV Красивого. При конфирмации получил имя Карл и женился на Бланке из Валуа. Через семь лет вместе с женой отправился в Люксембург, где должен был овладеть наукой управления государством. Не прошло и года, как отец отправил его в Италию защищать интересы Люксембургов. Там Карл получил первый дипломатический и военный опыт. И, как следует из автобиографии, пережил несколько любовных приключений. В 1333 году по просьбе дворянства, которое было недовольно долговременным отсутствием короля, возвратился в Чешское королевство. С этого времени Карл использует титул моравского маркграфа и действует как представитель Яна Люксембургского и его соправитель. Карл обретает самостоятельность в 1346 году, но только через год его коронуют вместе с Бланкой. В том же 1346 году он избран римским королем, а в 1355-м становится римским императором.

Для своего времени Карл IV был очень образованным человеком. Знал французский, немецкий, итальянский, чешский языки и латынь, на которой написал автобиографию Vita Caroli, где отметил, что должен был снова учить чешский язык, забытый им во время долгого пребывания за границей. Карл лично участвовал в создании чешского коронационного регламента и закона, который определял положение чешского короля в Империи и способ избрания римских королей (Золотая Булла Карла IV). Из-за несогласий с чешским дворянством ему, даже в качестве императора, не удалось утвердить в Чешском королевстве свод законов, известный как Maiestas Carolina.

Карл IV был необыкновенно активен в роли отца-основателя. Вместе со своим отцом положил в 1344 году первый камень в основание собора св. Вита, в том же году добился повышения пражского епископства на архиепископство, в 1348 году основал пражский университет, в том же году — пражский Новый Город и замок Карлштейн, в 1357 году — Пражский (Карлов) мост. Во время его правления начали выращивать виноград в районе, который сегодня так и зовется — Винограды.

Карл IV был женат четыре раза. Первый раз он женился в возрасте семи лет (в 1323 году) на Бланке из Валуа. В 1349 году его второй женой стала Анна Фальцка. В третий раз Карл женился в 1353 году на Анне Свидинской. Его последней женой в 1363 году стала Элизабета Поморжанска. Четыре супружества принесли Карлу одиннадцать детей — шесть сыновей и пять дочерей. Известно о его внебрачном сыне Желоме, чье будущее занимало Карла во время его дипломатической поездки во Францию в 1378 году. В то время мальчику было двенадцать лет.

29 ноября 1378 года Карл IV неожиданно скончался. Незадолго до этого он сломал бедренную кость, упав с коня. При лечении перелома развилось воспаление легких, которое и привело к смерти монарха .