V Brně také potkal svou životní lásku, operní pěvkyni Jarmilu Palivcovou. Jejich vztah nebyl jednoduchý, protože Jarmila byla v té době vdaná za herce Martina Růžka. Přesto se do sebe zamilovali a po rozvodu Jarmily se vzali. Jejich láska vydržela až do konce života. Poslední roky strávili společně v domově pro seniory, kde Karlík v roce 2009 zemřel ve spánku po boku své milované ženy. Jarmila ho následovala o rok později.
Herec, pedagog a inspirace pro další generace
Kromě herectví se Josef Karlík věnoval také pedagogické činnosti na brněnské Janáčkově akademii múzických umění. Byl oblíbeným profesorem, který dokázal své studenty inspirovat a podněcovat jejich kreativitu. Herectví pro něj bylo nejen profesí, ale také formou psychoterapie, do které se zcela ponořil.
Přestože se Karlík více věnoval divadlu než filmu, jeho role dědečka v Jak dostat tatínka do polepšovny zůstává nezapomenutelná. Jeho talent, humor a lidskost z něj udělaly herce, na kterého se nezapomíná. Škoda, že jsme si jeho umění nemohli užít na filmovém plátně více.
