Rakoncaj vystudoval strojní průmyslovku v Jičíně a v letech 1970 až 1989 pracoval v podniku Dioptra Turnov. Když se odhodlal ke své první osmitisícovce, i přes svou pověstnou pokoru k horám si vybral tu nejtěžší. Poslední červencový den roku 1983 zdolal jako první Čech druhou nejvyšší horu světa K2. V roce 1986 si výstup na K2 zopakoval a stal se prvním horolezcem světa, který tuto obávanou horu zdolal dvakrát. Slavný Mount Everest mu ale třikrát odolal.

Rakoncaj je nesmiřitelným odpůrcem používání kyslíku a komercionalizace horolezectví. Nyní se kromě jiného věnuje své firmě vyrábějící sportovní oblečení Sir Joseph a mezi jeho koníčky patří také létání s ultralehkými letouny. Je ženatý, má dceru Lucii a syna Lukáše.