是时既灭南越，越人勇之乃言“越人俗信鬼，而其祠皆见鬼，数有效。昔东瓯王敬鬼，寿至百六十岁。後世谩怠，故衰秏”。乃令越巫立越祝祠，安台无坛，亦祠天神上帝百鬼，而以鸡卜。上信之，越祠鸡卜始用焉。
其年，既灭南越，上有嬖臣李延年以好音见。上善之，下公卿议，曰：“官方祠另有鼓励之乐，今郊祠而无乐，岂称乎？”公卿曰：“古者祀六合皆有乐，而神祇可得而礼。”或谓：“泰帝使*鼓五十弦瑟，悲，帝禁不止，故破其瑟为二十五弦。”於是塞南越，祷祠泰1、后土，始用乐舞，益召歌兒，作二十五弦及箜篌瑟自此起。
上遂东巡海上，施礼祠八神。齐人之上疏言神怪奇方者以万数，然无验者。乃益发船，令言海中神山者数千人求蓬莱神人。公孙卿持节常先行候名山，至东莱，言夜见一人，长数丈，就之则不见，见其迹甚大，类禽兽云。群臣有言见一老父牵狗，言“吾欲见巨公”，已忽不见。上既见大迹，未信，及群臣有言老父，则大觉得神仙也。宿留海上，与方士传车及间使求神仙以千数。
天子既已封禅泰山，无风雨菑，而方士更言蓬莱诸神山若将可得，於是上欣然庶几遇之，乃复东至海上望，冀遇蓬莱焉。奉车子侯暴病，一日死。上乃遂去，并海上，北至碣石，巡自辽西，历北边至九原。蒲月，返至甘泉。有司言宝鼎出为元鼎，以本年为元封元年。
公孙卿曰：“神仙可见，而上平常遽，以故不见。今陛下可为观，如缑氏城，置脯枣，神人宜可致。且神仙好楼居。”於是上令长安则作蜚廉桂观，甘泉则作益延寿观，使卿持节设具而候神人，乃作通露台，置祠具其下，将招来神仙之属。於是甘泉更置前殿，始广诸宫室。夏，有芝生殿防内里。天子为塞河，兴通露台，如有光云，乃下诏曰：“甘泉防生芝九茎，赦天下，毋有复作。”
三月，遂东幸缑氏，礼登中岳太室。从官在山下闻如有言“万岁”云。问上，上不言；问下，下不言。於是以三百户封太室奉祠，命曰高贵邑。东上泰山，山之草木叶未生，乃令人上石立之泰山颠。
其赞飨曰：“天始以宝鼎神筴授天子，朔而又朔，终而复始，天子祭奠见焉。”而衣上黄。其祠列火满坛，坛旁烹炊具。有司云“祠上有光焉”。公卿言“天子始郊见泰一云阳，有司奉瑄玉嘉牲荐飨。是夜有美光，及昼，黄气上属天。”太史公、祠官宽舒等曰：“神灵之休，祐福兆祥，宜是以地光域立泰畤坛以明应。令太祝领，及腊间祠。三岁天子一郊见。”
十一月乙酉，柏梁灾。十仲春甲午朔，上亲禅高里，祠后土。临渤海，将以望祠蓬莱之属，冀至殊庭焉。
其来年冬，上议曰：“古者先振兵泽旅，然後封禅。”乃遂北巡朔方，勒兵十馀万，还祭黄帝冢桥山，泽兵须如。上曰：“吾闻黄帝不死，今有冢，何也？”或对曰：“黄帝已仙上天，群臣葬其衣冠。”即至甘泉，为且用事泰山，先类祠泰一。