旋进少府丞。建安初，汉主议复五经博士，以勋前在营陵，受业于孙乾，使往青州征郑玄入朝乾，郑门别传也。勋因请设古文博士，并拜玄大司农，郑门郗虑、许慈、任嘏等皆从师入许，许下人才之盛遂为一时之冠。玄重其才，授业于勋，传以《左氏》。
《辽东野语》云：勋本非是氏，实乐浪单家子，与氏氏熟悉，会氏家为张岐灭，乃窃其手札，易姓变名，冒为氏勋。更有言曰，亦非单家，乃氏家奴也。
张绣在宛，操虑其袭许，勋献策命之为南阳太守，以间刘表，操然之，乃遣勋赍诏宣敕。勋至，说绣归命朝廷，以附曹氏。复闻贾诩在华阴段煨军中，虑为将来之患，乃复请赴华阴，阳间煨、诩，二将果生嫌隙，且俱降操矣。勋之折冲诸侯间，以口舌而定中原，其事大略如是，时人目之为苏、张之亚匹。
操征孙权，使勋留守。时鲁肃清除江面，雄师渡江，勋驰书操，献策“南人归南，北人归北”，诽谤孙氏僚属。权之降附，颇赖勋策。
曹操在兖州，徐方震恐，麋竺等欲使州牧陶谦拒之，独勋与陈登说谦，使兖、徐合纵以安州境。时操父嵩寄寓琅邪，谦乃使勋送之，并致书操，以申盟好。会袁术阴令人假谦名以攻操，赖勋将兵却之，乃与嵩及子德携归。
“司空曹操，相国苗裔，公侯冢子，乃奉先君之成业，荷炎刘之重恩。宋微子之兴悲，良有以也；桓君山之流涕，岂徒然哉？是用愤恚风云，志安社稷。因天下之所望，顺宇内之推心，爰举王帜，誓清妖氛。东连徐方，西尽雍凉，铁骑成群，玉轴相接。海陵红粟，仓储之积靡穷；江浦黄旗，匡复之功何远？班声动而北风起，剑气冲而南斗平。喑呜则山岳崩颓，叱咤则风云变色。以此制敌，何敌不摧；以此攻城，何城不克！
高以郭援侵端氏，勋将郡兵及匈奴兵袭太原，破永安。匈奴左谷蠡王潘六奚以尝为勋掳于偃师，深衔恨之，因而叛归署雁门太守郭，与军共围永安。先是，勋客谢徵制火药，勋至河东，乃密建工坊，造火箭车，箭尾以药引火助推，一车可十二箭齐发，射百步，车又饰以凶怪猛兽。至是乃以之御，兵大惊，觉得神异，自相扰乱，勋趁机掩击，会城外援至，乃大破之，诛潘六奚，获郭。勋以呼厨泉束缚不谨，又颇疑彼与去卑故纵奚，乃设想执之，迫其返平阳四县，迁匈奴兵于平周、离石。进据祁县，将兵来攻，时子淮在军中，勋命作书致淮，淮即背叛，军大乱。而勋亦以势众，祁县城小终不能守，乃乘间退兵。旋曹操败袁绍于官渡，亦退。勋返安邑，务农桑、兴政教、劝工商，翦除豪强，收四县所遗匈奴部众，编户齐民，郡中大治。
是仪以青州不靖，融亦无守境之能，虑异日祸将延己，乃遣子著、纡、峻等及勋南下琅邪，以营其窟。时仪中子宽游学徐方，曹宏、豹兄弟为州吏，与之相善，乃请豹女许勋，为固是氏也。
四月，曹操晋位魏王，户部享祭司郎中段瑕以去岁日蚀，天象示警，劾群相尸位，勋因与中书左仆射刘晔并尚书、御史二台令副同辞。帝三慰留，固辞，乃以汉侍中、参户亭侯还居乡里。倾之，复为朝廷征拜为尚书令，乃谏汉主曰：“世无禅让，天命是革，安有旧君失柄而能得生者乎？目前堂布列，莫非魏臣，都畿表里，莫非魏民，天心厌汉也深，民气离汉也久。如楚之移于西楚，岂项籍欲弑耶？项臣莫不欲弑也。即魏王宽宏，奈别人何？汉祚难继，闾巷皆知；魏之将兴，妇孺俱明。臣非为刘氏，乃为全陛下性命也。禅或得生，反动必死，陛下其慎。”汉主惶惧，乃命郗虑作诏，禅位于操。操乃设散官十二阶以酬勋旧，拜勋太尉，无常职司，止在摆布备参谋耳。