六年，曹操进位丞相，以勋为丞相司直，巡刺海、徐，很有所保举，又于广陵荐华佗为丞相府医曹掾。勋旧客吴质荐为广阳长，以输铁器入鲜卑，为校事赵达构陷，勋切身往讼，洗质之冤，又谏操以校事位卑权重，需善简良吏，不成使太阿倒持。达终以构陷大臣及它枉法共七十三事弃市，人皆称庆。
先是，拓跋部大人诘汾以亲丧，托众于宾部，同败于圜阴，乃疾往谒勋，遣嫡子力微为质。勋以力微雄浑，收为假子，赐名魏。以是服拓跋，许以互市之利，共图匈奴。旋因郑玄殁，去官返许致祭，并请守丧。操许之，使与郑门诸弟子送葬高密，寻征拜司空长史。
五年六月，刘雄鸣、吕并等反叛关中，操遣叔豹平之。勋乃上分州策，以三辅为雍州，后各州郡之分，削大成小，弱枝强干，皆肇此也。
十一年，拜为光禄勋。时董昭等联络百官，讽汉主晋曹操为公，封藩建国。勋因劝操于新国更建官制，以革汉弊。十仲春，勋假子魏觐汉主，献鲜卑方物，请用汉家衣冠。汉主赐魏冠服，及钱帛璧剑，封魏父诘汾归义侯，魏关内侯。以勋前收拓跋部，及定平州、扰吴会等功，封参户亭侯。
高以郭援侵端氏，勋将郡兵及匈奴兵袭太原，破永安。匈奴左谷蠡王潘六奚以尝为勋掳于偃师，深衔恨之，因而叛归署雁门太守郭，与军共围永安。先是，勋客谢徵制火药，勋至河东，乃密建工坊，造火箭车，箭尾以药引火助推，一车可十二箭齐发，射百步，车又饰以凶怪猛兽。至是乃以之御，兵大惊，觉得神异，自相扰乱，勋趁机掩击，会城外援至，乃大破之，诛潘六奚，获郭。勋以呼厨泉束缚不谨，又颇疑彼与去卑故纵奚，乃设想执之，迫其返平阳四县，迁匈奴兵于平周、离石。进据祁县，将兵来攻，时子淮在军中，勋命作书致淮，淮即背叛，军大乱。而勋亦以势众，祁县城小终不能守，乃乘间退兵。旋曹操败袁绍于官渡，亦退。勋返安邑，务农桑、兴政教、劝工商，翦除豪强，收四县所遗匈奴部众，编户齐民，郡中大治。
“公等或居鼎位，或协周亲，或膺重寄于话言，或受顾命于宣室。言犹在耳，忠岂忘心？倘能转祸为福，送旧事居，共立勤王之勋，无废时君之命，凡诸爵赏，同指江山。若乃眷恋穷城，盘桓岔路，坐昧先机之兆，必贻后至之诛。移檄州郡，咸使知闻。”
曹操在兖州，徐方震恐，麋竺等欲使州牧陶谦拒之，独勋与陈登说谦，使兖、徐合纵以安州境。时操父嵩寄寓琅邪，谦乃使勋送之，并致书操，以申盟好。会袁术阴令人假谦名以攻操，赖勋将兵却之，乃与嵩及子德携归。
翌年，黄巾帅管亥寇北海，破剧县，围融都昌。融素无军略，既不能御，但日堕泪待死耳。勋乃自请赴平原请刘备相救，时太史慈在都昌，亦与同行。备见而喜曰：“孔北海亦识仆乎？”遣将关羽驰援。及至，勋以兵势相逼，说管亥撤围南下，以全妇孺，亥感其诚，从之，围乃得解。
《辽东野语》云：勋本非是氏，实乐浪单家子，与氏氏熟悉，会氏家为张岐灭，乃窃其手札，易姓变名，冒为氏勋。更有言曰，亦非单家，乃氏家奴也。
十年春，公孙度寝疾。逄纪时在度幕中，密致书于勋，言度已死，请军往征，愿为内应。纪前与熙、尚同奔度，度先纳焉而后杀熙、尚，纪阳降度而心实衔之，故欲假勋手为旧主复仇也。操时欲南征刘表，得勋报，以夏侯渊将骑二千往援。渊未至，而勋已克昌黎，进驻辽水。度时疾笃，子康视事，众心未一，乃撤辽水守，坚壁清野，据襄平、首山。度族弟模苦谏，而康不从，模乃请以海舟载兵，略勋粮道，康听之。幸勋前征幽州海商卫循等为海师保护，遂与典韦相合，破度将刘熙，粮道断而复通。军逼首山，适度死，康遁去无踪，张敞、王建等举城降，柳毅亦来归也，遂定平州。