旋进少府丞。建安初，汉主议复五经博士，以勋前在营陵，受业于孙乾，使往青州征郑玄入朝乾，郑门别传也。勋因请设古文博士，并拜玄大司农，郑门郗虑、许慈、任嘏等皆从师入许，许下人才之盛遂为一时之冠。玄重其才，授业于勋，传以《左氏》。
秋，从操伐袁绍。修仁之战，沮授成擒，勋责以大义，说授降，又献计使董昭伪作授书于授子鹄，书多涂抹，射入邺城中。时审配守邺，刑法严苛，军将多不满，伪书至，人各相疑，城内大乱，冯礼献城南突门以降，配侄审荣擒配，遂克。
四年冬，刘表使文聘助刘备攻张绣，操以重兵在北，得空南顾，乃命勋使长沙，说太守张羡攻表觉得管束。勋过宛，为绣、备解兵；入长沙，促羡以四郡兵进抵孱陵，表惊，派遣文聘，备无援兵，遂不复图宛。
旋闻汉主还洛阳，勋乃驰返鄄城，劝操“挟天子以令诸侯”。先是，毛说操曰“奉天子以讨不臣”，荀说以“奉主上以从民望”，勋之计虽略同、，然“挟天子”语，实汉魏相代之萌也。操深然勋计，遣曹洪将兵迎汉主；勋亦自请先发往谒以申勤王之意。道逢匈奴左贤王去卑部劫夺民庶，勋使夏侯兰挫其锋，擒左谷蠡王潘六奚为质，据偃师以待去卑。单于於夫罗与去卑并至，将五千骑围之。勋单骑出，面责於夫罗，又诡言曹洪雄师在三十里外，斯须便至。於夫罗惧而请成，还所掳汉民。汉民由勋得活者数千，故中郎蔡邕女琰亦为勋所救。
“汝阳袁绍本初者，名出世宦，地实寒微，伧婢之子，苟合而生。绍谗慝恣纵，残暴无亲，阴图篡僭，窃位放弟。虽倚高户，数典何如忘祖；弃亲宵遁，须眉仿佛巾帼。公战而怯，前酗酒滞于酸枣；私斗而勇，后狗窃乃得冀州。其图盘据，一如隗嚣之横陇；诡言兵谏，何异刘濞之反吴。乃觉得天下皆眚者耶？！
八年，从征幽州，至于柳城。因袁熙兄弟往奔公孙度，操使勋策度襄平县侯，使斩熙、尚以报。功成，乃以幽州新定，留勋为刺史。
曹操肇建魏国，以勋为中书令。勋乃更定官制，收处所之临时使镇抚得力，因立三台三省十二部，郡县吏皆吏部委任，守令不得私辟。时吏部尚书陈群建九品中正制，而勋以吏员多阙，乃献科举策，使中正举人与科考并用。
四年，张邈、陈宫等迎吕布入兖，郡县皆应，时勋在鄄，与太史慈、程昱等共佐荀，得保鄄、范，助操逐布。复使徐州，说陶谦以身后事属操，则徐方之附，勋功亦大焉，操深器之。
汉主在许，咨郗虑、华歆等以禅礼。时曹昂为魏太子、曹德为太仆，颇惊惧，约与勋并至许都，以谏汉主。少府耿纪、司直韦晃、太医令吉本为乱，挟前尚书令荀，欲劫汉主及二曹，矫诏以害曹操。先是，勋直入宫中，知乱起，乃与曹皇后同谋，之前任侍中，德望犹在，遂控御尚书台并郎卫官，与部曲亲护汉主。纪、晃等逼宫，荀不肯从贼，撞死殿上，贼遂并为勋所执。恐彼等或攀污汉主，乃不请命而尽诛之。自是，曹操代汉之志坚矣，唯勋以“东南不决，益、凉未平，此非当时”为言，时刘备亦据蜀中，觊觎非份，操乃缓之。
五年六月，刘雄鸣、吕并等反叛关中，操遣叔豹平之。勋乃上分州策，以三辅为雍州，后各州郡之分，削大成小，弱枝强干，皆肇此也。