太祖公车入洛，须臾不停，过私门而不入，直入恩师太尉刘宽府中。乡中故人阳球在座，乃戏曰：“君何其速也，忧得劣官乎？”太祖慷慨曰：“国家板荡，四海不宁，正当吾辈用命之时，珣正忧不得其职也，岂以名利患之？固求边郡军职，以效国家！”座中自阳球以下，皆正色避之。刘公亦壮其言，乃表别部司马，出屯雁门。蔡邕闻太祖将行，尽托藏书数千卷，嘱之运返辽西版印。
太祖携韩当、吕范至雁门平城，凡数月，上至刺史、两千石，下至白身、黔首，莫不赤诚以待，推心置腹。乃至于上下一体，豪杰相投。曾将兵十余，护徙民千余过黄河，有贼知其兵少，夜窥营寨。太祖坐于帐前，指挥若定，贼首举箭指之，然目其风仪，不忍杀，乃射辕门火盆而去。其得人心如此。又明察太守之恶，遂单骑往谒刺史董卓。得专署，衣不解带，彻夜而返，一日而发其罪，便槛车洛阳。盖势如雷霆，乃郡中惊怖，上下惶恐，以至官吏不署。太祖于府中观郡中文书，察事业凋敝，民生艰难，乃叹曰：“天下汹汹，皆此僚也！”遂奋不顾名而亲执郡政。旬月之间，督理吏治，清察弊端，劝行农桑，举荐贤才，待新府履任，已政通人和，百废具兴也。至八月，整军已毕，会猎白登山校武，获白鹿而归。
熹平五年十二月，朝议北讨鲜卑，分三路出塞邀击，太祖以别部司马隶于右路护乌桓校尉夏育。鲜卑可汗檀石槐令三部大人逆战之，三路隔绝，军情恍惚。太祖烛见万里，窥得虚实，乃于晚日军中用饭时急谒之，自请为前部，不避剑矢，疾趋弹汗山。育许之，太祖即拔本部千五百人，两日连趋百里，直至歠仇水下，鲜卑王庭方五千兵，见之震恐，待大军援，将毕其功于一役也。然中路使匈奴中郎将臧旻忽败，使麾下属吏孙坚突围告之，育闻之，亦肝胆俱丧，乃遗辎重、弃太祖而走。太祖深夜闻之，仰天叹曰：“夏育虽恶，然军中士卒皆无辜也，且若其为檀石槐衔尾所食，则燕代之地无兵矣，数郡百姓将为荼毒。”乃决意夜渡歠仇水，火烧弹汗，以身诱檀石槐回军。将渡，诸将皆努力争先，自求先登而请太祖安坐河南，太祖厉声问曰：“临阵奋战，大丈夫岂可隔河而望活乎？”言尽，乃以一部疑兵临桥扰敌，自领军暗以马匹连绳相结做浮桥，遂亲握马首而渡。既渡，不及披甲，便复发神武跃马突阵，众将隔河观之，无不振奋，乃争相入水。敌军甚众，太祖既当先而战，又无甲，乃屡受刀矢。凡受数创，皆不裹，凡受数矢，皆折而掷地，由是三军用命，贼众丧胆。当是时也，将有失马者或拽袍泽马尾突阵，士有矢尽者皆索鲜卑尸身续射，故贼虽众，仍至速败。太祖乃迫近王庭，举火焚之，夏夜风盛，其光烟直映百里，震动漠南。鲜卑军望见，纷纷北走救之，汉军大部幸而得返。太祖创重昏迷，范、当护之，死战得脱，又遇雨失道，几死者数矣，赖天佑沿河重入塞内，遂返屯平城。高顺时为军中陪隶，有大功，太祖拔为军侯，赐字素卿。
秋，雁门饥，太祖发军粮两屯于太守郭缊赈之。郡中豪强大户闻之，无不感佩，遂协力出粮，一郡赖以得安。八月，迎赵皇后，成礼于平城。
十月，朝议三将下狱，拜太祖为中郎，以功特加千石，爵公大夫，赴洛入郎署。随行义从俱乘白马，白马义从之名自是而起。过河内孟津，逢日食，士民惊恐奔逐，唯太祖巍然不乱，自斩座下马首而震众心。须臾，日食过，孟津乃安，士民官吏无不膺服。及登船，左右问曰：“公何所恃？”太祖曰：“天象有常，君子自不惧也！”待渡河，有使来告：“君师刘公以天象罢三公之位。”太祖面不改色：“君子自强，如此琐事，何告之也？”左右愈服。及入洛，以中郎拜尚书台行事，晚谒宽。相谈至夜，将走，宽度太祖年岁日长，雄气渐成，乃临门拗其袖叹曰：“汉室兴亡，将操于文琪手也，慎之！”太祖不知其意，兼以前言诛宦事宜，乃徐答曰：“王甫根基已动，小儿辈自破敌，恩师但于内堂安坐。”宽自知失言，乃曰：“善。”
太中大夫段熲，阿附中常侍王甫，甘为爪牙，权倾朝野，其在洛中，时人未敢高声言于目前，唯太祖常与其痦。前罪将夏育、田晏，遇赦为庶人，返乡途中被杀于道。熲疑太祖所为，于铜驼街前相质，时熲引数十人，太祖凡一人，天色既暗，熲乃引众拔刀欲行不利，喝曰：“小儿辈以吾刀不利乎？”太祖曾不色变，昂然抽刀对曰：“天下健者，岂唯段公？”话音落，京师大震，房屋官寺坍塌者不计其数，熲大惊而退，由是丧胆。
年末，南宫尚书台有雌鸡化雄，一身毛皆似雄，但头冠尚未变。及发，洛中震恐，阉寺遮面而走，士人舆论汹汹。当日，复又交州事变，四郡陷落。南宫平城门无故自塌。太祖为尚书郎，亲目所见，愕然当场。待归，更与王允、田丰等急谋诛宦。
熹平七年初，太祖迁为中都官从事，与王允等合推阳球为司隶校尉。蔡邕欲上疏请诛宦，先以家人及藏书万卷托付太祖。及疏上，果下狱论死。太祖等奋力营救，改流放朔方。王甫诬告灵帝宋皇后行巫蛊之事，灵帝废后，宋氏族诛于市。帝师光禄大夫桥玄幼子被贼所挟，太祖设计救之。玄壮其志，感其恩，乃自请为司徒领尚书事，以助太祖等诛宦。
三月，朝议改元光和。王甫使门生于京兆界辜榷官财物七千馀万，京兆尹杨彪发其奸，言之司隶。时甫休沐里舍，颎亦归家。球欲假诣阙谢恩，因奏甫、颎及中常侍淳于登、袁赦、封羽等罪恶，唯虑甫闻讯入宫相持，便不敢行。太祖乃自告奋勇，率义从堵截其舍。待至，不及阳球得旨，太祖即刻亲持刃相博，引义从攻杀入舍，先擒甫及子萌，复拖其发冠至门前看管。甫卧于血泊，惶然问曰：“不得旨而杀两千石，死罪无赦，于君何益？”太祖慨然应曰：“汝父子族人五毒俱备，贪鄙殘命，天下苦之久矣！既已发动，自有进无退，便以亡命江湖，亦要为天下诛汝曹！”既攻，洛中士民临街而观，复闻此言，皆踊跃相颂，固知王甫无生矣。太祖既诛王甫，复磔其尸于夏城门，大署榜曰“贼臣王甫”。尽没入财产，妻、子皆徙比景。左右或劝曰：“行事酷烈，早晚或遭反噬。”太祖凛然对曰：“日食地震，雌鸡化雄，若不尽诛彼辈，大汉焉有早晚？”
太祖与阳球等诛灭王甫、段熲、陈玖，驱除袁赦、张奉、淳于登等，独曹节奸狡，先入北宫，以是脱逃。阳球与永乐少府陈球、步兵校尉刘讷、司徒刘郃合谋诛节，欲成全功。谋尚未发，节竟以顺帝虞贵人章陵之葬，说动中常侍张让、赵忠等，复为大长秋、尚书令，节制羽林、虎贲两军，其势更炽。翌日，四公以谋逆罪下狱，旋遇害。太祖时在城外，闻讯急回，擒节弟破石为质，自至尚书台独会节，迫其赦四公家眷。时桥玄在侧，见而赞曰：“文琪内刚而外刃，锋利为天下冠”。审配时为陈球家臣，因之归心于太祖，甘为驱驰，太祖亦视其为股肱。节归家，喟然叹曰：“吾老矣！天下昏昏，能全我家者，必此子也。”乃遣人送女孙至太祖处。赵皇后知之，遂往魏郡节族中下聘，求为太祖侧室，即冯夫人也。
光和元年六月，灵帝开西园，朝廷凡授官，皆以秩纳钱。太祖恰出为辽东襄平令，闻之大怒，自尚书台奉书即行，曾不稍顾。张让、赵忠，面面相觑，竟不敢问。行路中，闻曹操弃职返乡。太祖与操志趣相仿，素与之善，又思沛国乃文皇后故乡，遂携娄圭、韩当，轻骑至谯县谒之。操亲族曹仁、曹洪、夏侯惇、夏侯渊等，俱一时良才，与太祖相见亲切，乃共议时局，相为激励不可失丈夫青云之志。初，有黄龙现于谯。后三年，太祖与操共浴于涡水，复遇毒蛟，杀之。操妻丁夫人素贤，闻太祖尚无嗣，乃选己家乐姬颜色最好者赠之，太祖纳为侧室，即卞夫人也。太祖与操辞别，闻北海王修有贤名，专往访之，求为幕僚，遂浮海至辽东。
太祖自诛杀王甫，面斥曹节，声名日显，渐为天下重。襄平长吏受取贪饕，依倚贵势，历前令不见举；闻太祖至，一日尽去。于是政教大行，一县清平。辽东边郡，夷狄丛生，杂胡或百十为聚，或上万为国，然俱慕王化，向往中国。唯高句丽自矜部众蕃庶，山河险固，有进取辽东，宰割塞外之念，故长以汉为敌国。辽东百姓，颇受其苦。太祖履任，即欲为民除此大害，尚未定策。适高句丽亦欲图汉，仿马邑之谋，遣其国贯那部贵人至襄平，诳言其王老衰，诸部争位，欲请太祖率汉军为援，将以有报也。太祖洞烛其奸，伪与之盟。俟冬日，尽发辽东民团，又遣公孙越、公孙范往募诸部杂胡，整军八千余，自备粮秣，往攻高句丽。公孙氏旧吏玄菟郡别部司马徐荣，壮太祖之举，自引本部千五百精骑往助。将发，赵皇后遣家人送白马旗至，以做激励，众皆以为吉。
高句丽屯塞坐原，连营十一，凡十余年汉军屡不得下，边境苦之。军至，太祖令速攻，众皆以为不可。太祖曰：“汝等未解兵法之妙！”，遂严令韩当为先锋，急攻之，贼惶恐大惊，以至中军刚至，前军已破二营。太祖遂令兵马不驻，直趋向前，又亲持白马旗，督师至敌营门前而坐，敌当即大溃，全营尽失。众将叹服，皆以为当乘胜追击，长驱直入，请于太祖，太祖曰：“高句丽，大国也。坐原虽失，精兵未损。且关山险远，后勤艰难。以孤军入险境，吾不为也！”遂令全军加筑营垒，严守不出。凡五日，高句丽倾举国之兵五万来攻，汉军据垒坚守，激战三日，贼死伤惨重，粮矢将尽。审配自玄菟郡率四千军来援，贼无奈退兵。太祖拜荣为骑兵司马，总揽全军骑军七千，效鄢陵之战，撤帐平灶，立骑阵于营中，复推倒营墙，直出敌阵。贼左相于畀留率万众相迎，一触而溃，汉军追陷溃兵直入贼营，复穿营而过，辍贼大众之后，日夜不休，贼遂大溃。太祖发全军追斩高句丽莫离支明临答夫以下万余级，直至其王都五女山城，一鼓下之，遂亡高句丽。以其国青壮俱丧，老幼无所依，乃迁其遗民数十万口于辽东、辽西、玄菟、昌黎、乐浪诸郡以活之。及班师，朝廷得捷报大喜，以殊勋，封太祖无虑亭侯，迁赵国邯郸令。无虑者医无闾也，令支都亭，与名字相合，时人称美。
太祖为邯郸令，会河内名士向栩为赵相。栩性素卓诡不伦，及到官，略不视文书，日夜但坐于榻上，或长啸，或高卧，乃至舍中生蒿莱。太祖入内，与之言语，三言即走。左右怪而问之，太祖叹曰：“使汉室亡天下者，皆此类假谲人也！安可相交？”栩虽迂，然亦久知太祖之能，遂委国相印与之，自与太平道人王宪日清谈不休。王宪字敏宏，太原晋阳人也，世代名族，容貌雄伟，不习儒，善望气。年四十学道，初随张角，久之乃去，人问之，曰：“角所传，似是而非，纯以诡谲愚人，非道家清净之本，必不得久也。”初，与太祖相逢于中山豪门，座中目视太祖良久。太祖笑问曰：“公善望气，可望的我能至两千石否？”宪曰：“十年必达”。复问：“十年后何如？”宪笑而不语。翌日，宪遗书于太祖而走。书曰：“君气赤红而凝紫，冠绝座中诸人，十年后，君当青云直上，居凌霄而鞭挞宇内，如是而已！”太祖不信，笑而示左右即弃之，然书离手自燃，须臾灰飞烟灭，左右皆惊。