王允出身太原王氏，世代为州里的冠族。
王允少时就很是勤奋，志在立功。因为汉代许多文人的还是保持的古代六艺的习惯，所以王允也是通习经传，早晚都练习骑射，也可谓是文武双全。
王允的出名，不是因为经文，而是在一次次的对抗中获取的赞扬——尤其是对抗比他更大的官员，甚至是对抗宦官。
王允在十九岁的时候当上了郡里的小吏，当时的小黄门赵津贪婪恣肆放纵，是县里的祸害，而小黄门赵津胆敢这样做，一是为了自己的敛财，二也是为了敬奉他上头更大的宦官
但是王允当时却直接找了一个罪责，然后把赵津杀了。
杀掉了小黄门，自然得罪了在京城的大宦官，于是大宦官就找到一个机会向皇帝进了谗言，结果很有趣的是，皇帝大怒，下令将太守刘瓆征到京师，关到监狱里弄死了。
可以说太守刘瓆成为了王允成名的踏脚石。因为在皇帝和大宦官的想法里面，一个郡的小小官吏怎么会有胆量轻易去沾惹虎须？肯定是有太守在背后撑腰
后来王允为刘瓆送葬回到其家乡，为刘瓆守了三年的丧，然后就回家了。
随后不久，王允又再次的出仕，这一次遇到的是一个地方豪强，有一个叫路佛的，没有品行，在汉代没有品行不一定是性格人品不好，而是没有入品，不是诗书士族的意思。
太守王球却让路佛当官，王允不干了，犯颜强谏，王球被王允惹怒了，便想把王允抓起来杀了。但是当时的并州刺史听说了王允的名声后，就把王允辟为州驾从事，如此一来，自己的顶头上司表明了态度要保护王允，太守王球也自然不敢违背刺史的命令。
王允因此更加的知名，而路佛也没被任用。
中平元年是汉朝的不幸运的时间，但是却是王允的迅速崛起的时刻，这一年黄巾起义爆发了，汉灵帝任命王允为豫州刺史。
为了应对黄巾之乱的危机，汉灵帝不得不向士族低头，解除了党锢，因此大批的名士重新有做官的机会，王允于是就任用名士八龙之一的荀爽、让梨的孔融为从事。
有了地头蛇的支持，王允讨伐颍川黄巾自然不出意外的大胜，并且和左中郎将皇甫嵩、右中郎将朱俊一起接受十余万黄巾的投降，盛名远扬。
189年汉灵帝去世，王允前往京师奔丧，当时的大将军何进正在谋划诛杀宦官，召来王允谋划，于是保奏了王允的官职，将王允留在了京城。