曹操出身于官宦世家，乃是汉相曹参之后，曹操的父亲曹嵩是宦官曹腾的养子。曹腾历侍四代皇帝，颇有名望，汉桓帝时，被封为费亭侯，曹嵩继承了曹腾的侯爵，在汉灵帝时官至太尉。
青年时期，曹操机智灵敏，有随机应变的能力，而且任性好侠、放荡不羁，不修品行，不研究学业。所以当时的人都不认为他会有什么特别的才能，只有梁国的桥玄和南阳的何颙认为他不平凡。
桥玄对曹操说：“天下将乱，非命世之才不能济也，能安之者，其在君乎？”
南阳何颙对他说：“汉室将亡，安天下者，必此人也！”
南阳许劭以知人着称，他也曾对曹操说过：“君清平之奸贼，乱世之英雄！”
由此可见，曹操注定了会是个英雄人物。
而曹操也确实不一般，早年间就表现出了对武艺的爱好与才能，并且博览群书，尤其喜欢兵法，曾经抄录古代诸家兵法韬略，这些都为他后来的军事生涯打下了扎实的基础。
熹平三年（174年），曹操被举为孝廉，入洛阳为郎。不久，又被任命为洛阳北部尉。
光和元年（178年），曹操因为堂妹夫宋奇被宦官诛杀，所以受到牵连，被免去官职。后来，曹操在洛阳无事可做，便回到家乡谯县闲居。
光和三年（180年），曹操又被朝廷征召，任命为议郎。期间，曹操上书陈述一些为官正直之人而遭陷害，致使奸邪之徒满朝，而忠良之人却得不到重用的情形，言辞恳切，但没有被汉灵帝采纳。尔后，曹操又多次上书进谏，虽偶有成效，但东汉朝政日益腐败，曹操知道无法匡正。
中平元年（184年），黄巾起义爆发。曹操被拜为骑都尉，受命与皇甫嵩等人联军进攻颍川的黄巾军，结果大破黄巾军，斩首数万级。随后，曹操因功被迁为济南相。
当时，正是东汉政治最为黑暗之时，甚至有了买官制度。朝廷转任曹操为东郡太守，拜为议郎，曹操不肯迎合权贵，遂托病回归乡里，春夏读书，秋冬弋猎，又暂时隐居起来。
当时天下大乱，先是发生了冀州刺史王芬联合南阳许攸、沛国周旌等地方豪强，谋划废黜灵帝而立合肥侯的事件。王芬等人希望曹操加入他们，但被曹操拒绝，后来王芬事败自杀。接着，又发生了西凉金城郡的边章、韩遂杀死刺史和太守，率兵十余万反叛朝廷的事件。
中平五年（188年），汉灵帝为巩固统治，便设置西园八校尉，曹操因其家世而被任命为八校尉