匡衡字稚圭，东海承人也。父世农夫，至衡好学，家贫，庸作以供资用，尤精力过绝人。诸儒为之语曰：“无说《诗》，匡鼎来；匡语《诗》，解人颐。”
衡射策甲科，以不应令除为太常掌故，调补平原文学。学者多上书荐衡经明，当世少双，令为文学就官京师；后进皆欲从衡平原，衡不宜在远方。事下太子太傅萧望之、少府梁丘贺问，衡对《诗》诸大义，其对深美。望之奏衡经学精习，说有师道，可观览。宣帝不甚用儒，遣衡归官。而皇太子见衡对，私善之。
会宣帝崩，元帝初即位，乐陵侯史高以外属为大司马车骑将军，领尚书事，前将军萧望之为副。望之名儒，有师傅旧恩，天子任之，多所贡荐。高充位而已，与望之有隙。长安令杨兴说高曰：“将军以亲戚辅政，贵重于天下无二，然众庶论议令问休誉不专在将军者何也？彼诚有所闻也。以将军之莫府，海内莫不卬望。而所举不过私门宾客，乳母子弟，人情忽不自知，然一夫窃议，语流天下。夫富贵在身而列士不誉，是有狐白之裘而反衣之也。古人病其若此，故卑体劳心，以求贤为务。传曰：以贤难得之故因曰事不待贤，以食难得之故而曰饱不待食，或之甚者也。平原文学匡衡材智有余，经学绝伦，但以无阶朝廷，故随牒在远方。将军诚召置莫府，学士歙然归仁，与参事议，观其所有，贡之朝廷，必为国器，以此显示众庶，名流于世。”高然其言，辟衡为议曹史，荐衡于上，上以为郎中，迁博士，给事中。
是时，有日蚀、地震之变，上问以政治得失，衡上疏曰：
臣闻五帝不同礼，三王各异教，民俗殊务，所遇之时异也。陛下躬圣德，开太平之路，闵愚吏民触法抵禁，比年大赦，使百姓得改行自新，天下幸甚。臣窃见大赦之后，奸邪不为衰止，今日大赦，明日犯法，相随入狱，此殆导之未得其务也。盖保民者，“陈之以德义”，“示之以好恶”，观其失而制其宜，故动之而和，绥之而安。今天下俗贪财贱义，好声色，上侈靡，廉耻之节薄，淫辟之意纵，纲纪失序，疏者逾内，亲戚之恩薄，婚姻之党隆，苟合侥幸，以身设利。不改其原，虽岁赦之，刑犹难使错而不用也。
臣愚以为宜一旷然大变其俗。孔子曰：“能以礼让为国乎，何有？”朝廷者，天下之桢幹也。公卿大夫相与循礼恭让，则民不争；好仁乐施，则下不暴；上义高节，则民兴行；宽柔和惠，则众相爱。四者，明王之所以不严而成化也。何者？朝有变色之言，则下有争斗之患；上有自专之士，则下有不让之人；上有克胜之佐，则下有伤害之心；上有好利之臣，则下有盗窃之民：此其本也。今俗吏之治，皆不本礼让，而上克暴，或忮害好陷人于罪，贪财而慕势，故犯法者众，奸邪不止，虽严刑峻法，犹不为变。此非其天性，有由然也。
臣窃考《国风》之诗，《周南》、《召南》被贤圣之化深，故笃于行而廉于色。郑伯好勇，而国人暴虎；秦穆贵信，而士多从死；陈夫人好巫，而民淫祀；晋侯好俭，而民畜聚；太王躬仁，邠国贵恕。由此观之，治天下者审所上而已。今之伪薄忮害，不让极矣。臣闻教化之流，非家至而人说之也。贤者在位，能者布职，朝廷崇礼，百僚敬让，道德之行，由内及外，自近者始，然后民知所法，迁善日进而不自知。是以百姓安，阴阳和，神灵应，而嘉祥见。《诗》曰：“商邑翼翼，四方之极；寿考且宁，以保我后生”此成汤所以建至治，保子孙，化异俗而怀鬼方也。今长安天子之都，亲承圣化，然其习俗无以异于远方，郡国来者无所法则，或见侈靡而放效之。此教化之原本，风俗之枢机，宜先正者也。
臣闻天人之际，精祲有以相荡，善恶有以相推，事作乎下者象动乎上，阴阳之理各应其感，阴变则静者动，阳蔽则明者暗，水旱之灾随类而至。今关东连年饥馑，百姓乏困，或至相食，此皆生于赋敛多，民所共者大，而吏安集之不称之效也。陛下祗畏天戒，哀闵元元，大自减损，省甘泉、建章官卫，罢珠崖，偃武行文，将欲度唐、虞之隆，绝殷、周之衰也。诸见罢珠崖诏书者，莫不欣欣，人自以将见太平也。宜遂减官室之度，省靡丽之饰，考制度，修外内，近忠正，远巧佞，放郑、卫，进《雅》、《颂》，举异材，开直言，任温良之人，退刻薄之吏，显洁白之士，昭无欲之路，览《六艺》之意，察上世之务，明自然之道，博和睦之化，以崇至仁，匡失俗，易民视，令海内昭然咸见本朝之所贵，道德弘于京师，淑问扬乎疆外，然后大化可成，礼让可兴也。
上说其言，迁衡为光禄大夫、太子少傅。
时，上好儒术文辞，颇改宣帝之政，言事者多进见，人人自以为得上意。又傅昭仪及子定陶王爱幸，宠于皇后、太子。衡复上疏曰：