安帝早知張衡“善術學”，就于永初五年（公元111年）以公車特請他到京都來，給以親近的郎中職位。這時（前一年）朝廷剛成立一個校訂典籍的組織，“詔謁者劉珍及《五經》博士，校定東觀《五經》、諸子、傳記、百家藝術，整齊脫誤，是正文字”。東觀在洛陽南宮，是皇家的藏書處。當時有名的學者如馬融、竇章等都在這里，為校書郎。張衡沒有在東觀校書，他由郎中遷為尚書郎，再遷為尚書侍郎。元初二年（公元115年）又遷為太史令，這年他三十八歲。這個職官主管天文、歷法等等，對他是合適的，他在這方面早有修養，新任職守又給他創造了進一步鉆研的條件。這樣，從理論到實踐，他就不斷地有所貢獻了。張衡第一次為太史令共六年。經過公車司馬令五年的轉折，從順帝永建元年（公元126年）再為太史令，又七年。前后十三年的專業職守，使他的科學事業日益巨大而顯著。順帝陽嘉元年（公元132年）即復為太史令的最后一年，他發明了“候風地動儀”，即地震儀。這是世界上地震儀的鼻祖。此事載之《后漢書?安帝紀》，可見當時受到的重視。

作為科學家和文學家的張衡，并不是不關心政治的。順帝時，尚書令黃瓊上疏言事，頗致力于腐朽內政的改革。張衡在這種朝氣復萌的形勢下，亦自陳其思想政治上的主張。自光武帝以來，圖讖成為統治者欺騙人民的工具。張衡憤其虛妄，首先上疏論其言而無征，實為少數妄人欺世愚民捏造出來的把戲。他以秦至西漢末的歷史事實，證明本無圖讖，則知圖讖成于哀平之際。后來有些人所言某些災異，亦無事實效驗。因此他主張“宜收藏圖讖，一禁絕之，則朱紫無所眩，典籍無瑕玷矣”。這些議論在當時是很大膽的，沒有多少人敢說，而且儒者們一直在“爭學圖讖”。這時朝政大權已由外戚轉移于宦官集團。張衡復上疏言事。但張衡作為太史令，不在公卿之位，他的幾篇奏章，雖都言之成理，一律是無效的。這樣，他對政事就愈來愈沒有興趣了。

順帝即位后，張衡再轉為太史令。這職務在他為專業對口，但也說明了他長久官升不上去，總不能沒有一點感慨。于是他仍用與客談話的形式，作《應間》賦，表達了他的仕途不得意的情緒。

陽嘉元年，張衡發明地震儀。次年，遷為侍中。他接近了皇帝，進言的機會多了。而宦官們則怕張衡告他們的狀，揭發他們的丑惡，常以兇惡的目光威脅他。因此當順帝問他事時，張衡就情不自禁地簡單說了兒句不明不白的事。但宦官們始終不放心張衡在順帝身邊，共同誣陷，一意要驅逐他離去。本來張衡就受老莊思想影響，以為人的吉兇禍福，幽微深藏于無形之中，說不定哪一天要得禍，因此又作了一篇《思玄賦》，開始說：

這是一首騷體賦，學屈原《離騷》，堅持自己的理想而不可得，則云游上下四方，以至于天上。

驅除幻想，一切還是照常，不求人知，自我努力而已。不出戶可以知天下，何必遠游自求勞苦。這是儒道思想的詩化，從苦悶中解脫出來，自得其樂。張衡另有《髑髏賦》，則是道家思想的游戲之作。

在為侍中的時候，張衡曾“上疏請得專事東觀，收檢遺文，畢力補綴。又條上司馬遷、班固所敘與典籍不合者十余事。又以為王莽本傳但應載篡事而已，至于編年月，紀災祥，宜為元后本紀。又更始居位，人無異望，光武初為其將，然后即真，宜以更始之號建于光武之初。”他幾次上書，俱被排斥，不為順帝所接受，他覺得事已一無可為了。于是張衡于順帝永和元年《公元136年）被調為河間（河北獻縣）相。在這里，他努力作一些切實的事，如打擊豪強，整齊法度，使地方安定，上下肅然，政事耳目一新，一切有條規地得到治理。但張衡心中始終去不掉愁思，安靜不下來，不得不寄情于詩，而有《四愁詩》之作。

這是從騷體賦變化來的詩篇，而有歌謠色彩。全詩四章，章七句。所思東南西北四地為理想所在，美人則是理想的化身。最高理想在太山、桂林二地，它們是古代圣王封禪、巡狩的地方，屬于立德事業；其次是雁門、漢陽二地，它們是西北邊疆要地，屬于立功事業。由此可見他的理想與現實處境的矛盾是很大的，所有理想都為現實困難所阻撓而莫能如愿，與美人贈答之事都是幻夢，只有愁思悵望，涕淚?襟。張衡為人正直，傅學多能，而始終為下級官吏。他雖有許多貢獻，但不能行其志，愁苦不得解決，遂有“懷土”之思，作歸居田園以善終其身的打算，因作《歸田賦》以見志：

以老莊思想和儒家經典為精神支柱，以田園游樂為生活旨趣，這樣張衡便拋棄了人世間的榮辱，而放蕩于復雜矛盾的世界之外。然而這只能是最后的一個幻想。在河間三年，張衡上書求退，順帝徵為尚書。他沒有歸田。永和四年（公元139年）卒，年六十四。

張衡是中國歷史上一個偉大的科學家和文學家。他的文學創作反映了他在仕途生活中遭受的曲折和坎坷，他在辭賦、詩歌和散文等方面都有優秀的業績，表現了獨創性。辭賦是漢代文學的主要形式之一，張衡所作各體，大賦、騷體賦、詠物小賦、抒情小賦，表現了不同程度的繼承和發展，后者則是他的創新和開拓，對后世有影響。詩作不多，對五言詩的成長有貢獻。散文則以上書言事的政論為主，而上書駁斥圖讖的虛妄，則比“疾虛妄”的王充還徹底些。