建国前，中国人民解放军曾两次拟议实行军衔制度，一次是抗战初期的第二次国共合作时期，一次是抗战胜利后国共两党重庆谈判之后。两次拟订的军衔等级都与当时国民党军队的军衔制度相同，但由于受当时环境的制约，两次拟订的军衔制度都未能实行。
建国后，为加强军队的正规化、现代化建设，实行军衔制的问题很快被重新提上议事日程。１９５０年９月总干部部管理部成立时，就设置了“军衔奖励处”。１９５２年冬便着手研究军衔制的问题。１９５２年１１月２６日，总干部部在向主席并军委的报告中，对实行军衔制度准备工作等问题拟制了初步计划。１９５５年中国人民解放军正式实行军衔制度。
１９５５年１月２３日，中央军委发布“关于评定军衔工作的指示”。１９５５年２月８日，第一届全国人大常委会第六次会议通过《中国人民解放军军官服役条例》，规定了解放军采用国际通用的军衔体制。这次军衔等级设置是在中国传统军衔等级体系的基础上，参照了苏联、朝鲜等国的军衔制而设定的。
军官军衔设４等１４级，即中华人民共和国大元帅、中华人民共和国元帅（大元帅实际未授予）；大将、上将、中将、少将；大校、上校、中校、少校；大尉、上尉、中尉、少尉。
１９６５年５月２２日，第三届全国人大常委会第九次会议通过了《关于取消中国人民解放军军衔制的决定》，１９６５年６月１日开始实施。
１９８０年３月１２日，中央军委主席提出，要搞军衔制。１９８４年５月３１日第六届全国人民代表大会第二次会议通过的《中华人民共和国兵役法》规定：“中国人民解放军实行军衔制度”。１９８５年６月，中央军委召开扩大会议，果断地提出割断１９６５年以前的军衔体制，“实行新的军衔制”。１９８８年４月１３日，《中国人民解放军军官军衔条例（草案）》提交七届全国人大常委会一次会议审议，１９８８年７月１日，七届全国人大常委会第二次会议通过了《中国人民解放军军官军衔条例》，予以公布施行。士兵军衔制度同时立法。
新公布的军衔制度不设元帅、大将和大尉，而以一级上将为最高军衔。军官军衔设３等１１级，将官：一级上将、上将、中将、少将；校官：大校、上校、中校、少校；尉官：上尉、中尉、少尉。海军、空军军官在军衔前分别冠以“海军”、“空军”。专业技术军官，在军衔前冠以“专业技术”。
士兵军衔按等级分为：士官：军士长、专业军士；军士：上士、中士、下士；兵：上等兵、列兵。
１９９４年５月１２日，第八届全
国人大常委会第七次会议通过了关于修改《中国人民解放军军官军衔条例》的决定。修改后的军衔条例设３等１０级，将官：上将、中将、少将；校官：大校、上校、中校、少校；尉官：上尉、中尉、少尉。
陆军军衔——将官校官尉官文职干部学员士兵
海军军衔——将官校官尉官文职干部学员士兵
空军军衔——将官校官尉官文职干部学员士兵
１９９５年９月１０日，八届全国人大常委会通过《中华人民共和国预备役军官法》规定，预备役军官军衔设三等八级：少将；大校、上校、中校、少校；上尉、中尉、少尉。
１９９８年１２月公布的《中华人民共和国兵役法》规定，义务兵服役时间为２年，并且不再超期服役。根据兵役法，自１９９９年后，士兵军衔等级和专业军士、军士长的称谓自行取消。
新中国授衔情况
１９５５年９月２７日，第一届全国人大常委会第二十二次会议通过了授予中华人民共和国元帅军衔的决议。主席向朱德、彭德怀、林彪、、贺龙、陈毅、、徐向前、、叶剑英１０人授予中华人民共和国元帅军衔。国务院总理周恩来发布命令，授予粟裕、徐海东、黄克诚、陈赓、谭政、肖劲光、张云逸、罗瑞卿、王树声、许光达１０人中国人民解放军大将军衔，授予５５人上将军衔，授予１７５人中将军衔，授予８０１人少将军衔。１９５６年、１９５８年又分别授予王建安、李聚奎上将军衔。１９５６年至１９６５年，共授予将官以上军衔１６１４人。
１９６５年军衔制度被取消。
１９８８年恢复军衔制后，中央军委先后于１９９３年６月７日、１９９４年６月８日、１９９６年１月２３日、１９９８年３月２７日、１９９９年９月２９日、２０００年６月２１日、２００２年６月２日、２００４年６月２０日举行仪式，授予高级军官警官上将军衔。
１９９６年４月至年底，中央军委授予数万名预备役军官军衔。这是首批预备役军官被授予军衔。
至２００４年９月２５日，人民解放军自１９８８年恢复军衔制以来，中央军委共授予９８名高级军官警官上将军衔。
至２００４年９月２５日，１９５５年我国首次实行军衔制和１９８８年人民解放军恢复军衔制以来，我军已有１５４位高级军官警官被授予上将军衔。
军衔等级和肩章标志的对应关系
尉官（一杠）
一杠一星：少尉
一杠二星：中尉
一杠三星：上尉
?校官（两杠）
两杠一星是：少校
两杠二星是：中校
两杠三星是：上校
两杠四星是：大校
?将军
没有用杠，而是用金的松叶
，直接加上金星。
一颗金星：少将
二颗金星：中将
三颗金星：上将
一、士兵军衔肩章版面底：陆军为棕绿，海军为黑，空军为天蓝。
士兵有两级，列兵（现役第一年的义务兵）和上等兵（现役第二年的义务兵）。
二、士官分为一级士官、二级士官、三级士官、四级士官、五级士官、六级士官。其中一级、二级士官为初级士官，三级、四级士官为中级士官，五级、六级士官为高级士官。士官军衔在肩章版面上缀以象征符号和折杠。象征符号、折杠的繁简分别表示士官军衔高、中、初三等和级别。三道粗折杠为六级士官军衔；两道粗折杠加一道细折杠为五级士官军衔；两道粗折杠为四级士官军衔；一道粗折杠加一道细折杠为三级士官军衔；一道粗折杠为二级士官军衔；一道细折杠为一级士官军衔。士官军衔肩章分硬肩章和套式软肩章。
三、兵的军衔在肩章版面上缀以折杠，无象征符号。两道折杠为上等兵军衔；一道折杠为列兵军衔。兵的军衔肩章为套式软肩章。
中国人民解放军的编制军衔，基本上实行一职编两衔的制度，1994年全国人大常委会通过修正的《军官军衔条例》规定：中央军事委员会副主席、中央军事委员会委员、总参谋长、总政治部主任的职务编制军衔为上将，其他各职级的编制军衔为：
正大军区职：上将、中将　；
副大军区职：中将、少将；
正军职，少将、中将　；
副军职：少将、大校；
正师职：大校、少将；
副师职(正旅职)；上校、大校；
正团职(副旅职)：上校、中校；
副团职：中校、少校；
正营职：少校、中校；
副营职：上尉、少校；
正连职：上尉、中尉；
副连职：中尉、少尉；
排职：少尉、中尉。
各国军衔 美军军衔
美军陆军军衔
将官：五星上将 上将 中将 少将 准将
校官：上校 中校 少校
尉官：上尉 中尉 下尉
准尉：一级准尉 二级准尉 三级准尉 四级准尉 五级准尉
军士长：一级军士长 二级军士长 三级军士长
士官： 上士 中士 下士
列兵：一等兵 二等兵 新兵
美军空军军衔
将官：五星上将 上将 中将 少将 准将
校官：上校 中校 少校
尉官：上尉 中尉 下尉
准尉：一级准尉 二级准尉 三级准尉 四级准尉 五级准尉
军士长：一级军士长 二级军士长 三级军士长
士官： 上士 中士 下士 两杠四星是什么军衔
军士：技术军士 参谋军士
士兵：一等兵 二等兵 新兵