参照国民党军队军衔等级的规定，1939年4月2日，八路军总司令朱德和副总司令彭德怀联名给毛泽东和中央书记处发电，正式提出了在我军实行军衔制的建议，毛泽东收电后同意在八路军新四军中实行军衔制。
此后，八路军总部颁布了“八路军编制表”，明确规定了各级职务的基准军衔，分为6等16级：6等即将、校、尉、准尉、士、兵；16级即将分为上将、中将、少将3级，校分为上校、中校、少校3级，尉分为上尉、中尉、少尉3级，准尉1级，士分为上士、中士、下士3级，兵分为上等兵、一等兵、新兵3级。八路军的军衔。这个基准军衔，基本是比照国民党军衔等级制定的。
根据评定军衔训令和编制表的规定，八路军领导机关和八路军、新四军一部分正规部队开始进行了评定军衔的工作，包括当时的东北联军也为评定军衔做了大量的准备工作。我军在这一时期接受军衔的部分军官，大都是需要经常与国民党军打交道的，或搞统战工作的人。而大多数单位因斗争环境的限制没有展开评定军衔工作。所以从总体上说，这次授衔工作并没有真正实施。
我军第一次授衔工作之所以没有真正实施，主要是抗日战争进入了相当艰难的阶段，实行军衔制的客观条件尚不成熟。当时，由于蒋介石的“假抗日，真反共”政策，从1939年12月至1941年3月的一年多的时间内，国民党动用大量的武装接连向中国共产党的抗日根据地发动了两次进攻，他们企图利用与日本人配合的方式消灭共产党的力量。因此，抗日根据地出现了极端困难的状况，在这种条件下，显然实施军衔制是不可能的了。
1942年4月24日，党中央作出了“军队中，暂不规定等级军衔”的决定。至此，从1939年4月2日起至1942年4月24日止，我军的第一次授衔工作在经历了三年时间的尝试之后宣告停止。
抗日战争胜利后，我军为军事斗争工作的需要，曾进行过临时性的授衔。当时，随着抗日战争宣告结束，由抗战带来的一些工作也等待着处理。1945年9月，驻扎在我国东北的苏联远东红军向我军提出，要求我军派出负责人到沈阳去与之配合行动。当时苏联红军是实行军衔制的，而我军没有实行军衔制。为了工作方便，毛泽东主持专门召开中央工作会议，决定派彭真、陈云、叶季壮、伍修权、段子俊、莫春和6个人前去，并临时决定，给这6位人员授以军衔，授予彭真、陈云、叶季壮为中将军衔；授予伍修权为少将军衔；授予段子俊、莫春和为少校军衔。并且，他们的军衔任命书用中俄两种文字书写。无疑，这只是一次临时性的授衔，而不是正规的制度化的授衔。
