教导总队，全称是中央陆军军官学校教导总队，顾名思义就是隶属于中央军官学校的教导部队，在国军中属于示范部队性质。中央军官学校前身就是名闻遐迩的黄埔军校，教导总队最早的前身可以追溯到曾在大革命时期东征和北伐中赫赫有名的黄埔学生军，黄埔军校是蒋介石走上事业顶峰的开始，所以蒋介石对黄埔军校历来是青睐有加，最先进的装备、最先进的战术训练、最先进的部队编制往往都是先由中央军校来进行实验，而中央军校也一直秉承建校以来的传统，维持着一支具有相当战斗力的团级步兵教导部队与若干连营级特种兵教导部队。

1930年5月，中央军校正式组建了一支编制为两个旅六个团的教导第2师，这是早期中央军校教导部队的鼎盛时期。这个教导第2师几乎将中央军校的所有新锐武器都收入帐下，其所属特种兵包括两个炮兵团，也就是中央军校的两个教导炮兵团，再加上骑兵连、工兵连、辎重连、学兵营与战车队，可以称得上是虎贲满堂，在整个中央军之中，教导第2师的战斗力仅次于冯轶裴的教导第1师，而日后在抗战战场上威名远扬的第4师就是在教导第2师的基础上组建的。

1931年1月在德国军事顾问的计划下，中央军校正式开始编组教导总队，最初编制为两个步兵营以及炮兵连、工兵连、骑兵连、迫击炮连、特务连和通信连。官兵主要从原教导第2师炮兵团、特务营、工兵连、骑兵连和军校警卫部队中抽调的精兵强将。这个团级教导部队主要进行德式步兵团的编制试验以及德式新武器的应用研究，是为了全面开展德式师建设而先行一步的试验性部队。总队长唐光霁少将，出身于西北军，毕业于著名的保定军校，之所以选择唐光霁，完全是因为他科班毕业，尤擅部队训练，而且北伐之后一直在中央军校任职。副总队长朱宗海，曾任教导第2师参谋处处长，原是中央军校的炮兵教官，他负责主持总队的参谋业务。所属两个步兵营主要用于编制试验，炮兵连装备德式75毫米卜福斯山炮，主要摸索德式装备的具体应用，工兵连配备了德式新型工兵器械，骑兵连则鸟枪换炮，改装摩托车。

1932年3月朱宗海升任总队长，1932年9月保定军校6期毕业的高级教官章履和接任总队长。在此期间教导总队都只是纯示范性的实验部队。直到1933年6月桂永清出任总队长，情况才得以彻底改观。教导总队成为一支野战部队，副总队长周振强和张坤生，都是黄埔军校第1期，与桂永清是同学。总队司令部下设参谋处（主任温祖诠），副官处（主任张炳东），经理处（主任王汉英）。部队扩编为第1团，下辖步兵三个营，团直属炮兵连和通信连，团长由周振强兼任。总队直辖军士营、特务连、骑兵连、工兵连、通信军士连、军官教育队、卫生队、军乐排和汽车队。总队扩编后调防南京孝陵卫（现南京理工大学所在地），位于钟山南麓，国民政府强令搬迁了六个自然村，圈出一大片土地建成教导总队的大本营。1935年1月25日，中央陆军军官学校教导总队举行授旗典礼，蒋介石亲自到场，并对全体官兵发表讲话。标志着中央军校教导总队成为正式的战斗部队。

1936年教导总队再次扩编，成为三团制的师级部队，并增设参谋长一职，由符昭鶱担任。下辖第1团（周振强）、第2团（胡启儒）、第3团（张坤生），总队直属军士营、炮兵营、骑兵营、工兵连、通讯连、特务连、高炮连、自动车队、卫生队、军官教育总队、军乐排、修械所，并被列为1935年第一期整训部队。

1937年9月，教导总队一部参加淞沪会战。同年11月奉军政部命令扩为三个旅六个团制的甲种师。所属六个团中，三个团（第1、3、5团）已完全实现德式装备与编制。南京保卫战中教导总队损失惨重，余部退到汉口后进行整编，与戴嗣夏第46师合编重建为三个旅六个团制的第46师。