所谓“一人智短，众人智长”，但古人行军打仗，几乎全部依赖将军一人，最多辅以一两个军师。至于所谓的“庙算”，其实多数也是几个人商量怎么打，无法形成集体的智慧，很容易出现重大错误。
直到总参谋部的出现，才让战争越来越精细化，越来越专业化，尽量避免了最大的灾难。然而，关于总参谋部究竟是谁最先创建，却有很大的争议，主要有三个答案：德国人、蒙古人、中国人。
1640年，普鲁士国王组建部队时，仿照当时欧洲强国瑞典的*队军**，组建了一个军需总监部。后人分析认为，这就是最初的总参谋部。但这里涉及了普鲁士学习瑞典，所以有人认为瑞典是参谋部的鼻祖。
按照文献记载，当时的“军需总监部”，主要担负工兵勤务、选择行军道路和宿营地、构筑阵地等工作，后来逐渐发展出现代总参谋部的职能。
1817年，距今200多年前，普鲁士正式使用了“总参谋部”这一称谓，尽管当时这一部门的职能，远远不如今天的总参谋部。到毛奇（小毛奇的叔叔）执掌总参谋部时，将普鲁士总参谋部推向其全盛，成为当时欧洲乃至世界争相效仿的模板，深度影响了各国军事史。
欧洲军事史上，普遍认为德国人是总参谋部的最早创建者。然而，日本一些军事学家翻阅了史书，却指出了蒙古人成吉思汗，创建了世界上最早的总参谋部。日本著名的军事家饭村穰认为，“这个参谋部比拿破仑的参谋部还要早六百年”。
还有一种观点认为，法国人是总参谋部的创建者，这个暂且不谈，成吉思汗如何创造总参的呢？据说，成吉思汗非常重视谋略上战胜敌人，所以战前都要收集大量情报，比如：组建千员中军和扯儿必。有学者认为，这就是最早总参谋部的雏形。
1206年，铁木真称大汗之后，对忽必来下旨：“几军旅之事，汝其总领之”，于是忽必来就成了第一任总参谋长。忽必来和忽必烈没有关系，前者是蒙古帝国名将。
对于国外学者的观点，不少中国学者却难以认同，原因很简单，姜子牙兵书《六韬·龙韬·王翼》一文中，写的非常清楚，虽然没有“总参谋部”这四个字，但却真真切切的论述了统帅部的构成，其人员构成、制度、工作安排等和总参谋部极为相似。
当时，周武王问姜子牙，“王者帅师，必有股肱羽翼，以成威神，为之奈何”。周武王用的是“必有股肱羽翼”，其实说明当时君王都接受了统帅*队军**要有“股肱羽翼”，那么股肱羽翼是什么呢？
对此，姜子牙举例说明：股肱羽翼应有七十二人组成，包括腹心、谋士、天文、地利、兵法、通粮、奋威、伏旗鼓、股肢、通才、权士、耳目、爪牙、羽翼、游士、术士、方士、法算等各方面人才，分管作战、宣传、间谍、天文、通信、工程、医务、军需等方面的工作。
《六韬·龙韬·王翼》一文中还有一段话，主要是“因能受职，各取所长，随时变化，以为纲纪”，就是对这72人，要根据能力授予工作，且各取所长，以能够随时应变。至于为何是72人，姜子牙的观点是“以应天道”，这有些迷信不谈，但姜子牙和周武王对话中的“股肱羽翼”，明显就是现代总参谋部。
当然，有人认为《六韬》不是姜子牙的作品，但通过银雀山汉墓出土的汉简，证明至少战国就有这一本书了，而且应该是出自齐国。众所周知，姜子牙被分封于齐国，所以可能是齐国秘藏的姜子牙文书，后人加以整理而出（也可能添加了一些内容）。
由于书中很多是以对话形成存在，因此关于“股肱羽翼”的话题，很可能就是周武王和姜子牙真实讨论过。如果这一段表述真实存在过，那么中国总参谋部在公元前1000年，就已经出现了，原因很简单，周武王说“王者帅师，必有股肱羽翼”，说明了这一点。