古代

1969年春，在山东省济南市北郊无影山的南坡，整理和发掘了14座汉墓。在出土的文物中，发现了一盘西汉时期的乐舞杂技陶俑。这盘群俑中就有四个在做体操的表演，其中两个对称做倒立，两个在做躬弯。而且东汉时期，华佗经过动物启发而研制“五禽戏”，虽然针对强身健康的目的而设计，但其优美的动作已经可以看出体操的端倪。

唐宋以后，体操运动有了进一步发展，出现了双人和集体动作，许多复杂的翻腾动作和杂技表演结合在一起。

至于器械体操，远在东汉时期，我国民间就有“杠力功”，很类似现代的器械体操。现代体操起源于18、19世纪。当时欧洲先后出现德国、瑞典、丹麦等体操流派，它们不仅推动了体操运动的进一步发展，也为现代体操的形成奠定了基础。

现代

1952年赫尔辛基奥运会把体操列为正式比赛项目。

现代体操运动传入中国是在1840年以后，当时体操运动十分落后，没有群众性的体操活动。晚清末年，在“洋学堂”中，在维新派改革发展的学校中，和民革时期资产阶级改革的教育课程标准中设立有体操课，作为教育中全面发展或人权，和国家救亡发展的迫切要求，可以说是21世纪体育课的前身。但是，几十年间只在1924年第三届全运会上才举行过一次项目不全的全国性的体操表演。体操成为专门的体育比赛活动，特别是成为竞技性体操，经历了一段发展与完善的过程。以奥运会体操比赛记载为例，1896年第1届雅典奥运会，设立了鞍马、吊环、跳马、双杠和单杠项目，还有爬绳。但没有自由体操项目，也只有男子体操比赛。

在以后的奥运会上，体操比赛先后增设了火棒操（后改为轻器械体操）、瑞典式体操、欧洲式体操等体操比赛。1932年洛杉矶第10届奥运会上，增设了自由体操，使竞技体操初具规模。1936年的柏林第11届奥运会上，体操比赛才真正形成男子6项比赛；轻器械体操、瑞典式、欧洲式等体操比赛则从男子体操比赛中取消。这次奥运会还开设了女子体操比赛项目，但女子比赛项目的完善与定型是在1960年的第17届罗马奥运会才完成的。

1953年11月中旬，我国首次成立了国家体操集训队。当时，中央体委成立了竞技指导科，其中一个项目就是体操。从第一次全国体操比赛中选拔出优秀男、女体操运动员共21名，到天津市重庆道100号集训，这就是国家体操集训队的前身。

1974年1月1日中国发行了《体操运动》特种邮票一套，分别是：

《体操运动》特种邮票

（1）8分 自由体操 1000万枚

（2）8分 吊环 1000万枚

（3）8分 平衡木 1000万枚

（4）8分 双杠 1000万枚

（5）8分 高低杠 1000万枚

（6）8分 鞍马 1000万枚 

1984年，第23届洛杉矶奥运会，艺术体操被列为正式比赛项目。2000年，第27届悉尼奥运会，蹦床被列为正式比赛项目。