上山下乡并非始自文化大革命，它从50年代便被倡导，至60年代而展开。对当时的知青来说，他们到农村去，是为了消灭“三大差别”（即工农差别、城乡差别、和体力与脑力劳动差别），带有积极的理想主义色彩。

上山下乡有两大模式：农场（包括兵团、干校）和插队。与农场模式不同：插队属于集体所有制，无需政审体检等手续，也没有严格的名额限制（赴边疆除外），顾名思义就是安插在农村生产队，和普通社员一样挣工分、分红分口粮。1968年以前的上山下乡以农场模式为主。

因文革造成了中学生滞留学校，到1968年中国出现了古今中外绝无仅有的六届初、高中学生（即“老三届”）一起毕业的奇景。这年的冬季起，插队模式就成为上山下乡的主要模式。

人数规模之大、涉及到家庭之多、动员力度之强、国内外影响之深，都是空前绝后的。“插队”从此成为一个特殊意义的词汇，提到“插队”就不用提“知青”，不用提“上山下乡”了。一代人到了国外也叫“洋插队”，而没有、也不会有“洋农场”、“洋兵团”、“洋干校”之类。

“上山下乡”的“知青”当中，大部份是到农村“插队落户”，但还有一部份虽然也是务农，过的却是“生产建设兵团”的准军事化生活，他们的状况与 “插队知青”有很大不同。

“上山下乡运动”前期，全国各地组建了许多“生产建设兵团”，有一大批“知青”到这些“生产建设兵团”参加“屯垦”。“生产建设兵团”虽有“屯垦”的功能，但却非正规军队，它同时兼具安排城市失业青年就业和备战的目的。

1968年底，中苏关系对立，毛泽东向全国发出了“全民皆兵”，“招之即来、来之能战、战之能胜”，“备战备荒为人民”，“深挖洞、广积粮”等一系列关于备战的指示。城市里开始修建防空洞，沿海地区不少军工企业纷纷西迁。正是在这样的背景下，各地组建了以“知青”为主要成员的大量“生产建设兵团”。

从1969年初到1970年，原有的“黑龙江生产建设兵团”大规模扩大建制，同时新成立了内蒙古、兰州、广州、江苏、安徽、福建、云南、浙江、山东、湖北共10个“生产建设兵团”以及西藏、江西、广西的3个农垦师，加上50年代组建的“新疆生产建设兵团”，全国共有12个“生产建设兵团”及3个农垦师。