河北、山东是筹备东征的基地,兵役、力役最为严重。大业七年,这一地区遭到特大水灾,次年又发生旱灾,人民走投无路,起义的战鼓首先就在这里敲响。最早见于记载的是大业七年邹平县民王薄于长白山(在今山东邹平南)起义,自称“知世郎”,作《毋向辽东浪死歌》号召反抗。这一年还有刘霸道起义于平原东豆子航(今山东商河、惠民间),孙安祖、窦建德起义于高鸡泊(今河北故城西),鄃县(今山东夏津)人张金称、蓓县(今河北景县)人高士达各在境内起义。后来发展壮大的翟让领导的瓦岗(在今河南滑县南)军和以后南渡长江由杜伏威、辅公祏领导的起义军,也都在这一二年间组织起来。从此直到隋亡,见于史籍的武装反隋力量北至今山西、河北北部,南达岭南,东至山东、江浙、福建沿海,西达河西走廊,大大小小数以百计,其中在今河北、山东、河南的约占半数,起义时间也较早。这些起义队伍经过激烈的搏斗,分并离合,最后大致形成三大起义力量:一是威震全国、据有河南的李密领导的瓦岗军二是雄踞河北的窦建德领导的夏军三是自淮南转移到江南由杜伏威领导的吴军。