在经过了精心的策划跟长期准备之后，纳粹德国在1941年6月22日3时许，出动约2000架飞机，突然袭击苏联西部66个机场，以及其他军事基地、交通枢纽和重要城市，并以数千门火炮猛烈轰击苏联西部边境地区，揭开了“巴巴罗萨”行动的序幕。
4时30分，德军北方、中央和南方3个集团军群共152个师和3个旅以装甲摩托化部队为先导，在空降部队的配合下，从波罗的海——喀尔巴阡山一线约1500公里宽的正面上，分北、中、南3路朝苏联发动全线进攻。
而在德军发动进攻时，苏军各边防师远离防御阵地，尚在执行和平时期的日常任务，部队没有按兵力展开计划占领防御地区。因此，德军的进攻达成了突然性。德军利用空袭和空降部队破坏了苏军的通讯系统，苏军最高统帅机构难以获得有关前线准确、及时的情报，接连发出的第2和第3号命令不仅未能缓解局势，相反加剧了前线的混乱苏军在德军优势兵力的突击下被迫退却，损失惨重。
战争的第一天，苏军便损失飞机1200架，其中800余架被击毁在机场上，德国空军成功地夺得了制空权。德军装甲部队和摩托化步兵也迅速突破苏军防线，向前推进了50至60公里，边境地区的军用仓库、储备的武器装备和军需物资几乎全部落到德军的手里。
德军分三路进攻，北翼由北方集团军群自东普鲁士的哥尼斯堡以东地域向陶格夫匹尔斯、普斯科夫、列宁格勒总方向实施进攻，目的是消灭波罗的海沿岸地区的苏军集团，占领那里的港口跟海军基地，攻取列宁格勒，和芬军会师。在波罗的海沿岸组织防御的是苏军波罗的海沿岸特别军区（苏德战争爆发的当天改编为西北方面军），辖第8第11和第27集团军，共44万人。德军顺利突破苏军防御，至6月22日黄昏，第4装甲集群的先遣部队已前出到杜比萨河一线。截至7月10日，苏军丧失了立陶宛、拉脱维亚和俄罗斯联邦的部分领土。德军向前推进400至450公里进逼苏联的西北重镇列宁格勒。
德军在中路的进攻则是由中央集团军群负责，其任务是由东普鲁士的苏瓦乌基地域和波兰的华沙地域向比亚韦斯托克突出部、明斯克方向实施钳形突击，围歼苏军的西方面军主力，接着向斯摩棱斯克方向发展进攻。
苏军西方面军由德·格·巴甫洛夫大将指挥，辖第3、第10、第4和第13集团军，共62.5万人。第3、第10和第4集团军部署在边境地区的比亚韦斯托克突出部及其以南地域，缺乏足够的防御纵深，易受德军合围；第13集团军为预备队，部署在明斯克地域。直接在国境线上的部队主要担负构筑工事的任务，其余部队尚在野营或驻地进行训练。
6月22日晨，德军中央集团军群以约40个师的兵力向苏军发起猛攻。北路德军第3装甲集群同北方集团军群的第4装甲集群从东普鲁士攻入立陶宛，渡过涅曼河，对苏军西方面军右翼第3集团军构成包围之势。根据总军事委员会的第3号命令，该方面军于次日以第10集团军的机械化第6军、骑兵第6军和第3集团军的机械化第11军，对德军苏瓦乌基集团进行反突击。由于所调兵团散处各地，准备时间仓促，又缺乏必要的通信器材，未能对德军形成集中突击。苏军反突击部队损失严重，燃料、弹药消耗殆尽，被迫放弃格罗德诺，撤往新格鲁多克，从而在西北方面军和西方面军之间出现一个大缺口。
在此后的战斗中，德军有组织地步步紧逼，苏军虽投入了多个战略预备队，但未完成战略预备队的集中、展开和建立稳固的防线。到7月10日，德军几乎占领了白俄罗斯的全部领土，在西方向推进了450至600公里，斯摩棱斯克面临被德军突入的危险。
再说德军在南翼的进攻，这路进攻由龙德施泰特元帅指挥，其任务是：左路第1装甲集群和第6、第17集团军从波兰的卢布林地域向基辅方向和第聂伯河下游实施突击，通过迂回包围阻止苏军退过第聂伯河；右路第11集团军在罗马尼亚第3和第4集团军协同下，稍后从罗马尼亚向第聂伯河下游发起进攻。
斯大林认为德军的主攻方向将是乌克兰，以夺取乌克兰的粮食、顿涅茨的煤和高加索的石油。因此，苏军在率部部署了西南方面军以及南方面军2个方面军。西南方面军由米·彼·基尔波诺斯上将指挥，编成内有第5、第6、第26、第12集团军，依次由北向南配置，在普里皮亚季沼泽地至苏罗边界北缘一线组织防御。在罗马尼亚方面是伊·弗·秋列涅夫大将指挥的南方面军，由第18、第9集团军编成，两个方面军共约86.5万人。
7月1日，右路德军第11集团军和罗马尼亚部队开始强渡普鲁特河，向德涅斯特河推进。德军虽遭到苏军预有准备的抵抗，仍于7月3日突至莫吉廖夫一波多利斯基。德军左路于7月4日占领奥斯特罗格，逼近苏军旧边界筑垒地域防线。至此，德军在南翼推进了300至350公里。
苏德战争爆发后的最初几天，从巴伦支海到芬兰湾没有发生激烈战斗。自6月底，德军挪威集团军和芬兰卡累利阿、东南集团军共21个师和3个旅，对苏军第14集团军和第7集团军右翼发起攻击。因为苏军预先有准备，最终挡住了德、芬军的进攻，打破了德军统帅部迅速占领摩尔曼斯克和破坏摩尔曼斯克铁路的计划。到7月中旬，德、芬军在向前推进25~30公里后被迫停止进攻。
从6月22日至7月9日，苏军在战争初期严重失利，损失巨大，近30个师不复存在，约70个师的人员、装备损失50%以上，3500架飞机，一半以上的燃料、弹药仓库被毁。苏军从西部边境向东和东北方向退却300至600公里。
德军占领了拉脱维亚、立陶宛全境、白俄罗斯大部、乌克兰和摩尔达维亚（今摩尔多瓦）的部分领土，并进入俄罗斯联邦西部，进抵列宁格勒远接近地，威胁到斯摩棱斯克和基辅。德军也遭到自开战以来的最大打击，损失约15万人，950多架飞机，几百辆坦克，其进攻力量受到削弱，没有达到希特勒提出的消灭苏军主力的目标。