1934年12月1日傍晚，列宁格勒州委机关所在地斯莫尔尼宫内的走廊里，时任联共（布）中央政治局委员、列宁格勒州委第一书记基洛夫走向办公室，他这个级别拥有23名警卫的配置，此时只有警卫鲍利索夫在20步以外跟随，此时隐藏在角落里的凶手尼古拉耶夫突然冲出朝基洛夫开枪。当内务部列宁格勒地方局局长梅德韦季闻讯赶来之际，竟被陌生的警卫挡在门外，直到医生确认基洛夫死亡后才被允许进入。48岁的基洛夫当场死亡，而凶手尼古拉耶夫被生擒。列宁格勒在前苏联的地位，就如同上海在中国的地位一般，再加上基洛夫是斯大林一手提拔起来的亲信，因此斯大林听到基洛夫的死讯后，格外重视案件审理，第二天就坐专列从莫斯科赶往列宁格勒，只为亲自审讯凶手尼古拉耶夫。
一度被认为苏联二把手的基洛夫
到了列宁格勒之后，斯大林马上下令召见证人——基洛夫的卫队长鲍利索夫。在刺杀发生后，鲍利索夫就被逮捕等待处理，但是，在鲍利索夫被送去见斯大林的路上，车辆却遭遇了车祸，蹊跷的是，只有鲍利索夫丧命，同车其他人均安然无恙。这件案子激怒了斯大林，他认为这背后一定大有文章。于是下令彻查此案，当时斯大林领导的专案组迅速得出结论，尼古拉耶夫是一个名为“列宁格勒总部”的地下恐怖组织成员，12月27日，法院对案件进行审判，宣布尼古拉耶夫接受该组织的科托雷诺夫指示杀害了基洛夫，尼古拉耶夫已承认从某外国领事那里得到了5000卢布，该领事是托洛茨基和阴谋者之间的联系人。
刺杀基洛夫的是苏共元老季诺维也夫亲自策划的，其目的就是为了夺取列宁格勒的控制权。因为季诺维也夫长期在列宁格勒工作，正是在基洛夫的领导下彻底肃清了季诺维也夫在列宁格勒地区的影响，所以季诺维也夫便怀恨在心，策划了这场刺杀。
12月29日，包括尼古拉耶夫在内的14名被告被全部处决。
随即，斯大林便以这次审讯结果为理由，发动了一次震惊世界的政治大清洗行动。事实证明，根本不存在所谓的反革命组织，斯大林此举不过是借机铲除反对自己的国内政治和军事势力，为自己彻底掌握权力扫清障碍。这场行动给苏联带来了巨大的人员损失，甚至连第一批五位元帅都难以置身事外。其中三人均死于非命。其中有“红色拿破仑”之称的图哈切夫斯基被德国人污蔑为企图推翻斯大林，经受严刑拷打，被迫承认莫须有的罪名，1937年被枪决处死。布柳赫尔曾以加伦为化名担任国民革命军军事总顾问，参加中国大革命和北伐，并在1938年的张鼓峰战役中率苏联红军击败日本远东军，但这也成为他职业生涯的最后辉煌。战役结束后，他受到斯大林的猜忌，很快就步老伙计图哈切夫斯基的后尘，被苏联内务部逮捕，并遭受严刑拷打，最终在1938年11月被秘密处决。
1939年2月23日，内务部工作人员来到亚历山大·伊里奇·叶戈罗夫元帅办公室里，这位功勋卓著的军队统帅是苏联首批五大元帅之一，在苏俄内战时同斯大林结下了深厚的革命友情。当叶戈罗夫被要求接受调查时，他表示拒绝，并从办公桌抽屉里拿出列宁赠予他的手枪拒捕，不幸中弹身亡。此事在苏联高层引起了极大的震动，斯大林听说后沉默不语，脸色阴沉。有不少学者认为，叶戈罗夫的死是一大历史转折。