新撰組の中にあって、近藤勇・土方歳三派と伊東甲子太郎・山南敬助派に別れ、のちに幕府が新撰組を幕臣に取り立てようとしたので伊東甲子太郎達は勤皇派であった為、別の組織を作ろうとしました。

慶応2年12月25日（1867年1月30日）孝明天皇が崩御し、伊東は朝廷より尊皇大儀のために孝明天皇の御陵を警備するという名目で禁裏御陵衛士を拝命し、高台寺の塔頭月真院に最後の屯所を置いたため、後世、「高台寺党」とも呼ばれました。

しかし慶応3年11月18日（1867年12月13日）伊東は酩酊して帰営中、待ち伏せの新撰組隊士数名に襲われ七条油小路にて横死しました。享年32歳でした。

その後、伊東の死を聞いた御陵衛士は騒然となり、七条小路に彼の遺体を引き取りに来ますが、待ち伏せの新撰組数十名に包囲され、藤堂平助・服部三郎兵衛・毛内監物の3名が討死しました。