1968年（昭和43年）10月5日に正式結成。
三島由紀夫持論による左翼革命勢力による日本への間接侵略に対抗することを標榜、民族派の学生を中心とし最盛期には100名を超える隊員を擁していた。
隊員には独自の制服、制帽、軍靴、特殊警棒、会員手帳が支給され、またそれらの支給品の費用や、月一回の定例会合の会場費や講義費、交通費、食事代等、全て三島の自費により賄われていた。自衛隊の体験入隊や空手・剣道・居合の稽古等厳しい訓練を行っていたという。
1970年（昭和45年）11月25日に隊長の三島と四人の会員（森田必勝、小賀正義、小川正洋、古賀浩靖）が、陸上自衛隊東部方面総監部襲撃事件（いわゆる三島事件）を起こし、三島と森田が割腹自殺を遂げ、他の三名は逮捕された。
翌年の1971年（昭和46年）2月28日に解散した。解散後連絡機関として「三島森田事務所」が設立され、また一部会員が「蛟龍会」を1980年に設立している。
この事件に衝撃を受けた新右翼の学生によって1972年一水会が設立された。
この事件は1945年に発生した「松江騒擾事件」、1961年に発生した「三無事件」と並ぶ戦後クーデター未遂事件であり、戦前のクーデターで犠牲者を出した警察が自衛隊に対し強い警戒を抱く一因となった。その為、公安警察には「自衛隊監視班」が存在している。
1977年の経団連襲撃事件においても元会員2名が参加している。
なお、手塚治虫「やけっぱちのマリア」に楯の会をもじったタテヨコの会が登場している。
