室町時代初期に台山に木付氏が築いた平山城である。
当初は木付城と呼ばれた。
木付氏は大友氏に仕える一族で島津軍侵攻の際には籠城し、見事に島津軍を退けた。
だが、朝鮮出兵の際主君の大友氏が失態を理由に改易されると木付氏は自害した言う。
その後、杉原氏が城主となった際に地震で壊滅的な損傷を負った台山に替わり麓に新たに館を築いたとされる。
台山の損傷した天守部分は再度再建されたが、1608年に再び焼失し、台山の城郭は廃城となった。
この様子は「木付に城なし、町あり」とも記されている。
1712年に幕府への公文書に「木付」と書くべきところを誤って「杵築」と書いてしまったことをきっかけに幕府に許可を取って「杵築城」と改称した。
「日本一小さい城」とも言われている。