本名字，叫小山一平，据他父亲说，他们祖籍应该是福建某地。
但是自从台湾被日本人强行占领之后，他们这一代人，被迫要接受日式教育，不但要学习日语，还要起日本名字，包括礼节也要学习日本人的礼节，他们这一代人日化十分严重。
几乎有不少这一代的台湾人，已经开始自认为他们也是日本人了，一心效忠日本天皇，当日军开始在台湾征兵的时候，居然有不少台湾人踊跃报名参加日军，当然也有一部分人并不愿意参军，帮日本人打仗。
而吕小山自述，他其实是属于被强征的，因为他的父母并不认同日本人对台湾的统治，从小偷偷的教吕小山汉语，并且在吕小山长大之后，告诉他说不许他忘了自己是国人，他们的根还在国，让他或者他的后代，一定找机会回到大陆，去找到他们祖所居住过的地方，去认祖归宗。
后来日军在台湾征兵，吕小山并不愿意报名参军，但是因为他家境贫寒，最后却被当地的警察强行报名，把他征入了军，后来先是将他们送往菲律宾，接着又随军被送到新加坡。