It was no use pretending that I had not seen him,So I waved to him.这里的no可以换成not吗?为什么?这句话是虚拟语气吗?为什么主句不是I should have done?

不能换，这是一个句型it is no use doing sth,这句话不是虚拟语气，这句话意为假装我没看到他时没有用的，所以我给他打了招呼。这里的had not seen是对事实的否定，而前面it was 是过去式即“假装”是过去时，而“看到他”是在这假装之前的时间发生的即过去的过去，故用过去完成时。should have done 表示的是过去本应该做而未做的，对过去的虚拟。

这句话不是虚拟语气,因为没有作假设.这句话的意思是：假装没看到他也没用,所以就向他招手了.这只是对事实的一个陈述,没有表假设的东西.所以不是虚拟语气.
分清主句从句.这句话的主句是：It was no use.It 是形式上的主语,实际主语是后面的Pretending that I had not seen him.所以句子可以改写为：Pretending that I had not seen him was no use,so I waved to him.
原句子中因为是It was,是过去式,所以后面用完成时的时候,用过去完成时.
为什么主句不是I should have done?这个问题,不知道你为什么会这么问.I should have done 说的是我本应该干某事,意思是最后没干成.跟你给出的句子没什么联系.
即使用虚拟语气的时候,也应该是I would have done