he had to pay other five pounds out of his pocket为什么要把other换 another

因为other 的意思是别的，另外的，用other句子的意思改变
而another则是另一个，有第二次的意思.
可以说another five pounds
也可以说five more pounds
但就是没有other five pounds的说法

another指另一个

因为 将five pounds 看作一个整体，与之前所花费的钱（作为另一部分）相对应。正好是两个部分。

another 其他的
the other 是指两者中的其中一个

因为 "another + 数词'= "数词 + more",表示“再……,又……”,如：
another two cakes = two more cakes 再两个蛋糕
another four books = four more books 再四本书
这里的another不能改成other,退一步讲,other跟数词搭配的顺序也应该是“数词+other”,而不能“other+数词”,如：five other people其他5个人

another表示另外的，又一次的。该局子的意思是，前面他已经支付过一些钱了，现在又要再支付5英镑。