atとinの違いがよく判りません

at the parkは地図上の一点「ここ、公園」という場所

in the parkは公園という空間の中

なんとなくわかるのですが、市町村や国にはinしかつかわないのは大きすぎて「ここ」と指すことが無意味だからでしょうか？

お願いします。