ずっと使わなかったら利息は付きますか？

いいえ。金融機関への預金とは異なり、支払われた納入金額に利息は発生致しません。