行政单位收取的工会费上缴上一级工会后，上一级工会会返还。

根据《中华人民共和国工会法》第三条：在中国境内的企业、事业单位、机关中以工资收入为主要生活来源的体力劳动者和脑力劳动者，不分民族、种族、性别、职业、宗教信仰、教育程度，都有依法参加和组织工会的权利。任何组织和个人不得阻挠和限制。

所以，即使行政单位未成立工会，也需要缴纳工会筹备金。而成立工会后，上缴的工会经费的50%会返还给基层工会。