到了1934～1935年冬，德意志似乎已经完全陷入了外交孤立。
在这一片阴霾之中，唯一的曙光是1935年1月13日莱茵兰西边的萨尔兰这一小片地区内的公投结果。1919年议和时，法兰西当局希望该地区脱离德意志，他们觉得只要时间充足，就可以做到这一点；他们将萨尔兰交由国联托管，并承诺于十五年后在该地区举行一次公投，由当地居民决定自己的国家归属。1934年末，十五年的期限到了。
萨尔兰居民主要说德语，从一开始他们就没想过要脱离德意志：44.5万萨尔兰人希望成为第三帝国的公民，约占投票人数的91%。他们这样选择的动机很多。作为说德语的少数群体生活在法兰西可不是一个有吸引力的选择：在阿尔萨斯—洛林，法兰西当局花了大量功夫打压德语以及当地居民的文化，那些忠于自身传统的人受到了严重歧视。而在萨尔兰，法兰西统治者也没有采取怀柔政策，而是继续维持高压统治。当地人没把法兰西当局看成民主主义者，在他们眼里法兰西人是清一色的帝国主义者。而在德意志，当时呐粹政权和天主教会的关系还没有恶化到让代表绝大多数萨尔兰居民的教会觉得必须建议他们选择维持现状，更不用说亲近德共逐渐壮大的法兰西当局。为了鼓励神父建议信徒为德意志投票，呐粹当局在投票开始之前减少了反天主教的宣传。而教士投桃报李，献上了自己的支持。
另外，根据第三帝国和梵蒂冈达成的协议，第三帝国中央党在1933年宣布解散之后，萨尔兰的中央党也解散了（虽然严格说来并没有必要）。整个20年代，中央党都在鼓吹萨尔兰重返第三帝国——实际上萨尔兰的所有党派都在做这件事。1934年6月，中央党、呐粹党、民族人民党的残余力量以及其他政党联合起来组成了德意志阵线（German Front），鼓励人们在公投中投赞成票。在选民面前，他们为自己塑造了一副超越党派政治的形象。
只有德共人士和社民党人选择置身事外，但因为他们也曾为统一奋斗了许多年，这一次的突然转向便让支持者看不懂，很多人认为他们的立场不真诚。在那个时期，各种爱国主义仪式、对第三帝国战争死难者的纪念、民族节日等活动已经巩固了萨尔兰的德意志民族意识，这些活动得到了来自第三帝国国内狂热民族主义者的金钱或其他形式的支持，其影响不是几年之内能消除的。此外，呐粹党也承诺要为萨尔兰居民提供多种多样的物质好处，以此引诱他们。比如，将冬季援助伸向国界之外，去帮助萨尔兰的穷人；向萨尔兰的教师和政府雇员指出，如果在第三帝国他们能够拿到更多的津贴，财政上会获得更多帮助。还有，第三帝国的经济正在逐渐复苏，而法兰西则在急速陷入大萧条的泥淖。戈培尔的宣传部在第三帝国电台全力摇旗呐喊，同时出口了大量廉价的人民收音机到萨尔兰，帮助当地人接收宣传信息。莱茵地区的印刷厂印出了几百万份传单，在萨尔兰全境广泛流传；8万份海报出现在了萨尔兰，鼓励人们投票回归第三帝国。为了说服人们统一的正确性，举办了1500场公开会议。单单为了这次公投，4.7万名住在第三帝国的萨尔兰人回到了故乡，进一步壮大了民族主义者的声势。相较之下，反对统一的活动可以说基本不存在，同时，反对统一的组织内部还发生了分歧，一方想继续维持现状，另一方想加入法兰西。
在萨尔兰的很多地区，当地的呐粹党在幕后策划了大量恐吓和暴力行动，希望吓住反对德意志统一的人。呐粹党掀起的恐怖行动让人想起1933年初的德意志。社民党的会议被手持铁棍的褐衫军打断。宣传反对统一的人被人用橡皮棍子殴打，有的甚至遭到枪击。一些反法西嘶酒馆被袭击，窗户被子弹击得粉碎。反对派的会议变成了暴乱。据一名当地居民记载，当时的气氛就像内战一样。对于眼前发生的一切，当地警察袖手旁观。第三帝国派出了本土的党卫队到萨尔兰，增强当地的恐怖气氛，同时投赞成票的阵营放出谣言，声称这次投票不是匿名投票。而从德意志本土的那些投票和选举来看，这个说法的可信度并不低。他们放出强烈的信号，暗示如果一个人被发现投了反对票，那么等德意志人到来的时候他就会被投入集中营。特别是在一些小型团体之中，德共人士和社民党人的身份都为人所熟知，所以反呐粹人士知道集中营的威胁可不是空话。奉命监督投票的国际观察员承认这次公投有暴力成分，并呼吁停止恐怖行为，可当地的军队统帅极度仇视德共人士和社民党人，因而选择按兵不动。不过，多数前德共人士和社民党人也赞成和德意志统一是最好的出路，这并不奇怪，因为他们毕竟还没有经历过第三帝国治下的真实生活，而民族情感令他们对德意志人的身份有着很强的认同感。萨尔兰的工人运动一直不成气候。按照一个德意志工会人士的说法，在萨尔兰普鲁士政府是最大的雇主，它给矿工套上统一的制服，对异议分子进行规训。大工业家在当地有着巨大的影响力。“萨尔兰的人，”他被迫下结论说，“是德意志在政治上最落后的一群人。”这次投票的结果是否能够反映多数德意志人对第三帝国的态度，必须打个问号，因为萨尔兰人口数量很少，且作为边境地区其政治环境比较特殊。但对于多数萨尔兰人而言，他们的态度是投赞成票，即使是小胡子和呐粹分子掌权也无所谓。
迫于压力，柏林政府不得不做出承诺，称第三帝国的各项法律和政策只会被逐渐引入萨尔兰，它还承诺猶太人不会被1933年1月末以来在德国已成常态的反犹暴行骚扰。但是，没过多久，萨尔兰人就体验到了第三帝国治下的真实生活。来自普鲁士的外来人员开始进入萨尔兰，接手各类工作和职位。盖世太保在以前的工会大楼设立了总部，有支持法兰西嫌疑的人没走程序就被解雇了。显要的德共人士和社民党人毫不犹豫地离开了第三帝国。
萨尔兰的多数普通人确实从未后悔自己投了赞成票，但统一也确实没给他们带来事先允诺的种种好处。失业现象没有在一夜间消失，食物短缺也迅速开始影响到萨尔兰地区。
相较于第三帝国本地的猶太人，萨尔兰地区的猶太人一开始获得了更加优惠的移民条件。但从1935年9月开始，随着纽伦堡法案的通过，他们也全面感受到了呐粹反犹主义的力量。当地出现了一些怨言甚至罢工，但没有真正的抵抗。萨尔兰还是个乡土社会，地区内部零星散布着一些小镇，这样的条件再加上其较弱的工人运动传统，真正的抵抗不可能存在。
一直到1938年，重整军备计划刺激下的经济复苏才让萨尔兰人尝到了甜头。同时，柏林连续不断的宣传攻势、教育的呐粹化，以及强制加入小胡子的青年团，这些合在一起，促使萨尔兰的年轻人开始接受第三帝国。
该来的总会来。1935年3月1日，即宣布正式统一的那一天，小胡子在萨尔布吕肯兴高采烈地发表了演讲，他为萨尔兰人做出了这一决定而感到开心。他说，对德意志乃至对整个欧洲来说这都是伟大的一天。这次统一显示了第三帝国的力量和受欢迎程度，体现了第三帝国为所有德意志人服务的理念。他宣布，“血缘终归比任何纸面上的文件都更有力量。墨迹总有一天会被血抹去。”小胡子这是直接对其他国家的，特别是波兰和捷克斯洛伐克的德语少数族群喊话。汉堡的那位学校老师路易丝·索尔米茨为庆祝“萨尔兰回家”特地最后一次挂出了德意志第二帝国的黑白红三色旧旗帜，之后她在房子上面挂出了呐粹的卐字标志旗。德意志全境飘扬着各种旗帜，庆祝萨尔兰回归。相应地，这次投票结果严重打击了第三帝国境内社民党和德共的秘密抵抗运动，增强了呐粹普通党员的信心。
这次公投还让第三帝国统治层在外交事务上越来越无所畏惧。小胡子愈发无法继续欺骗世界，掩盖第三帝国重整军备的速度和进度了，而萨尔兰的投票结果更是刺激了新的军事要求，若要满足这些要求，就不可能逃过国外监控第三帝国军备状况的眼睛。萨尔兰公投的结果似乎促使小胡子在1935年3月16日宣布第三帝国空军成立，空军征兵开始。他说，征兵之后军队规模将扩张到超过50万人，是《凡尔赛和约》允许的5倍。第二天柏林举行了盛大的军事游行，在游行中的国防部长维尔纳·冯·勃洛姆堡宣布第三帝国将在世界民族之林夺回自己应有的位置。当然，小胡子仍然向每一个人保证，德意志需要的是和平。许多支持呐粹主义的中产阶级分子相信他。“我们又开始普遍征兵了！”路易丝·索尔米茨以胜利者的口吻在日记里写道：“1918年的耻辱之后，我们一直在渴望这一天的到来……早上法兰西通过了长久以来备受争议的两年军事服役计划，傍晚我们就以普遍兵役制作为回应。如果我们一直采取类似行动，一直对挑衅给出类似答案的话，就不可能经历凡尔赛的耻辱……普遍兵役制不是为了战争，而是为了维护和平。我们的”国家位于一帮高度武装的民族之间，没有防卫能力就是在鼓励和引诱对手闯进来进行掠夺。我们可没有忘记比法军队入侵鲁尔区的历史。路易丝·索尔米茨说，在正式宣言从收音机里传出时，“我站了起来。我不得不站起来，这一刻实在太伟大了。我必须站着听”。
但是小胡子的宣言也引起了很多德意志人，特别是经历过一战的德意志人的担忧。许多年轻人对自己参加了数月的劳役之后还要去参军感到非常不满。可一些年老的工人倒是很欢迎小胡子的宣言，因为这能缓解失业的局势。一份报告说，德意志人普遍有一种“真正的、强烈的好战综合征”。同样是这一批人，普遍认为德意志终于重新获得了国际社会的尊重。“毫无疑问，”莱茵兰—威斯特法伦的一个社民党特工说，“政府不停地鼓吹尊严就是德意志的自由，这在很多马列主义工人阶级前成员之中产生了影响，引发了思想混乱。”