1952年9月10日，以色列和德意志聯邦共和國在盧森堡簽署了賠償協議，從此開始了兩國關係史上的新篇章。
「以德國人的名義所犯下的難以啟齒的罪行，必須給予道義和物質上的賠償。」
1951年9月27日，當時的德意志聯邦共和國總理康拉德·阿登納發表了如下講話：「聯邦政府準備同猶太人和以色列國的代表一起，共同就物質賠償問題尋求解決方案，以緩解他們無限的精神創傷。」
德國前總理阿登納
聯邦總理阿登納在德國聯邦議院所發表的政府聲明，為德國和以色列的賠款談判鋪平了道路。6個月後，這一談判在荷蘭-也可以說是在一個中立國的土地上正式開始。猶太人索賠大會主席格德曼（Nahum Goldmann）事後回憶說，談判進程就好似一樁在討價還價的金融買賣。猶太人索賠大會管理著22個猶太人組織，這些組織代表著生活在以色列境外的納粹受害者的利益。德以雙方就索賠問題的每一個條款都進行了艱苦的談判。之後，以色列獲得了價值300億德國馬克的貨物作為抵償，猶太人索賠大會獲得4，5億馬克的賠償金。慕尼黑歷史學家漢斯·君特·豪克茨（Hans Günter Hockerts）表示：「一個很棘手的問題是，拿什麼作為衡量賠償價值的標準。在進行賠償談判時，以色列議會出現混亂的場面。有人高舉的橫幅標語上寫著：我們被殺害的祖父母價值多少錢？這句話的意思是：賠償根本沒有標準！因此，人們決定將倖存難民在以色列定居的費用作為索取賠償金的合理標準。以色列需要的不是德國馬克，而是德國的產品如鐵路機車和船舶，也需要進口石油以及化學和醫藥產品。」
以色列前總理本古裡安
阿登納最親密的顧問漢斯·格羅布克也參與了賠償協議的締結進程，儘管他在納粹時期曾經為反猶太人的紐倫堡種族法案撰寫過決定性的評論。而以色列人並沒有對他表示憤慨。難道是對戰後德國的效忠？以色列記者和歷史學家湯姆·塞格夫認為：「我認為不應說是效忠。這完全出於外交政策和現實的政治考慮。當時以色列已經意識到，德國是一個正在崛起的大國。因此，人們為避免得罪阿登納政府作出了巨大的努力。例如以色列第一任總理本古裡安（Ben Gurion）就曾經表示，永遠不要稱呼他們為德國人，應該只稱他們納粹。」
