「相続の放棄」は、相続開始後の制度です。相続開始前に行った「相続放棄」を約束する書面には、法的効果はありません。

「相続分の放棄」や「相続分の譲渡」も相続開始前に行うことはできません。相続分は、相続が開始してはじめて発生するためです。
相続開始後であれば、「相続分の放棄」や「相続分の譲渡」はできますが、「相続の放棄」と異なり相続債務の負担を免れる効果はありません。

「相続分がないことの証明書」という書面を利用して、不動産登記が行われることがあります。この書面を利用すれば、遺産分割協議や相続の放棄の手続きを経ずに登記手続きを行うことができますが、後々のトラブルを避けるためには、遺産分割協議や相続の放棄を利用されることをお勧めします。

相続開始前に、特定の推定相続人を相続から排除することは困難です。
そこで、弟さんには、「私は、父から住宅購入資金として既に３０００万円をもらっているので、父親の相続に際しては遺産に対する権利を主張しません。」というように、生前贈与の内容を具体的に記載した書面を書いてもうことをお勧めします。
この様な書面を書いたとしても、弟さんをお父さんの相続から完全に排除することはできません。
しかし、相続開始後、弟さんの考えや状況が変化したとしても弟さんに対する生前贈与（内容によっては特別受益）があったことの証拠になります。