Да, решать надо быстро и навсегда, но я бы все-таки посоветовал остаться в семье.
Все равно ребенка ты не бросишь, твоя новая тоже захочет ребенка, так и будешь разрываться на две семьи.
А страдать будут все.
Как уже говорилось на форуме (не помню точно кем, могу ошибиться в правильности цитаты) «Самый дорогой подарок, который может сделать папа своему ребенку – это любить его маму».

Удачи!