Она или я? Как правильно вернуть своего мужчину? Помогите!

Встречалась с парнем 2 года, серьёзные отношения, родился сын, хотели расписаться. После родов отношения стали портиться, но я признаю здесь и свою вину тоже. Постоянно ругались, я разговаривала с ним без уважения, очень нервничала, в общем пилила. Он тоже вёл себя не ахти. Воспринимал всё как данное.
Потом я узнала что у него появилась девушка на стороне. Снова скандал, ужасная ссора. Говорил она мне не нужна, я расстанусь с ней. Готов был её бросить и она тоже это знала.
В результате я выгнала его и он ушёл к той девушке. С ребёнком он не виделся, но помогал деньгами, старался идти на контакт с нами, но я всё обрывала.
Спустя 5 месяцев договорились о встречах с ребёнком. Стали проводить время как семья. Я стала замечать знаки внимания с его стороны, поняла что чувства возвращаются и с новой силой. У нас снова начались отношения. Сначала я думала что всё не серьёзно, ведь у него есть девушка там (они всё ещё вместе, она не знает что мы встречаемся).
Я пыталась прекратить с ним отношения, но он не отпускает, говорит что любит и хочет быть со мной и с ребёнком. С той женщиной жить отказывается, хотя она настырно этого требует и вообще вцепилась в него. Он говорит что расставание с ней вопрос времени. Она хороший человек и ему её жалко, любит его сильно. Хочет чтобы ей надоело всё и она сама его бросила. Со мной проводит много времени, с ней 1-2 часа пару раз в неделю.
Как избавиться от соперницы? Что можно сделать чтобы скорее вычеркнуть её из нашей жизни?