”马新贻上任两江总督后，黄翼升照旧任他的长江水师提督，横行无忌，不加收敛，二人多有冲突。
最值得一提的是，同治九年（1870）五月天津教案发生后，外国列强不断以武力威胁清朝廷屈服。清廷一方面敦促曾国藩尽快处理，一方面开始调兵在京畿和海口布防，以防万一。六月初十，曾国藩到达天津处理教案。六月十四日，内阁大学士宋晋奏道：“和局固宜保全，民心未可消失，欲惩擅杀之罪，必究起衅之根，请饬曾国藩速行查明曲直，秉公办理，以释民疑；以长江水师紧要，请饬整顿。”慈禧太后深以为然，也想趁机将长江水师从湘军将领手中夺过来，急命马新贻以布防的名义整理长江水师，力除废弛。长江水师历来是黄翼升的立身之本，他当然不肯轻易交给对头马新贻来整饬，二人矛盾开始表面化。