当队伍行至后院门外时，突然有人跪到路旁，请求马新贻帮忙，这一情况吸引了巡捕前去查问，而马新贻则继续前行就在他再走几步时，张汶祥突然从人群中窜出，直扑马新贻，抽出匕首，狠狠地插入了他的右肋。
马新贻瞬间倒地，张汶祥口中喊着“养兵千日，用在一朝。大丈夫一人做事一人当，今日拼命，20年后又是一条好汉”，随后从容就捕。匕首深入数寸，马新贻伤势严重，气息奄奄。临终之际，他口授遗疏，让其子马毓桢代书，托魁玉代呈朝廷。第二天下午2时许，马新贻因伤势过重，救治无效死亡。
马新贻死亡后，中军副将喻吉三一边命巡捕将凶犯押到督署候讯，一边飞报江宁将军魁玉和司道各员。魁玉立即对凶犯进行讯问，但张汶祥只称自己是河南人，对于行刺缘由却闪烁其词，坚决不说真话。魁玉非常生气，喝令将其带出去，随饬梅启照将凶犯带往上元县严刑讯究。
此后，魁玉加派臬司贾益谦、候补道勒方等轮流审讯。魁玉一面督饬司道各员继续会审，力图得到确供，一面立即拟折并紧急驰奏朝廷。
魁玉审理了一个多月，每次奏报案件进展时都称张汶祥语言颠倒、言辞闪烁，无法问出有价值的线索，案件陷入了停滞状态。
最终，魁玉向慈禧奏呈审理结果，虽然审出张汶祥曾参加太平天国运动，其女儿、儿子、舅嫂已被拿获，但对于作案动机却一无所获。
慈禧对魁玉的审理结果十分不满，于是派漕运总督张之万前往江宁审理刺马案。张之万在审理过程中，由于害怕张汶祥熬刑不过死亡，他们数日未用刑，而是让张汶祥的子女在旁边受刑，试图以此来逼迫张汶祥开口，但张汶祥却侧头不看。
张之万等人向朝廷奏结审理结果，称张汶祥对马新贻的怨恨来自三个方面：一是张汶祥曾参加太平天国运动，后外通海盗，因马新贻剿灭海盗，杀死其众多同伙，在逃海盗龙启沄等教唆张为同伴复仇；二是张汶祥私开典当铺，被马新贻禁止，导致本利俱亏损；三是其妻罗氏被吴炳燮强占，张汶祥曾拦住马新贻的轿子控告，未被重视，心怀怨恨。张之万等人认为张汶祥为一人作案，不存在同党或幕后主使。但慈禧对张之万等人的奏结大失所望。
无奈之下，慈禧下令将此案主审和司员统统更换，令曾国藩速回江宁，刑部尚书郑敦谨作为钦差大臣携随员赶赴江宁复审。最终，曾国藩与郑敦谨联名上奏，称“会同复审凶犯行刺缘由，请仍照原拟罪名及案内人犯按例分别定拟”，维持了张之万等人所上书的内容，即张汶祥因之前的种种缘由心怀忿恨而行刺，无另有主使各情，尚属可信。张汶祥被处以极刑，马新贻并入祀贤良祠，赐谥号端敏。