魏绛于晋悼公元年（公元前573年）为司马，掌军法。晋悼公大会诸侯，想借此夸耀他的地位和实力，而他弟弟杨干却扰乱随从仪仗军的行列。魏绛严格执法，戮死杨干的仆从，此举震惊了众人，魏绛名声远扬。没想到晋悼公非常恼怒，认为魏绛这也是在污辱自己，破坏自己的声望，所以一定要杀魏绛。
魏绛执法时已考虑到严重的后果，但为了整肃军纪，他已经将自身利害置之度外。执法完毕，魏绛上书陈述行刑的理由：“军师不武，执事不敬，罪莫大焉。”还说出了杨干这样的事，说明军纪松弛，自己身为司马，应负责任。但在诸侯会盟这样的重要场合，如不执行军法，后果将不堪设想。对杨干之仆行刑，确实是迫不得已，自己一向未能尽职尽责，愿以一死谢过。
呈书以后，魏绛即要自杀，被人拦住。晋悼公阅书后大受感动，匆忙赤足出外，向魏绛道歉。后来晋悼公又专门设宴与魏绛欢叙，并擢升其为新军将佐，予以重任。