隋河南洛阳人,字次武。于顗弟。少好学不倦。及长,时称名公子。北周时累迁至河南道行军总管。从讨尉迟迥,以谋俘迥将席毗罗,河南平。入隋,以坐叔于翼事下狱,上书陈辩,得释。明年拜行军元帅统十二总管以击突厥。突厥见其军严整,不战而退。时尚书省文簿繁杂,吏多奸险,帝乃令仲文勘省中事,发擿甚多。又决渭河开漕渠以运粮。炀帝即位,迁右翊卫大将军,参掌文武选事。后以辽东之役无功,系狱忧恚而病,困笃方出之,卒于家。
荀巨伯远看友人疾,值胡贼攻郡,友人语巨伯曰:“吾今死矣,子可去。”巨伯曰:“远来相视,子令吾去,败义以求生,岂荀巨伯所行邪?”贼既至,谓巨伯曰:“大军至,一郡尽空,汝何男子,而敢独止?“巨伯曰:“友人有疾,不忍委之,宁以我身代友人命。”贼相谓曰:“我辈无义之人,而入有义之国。”遂班军而还,一郡并获全。