回乔玄，乔玄只交还文书而自己不出发，核查羊昌的罪名更加急切，羊昌最后被囚车押解进京，乔玄从此出名。
乔玄被举荐为孝廉，任命为洛阳左尉，当时梁不疑为河南尹，乔玄因为公事去梁府拜见梁不疑接受问话，耻于被梁不疑所侮辱，于是辞官回到乡里，后来经过四次升迁做到齐相，因为过失为城旦，服刑完毕，朝廷征聘，再升迁到上谷太守，又改任为汉阳太守。当时上邽县令皇甫祯犯了贪污罪，乔玄抓捕拷问他并施以拔光头发鞭笞的刑罚，皇甫祯死在冀地的集市，整个辖区的人都感到震惊。汉阳郡上邽县人姜岐，恪守信仰隐居不仕，在西州一带很出名，乔玄召他出来做个官吏，姜岐托病不答应，乔玄大怒，命令督邮尹益逼迫他来，并说:“姜岐如果不来，马上就让他的母亲改嫁。“尹益坚持劝止乔玄没有成功，马上转告了姜岐，姜岐坚决躺在床上不起来做事，郡内的官员和读书人也都去劝说乔玄，乔玄才肯罢休，当时的人都拿这件事讥笑他，后来托病免职，又被公车征为司徒长史，加封为将作大匠。
桓帝末年鲜卑、南匈奴以及高句丽的继承人伯固等少数民族一同叛乱，在边境一带抢劫掠夺，四府举荐乔玄为度辽将军，特赐可以使用黄钺的权力，乔玄到了任上，修养兵士，然后监督