敬瑭向辽国割让幽云十六州，刘氏六代都做辽国的官，相继担任宰相。刘彦宗的父亲刘霄曾官至中京留守。刘彦宗在辽擢进士乙科。金伐辽，辽国天祚帝耶律延禧逃到天德后，秦晋国王耶律捏里在燕京自立为帝，提拔刘彦宗做留守判官。萧妃掌握朝政时，迁为签书枢密院事。金太祖完颜阿骨打到居庸关，萧妃从古北口逃走，都监高六送名帖给完颜阿骨打。完颜阿骨打驾到辽境，车驾驻城南面，刘彦宗与左企弓等奉上奏章投降。完颜阿骨打一见之下，非常器重，封其为左仆射，佩带金牌。后刘彦宗在金任同中书门下平章事、知枢密院事，加为侍中，辅助完颜宗望统率军队。完颜阿骨打去世后，金太宗完颜吴乞买即位，对其信重如前，不久金军大举攻宋，刘彦宗呈上十条进攻策略，完颜吴乞买看后即下诏刘彦宗兼任汉军都统。
“鲁开可有妙策灭那妖人？”听到刘彦宗的话，完颜宗翰问道。
刘彦宗起身，恭敬的向完颜宗翰施了一礼，说道：“那妖人既然是血肉之躯，刀剑能伤，其定然与常人一般畏惧毒药，宋人擅使毒药，昔年李后主便是为宋太宗以‘牵机药’毒死，我军可以剧毒之药制成药箭，待那妖人现身，以药箭聚射之，当可取其性命，此妖人一死，宋人绝望，我再行招降，则宋京可下也