羊衜，又称羊茞；荆州南阳郡人，才博辩捷，初为吴大帝长子宣太子孙登宾客，任中庶子。孙登死后，历督军使者，直至始兴太守。
蜀臣费出使东吴重申盟好，在宴席上，羊衜和诸葛恪等吴臣以才博果辩知名，也纷纷论难，辞锋不绝。羊衜善于评品人物，当初全琮、朱据、郝普等满朝权贵，争相结交隐蕃，羊衜却和隐蕃保持距离，最终隐蕃谋反被诛，大家都佩服羊衜有先见之明。
羊衜二十九岁和名士谢景、范慎、刁玄等人成为太子孙登的宾客，其人品才学深受孙登推崇。三十岁时成为太子中庶子，羊衜曾评价孙登的近侍诸葛恪，志大才疏，而顾谭精明狠毒，诸葛恪等人知道后很生气，就故意不重用羊衜，后来羊衜曾推荐李衡为官，让其诉说吕壹的恶行。
辽东公孙渊遭司马懿所攻，遣使者送信向吴国求救，因公孙渊先前有过欺骗东吴的行为，众臣主张斩使者拒之，唯独羊衜建议遣兵救援。孙权问羊衜为何不可，当下羊衜说道：“陛下，将逆贼公孙渊的使者斩首固然能出恶气，可这样做是出了匹夫的怒气，而放弃了霸王之计，臣以为不如借此机会昭示陛下厚德，而出奇兵前往以观动静。如果魏国进攻公孙渊失败，那么我军远赴辽东解救，是恩结于远夷，义盖于万里，