如果魏军和公孙渊相持不下，公孙渊首尾不能相顾，那我军正好进攻辽东，然后到处掳掠人口，满载而归，这样也足以让上天惩罚公孙逆贼，一雪往日之耻。”孙权听了深以为是，又问羊衜派谁领兵合适，羊衜毛遂自荐，愿意亲自带兵去辽东，又推荐了将军郑胄和孙怡。孙权大喜，当即批准羊衜所请，并写信给公孙渊，说自己已经派出大军，并假惺惺地告诫公孙渊说司马懿太厉害，一定要小心，“司马懿善用兵所向无前，深为弟忧也。”遂派遣督军使者羊衜、宣信校尉郑胄、将军孙怡统率的大军从海路来到了辽东。
此时，辽东公孙渊已经秋被司马懿攻灭，辽东、玄菟、乐浪、带方四郡全部纳入魏国版图。羊衜派细作上岸打探后得知，原来司马懿在冬天获知魏明帝病重的消息后，已经率兵回洛阳去了。正好曹睿病死，此时辽东防守薄弱，魏国刚刚迎立新君齐王曹芳，也难以及时救援辽东，是天赐良机。羊衜和郑胄、孙怡商议后，于是攻打旅顺口的魏军海防城堡牧羊城，击败了魏国守将张持、高虑，然后分兵四处掳掠，俘获大批人口，满载百姓和各种战利品从容回国。这年，羊衜三十八岁，四十二岁那年他为始兴太守，曾写信给滕胤对南阳太守钟离牧高度评价。二党构争中，羊衜为督军使者，孙权曾禁止二