军中主帅或主将所居的城。以例当建牙旗，故称。
《资治通鉴·后梁太祖开平元年》：“ 渥 父 行密 之世，有亲军数千营於牙城之内。” 胡三省 注引《蜀注》：“古者军行有牙，尊者所在。后人因以所治为衙，曰牙城，即衙城也。” 元 王恽 《泽潞即事杂诗》之七：“角声催日上牙城，白羽风清坐閲兵。”
唐 代卫护节度使住宅的内城。
《资治通鉴·唐宪宗元和十四年》：“比至，子城已洞开，惟牙城拒守，寻纵火斧其门而入。” 胡三省 注：“凡大城谓之罗城，小城谓之子城。又有第三重城以卫节度使居宅，谓之牙城。”