生卒年月无考，战国末期下蔡(今颍上甘罗乡,另有文献说在风台县)人。秦左丞相甘茂之孙。年12岁做秦相吕不韦家臣。当时燕、赵关系紧张，秦王赢政派刚成君蔡泽在燕3年，燕王把太子丹送到秦国做人质。秦使张唐去燕国为相，企图跟燕国联合攻打赵国，以扩大河间(今河北献县东北)一带封地。而张唐曾经替秦昭王讨伐过赵国，怕路过赵国时赵王挟恨报复。吕不韦亲自去请张唐，唐仍不肯出使。甘罗别出奇计，先以利害说服张唐，又自愿为秦国大使赴赵，说服赵王，先割5城与秦，以广河间，再联秦攻燕，掠地以偿。赵王许约，发兵攻燕，取得上谷(今河北怀来东南)30城，献11城给秦。甘罗仅出使一趟，没用一兵一卒，取得5个城的地盘，还报秦王，深受嘉许，被封为上卿，并把从前封给甘茂的田宅赏赐给他。甘罗高才不寿，死后葬于颍上城东35华里的颍水河畔。明万历年间，颍上知县何豸为其墓立碑。后因河水冲击，墓塌于河内。清光绪十五年(1889年)，安徽巡抚陈彝，在墓左二十丈的河岸上(今穆岗子南侧)堆土为坟，并立“秦上卿甘罗碑”于其前。