宇文化及之反也，署为历阳太守，伏威不受。又移居丹阳，进用人士，大修器械，薄赋敛，除殉葬法，其犯奸盗及官人贪浊者，无轻重皆杀之。仍上表于越王侗，侗拜伏威为东道大总管，封楚王。太宗之围王世充，遣使招之，伏威请降。
高祖遣使就拜东南道行台尚书令、江淮以南安抚大使、上柱国，封吴王，赐姓李氏，预宗正属籍，封其子德俊为山阳公，赐帛五千段、马三百匹。伏威遣其将军陈正通、徐绍宗率兵来会。武德四年，遣其将军王雄诞讨李子通于杭州，擒之以献。又破汪华于歙州，尽有江东、淮南之地，南接于岭，东至于海。寻闻太宗平刘黑闼，进攻徐圆朗，伏威惧而来朝，拜为太子太保，仍兼行台尚书令。留于京师，礼之甚厚，位在齐王元吉之上，以宠异之。初，辅公祏之反也，诈称伏威之令，以绐其众，高祖遣赵郡王孝恭讨之。时伏威在长安暴卒。及公祏平，孝恭收得公祏反辞，不晓其诈，遽以奏闻，乃除伏威名，籍没其妻子。贞观元年，太宗知其冤，赦之，复其官爵，葬以公礼。