不久李密又向翟让建议说：“昏君蒙尘，在吴越一带流亡，各地武装力量竞相起事，全国百姓正闹饥荒。您凭着杰出的才干，统率着骁勇强大的军队，应该平定天下，消灭各处敌兵，怎能躲藏在民间苟且偷生，永远当小小的流寇就了事呢。现在东都洛阳的士民百姓，里里外外离心离德，留守京城的官员，政令不能统一。您亲自统率强大的兵众，直接去袭击兴洛仓，散发粮食救济穷苦百姓，各地群众谁不归附？百万人马，一个早晨就能招集起来，抢先下手制服别人，这个时机不能错失！”翟让说“：我出身于农民，声望还没到这一步，一定要实现您所讲的目标，就请您率先出兵，我带上各支队伍作为后续力量。夺取兴洛仓后，再作商议。”

开仓赈民
　　大业十三年（617年）春天，李密和翟让带领七千名精兵从阳城向北出发，跨过方山，从罗口袭击兴洛仓，攻克了。打开仓库听凭百姓拿走粮食，连老人妇女也背着孩童赶来，路上络绎不绝，多达几十万人。

　　越王杨侗派遣虎贲郎将刘长恭率领步兵骑兵二万五千人讨伐李密，李密一举打败了他，刘长恭仅以身免。翟让于是推举李密当首领，称作魏公。这年二月，在巩县城南郊外设立祭坛，祭天登位，年号称作永平元年，下发的文书落款为行军元帅魏公府。任命房彦藻为左长史，邴元真为右长史，杨得方为左司马，郑德韬为右司马。授予翟让司徒官衔，封为东郡公。任命单雄信为左武侯大将军，徐世勣为右武侯大将军，祖君彦为记室，其余的人各按等级授予官职。于是以洛口为都城，在环绕洛口四十里的区域里驻扎下来。

　　山东长白山贼寇首领孟让带领人马归附李密，河南巩县长史柴孝和、侍御史郑颐献出县城投降李密。隋朝虎贲郎将裴仁基带着儿子裴行俨献出武牢归附李密，授予上柱国官衔，封为河东郡公。李密就派裴仁基和孟让率领三万多名兵卒袭击回洛仓，攻克了，乘胜打进洛阳，抢掠居民，焚烧天津桥，洛阳隋军乘混乱的机会出兵反攻，裴仁基等人大败，只是保住了自己的性命。李密又亲自率领三万兵卒进逼洛阳，隋朝的将军段达、虎贲郎将高毗、刘长林等人指挥七万人马抵御，在洛阳老城作战，隋军败逃。李密回头夺取回洛仓据守，大修营垒战壕，威逼洛阳，还撰写檄文到各个郡县公布隋炀帝的罪状。