陈光甫用他锐利的目光，发现了银行之林中尚闲置着的这片隙地。他认为，先集资5万元～10万元，银行即可以开业。开业之后，可以通过吸收普通百姓的小额存款来逐步累积资本。只要真正提供优良的服务，就可以逐步增加存款，也可以逐步增加放款。
集腋成裘，蚂蚁雄兵。到那时，资本的积聚和运用这两大难题，就可以迎刃而解。陈光甫的独到见解和精辟分析让二位挚友深深佩服，马上就帮助他着手筹备。
钱少也是钱，而陈光甫一点资本都没有。经李铭介绍，他说服一个叫庄得之的买办拿出7万银元，作为建行资本。庄得之出资最多，担当董事长，而陈光甫在庄的帮助下才勉强凑够了5 000银元资本，出任总经理。
1915年6月，上海商业储蓄银行在宁波路的一幢石库门房子里开张了，资本不足10万元，职工只有七八个人。开业那天，陈光甫既没办酒席，也没有请钱业董事，唯恐被同行耻笑，上海商业储蓄银行（以下简称上海银行）就这样静悄悄地诞生了。