这些年，虞洽卿在上海有了声望，且大家都认为这是为国争光的事，上至商业领袖，下至行帮会门，无不听从他的调遣。在各方面的努力下，舆论、声势都使英人处于不利位置，就算德、法、日等列强，也对英国造成的租界混乱状况表示不满，纷纷向英国领事馆施加压力。英国人见情况不妙，便想寻机下台，先表示释放黎黄氏，后又派人找到虞洽卿，声言谈判。虞洽卿说：“我一介商人，那有资格处理这等大事？”英人说：“这租界地面，谁不知道虞先生大名，没有虞先生，恐怕什么事情也办不妥。”虞洽卿见时机已到，才会同上海道台袁树勋、公廨正会审官关炯之一起到工部局谈判。英人迫于形势，作出重大让步，双方达成几点协议：1.撤销德为门副领事职务，调往他地任职；2.惩办侮辱撕打华官的捕头；3.释放此事件中被捕之华人；4.巡捕复岗。
英国领事一再坚持巡捕复岗和商人开市、华人复工同时进行，虞洽卿说：“此次罢工、罢市纯系民间行为，即使写在协议中也无法强制实行，如果日后贵国能公正处事，虞某可以四方游走，劝说各界人士。“英国领事连连点头说：“我们在这次交涉中相处融洽，善后事宜还请虞先生多做工作。”
至此，大闹公堂案得到圆满解决，虞洽卿不仅在上海人眼里树立了强人形象，还让洋人知道了他的厉害，使得租界当局不得不刮目相看。胜利消息一传开，租界南京路上热闹异常，人们纷纷涌上街头，奔走相告，锣鼓声、鞭炮声响彻十里洋场。虞洽卿和上海道台并肩而行，身份显得大大不同。
后来，载泽、端方等五大臣事毕回沪，将虞洽卿召到行辕，加以勉励：“此次事件，处理甚为妥当，我当上奏朝廷，予以奖掖。”
临别，端方特别叮嘱虞洽卿道：“老夫不日调任两江，坐镇南京，虞先生有事可来府上。”
攀上了两江总督端方的高枝，虞洽卿迈出了政治商人的第一步，从此，在每一段历史时期，虞洽卿都与当时的执政者过从甚密，成了真正的一品百姓。
大闹公堂事件后，租界当局虽然应承巡捕复岗，但平日耀武扬威的巡捕在这次事件中吓破了胆，心存余悸，不敢出来，“万国商团”只好代替巡捕执行任务。所谓“万国商团”，最初是租界中各国侨民的临时自卫组织，成立于咸丰三年（1853年），是上海小刀会起义时各国驻沪领事以保护侨民为由组成的武装团体。商团团员由各国侨商义务服役，后来又收容了大批白俄军人充当常备团丁，逐渐演化成租界当局的武装力量。商团出来站岗执勤，比洋巡捕好不到哪里去。这些人服装鲜明，手握洋枪，甚至比巡捕还神气。加上他们与华人存在着语言障碍，动辄就打市民，华洋纠纷日多，大大损害了华商的利益。
一日，上海总商会开会，与会者议及此事无不愤慨。朱葆三当时已是总商会会长，他说：“在公堂案中我们大长国人志气，可这商团比巡捕还飞扬跋扈，百姓怨声载道，早晚还会出事。”说罢，看了一眼虞洽卿。他在“大闹公堂”中有心退缩，虞洽卿却出尽了风头，华人敬，洋人畏。虽然相比之下，显得他英雄气短，但提到华洋纠纷，仍是非虞洽卿莫属。就算洋人遇到华洋纠纷，第一个想到的也是虞洽卿。虞洽卿提议：“‘万国商团’总是隐患，他们有枪，我们没枪，只能任他们宰割。”朱葆三道：“你莫非想出什么良策？”虞洽卿道：“什么事儿都要靠实力，我们何不组织一支华人商团武装保护自己？到那时，我们还用看别人的眼色行事吗？”
“洽卿说的对，这真个好点子。”说话的人是袁恒之，此人也是买办出身，曾出任桂开体育会会长多年，言谈举止颇有几分豪气。后来虞洽卿组织“华商体操会”，此人也是活跃分子，与虞洽卿、胡寄梅并称体操会三巨头。
虞洽卿的提议立即引起大家的兴趣，众人七嘴八舌，各抒己见，有赞成的，也有反对的，当然，赞成的是主流，很快，议论的中心转移到经费、人员等具体细节，最后，会上推举朱葆三、虞洽卿、袁恒之、胡寄梅、傅筱庵等为发起人，负责商团的筹备。所需经费由各行各业捐款。听说组织华人商团，各行业人士捐款十分踊跃，纷纷响应，经费很快就落实了。朱葆三拍拍虞洽卿的肩说：“成立华人商团，必然要经租界当局的同意，与洋人交涉的重任，就交给你了，希望你不要推辞。”虞洽卿笑道：“既然各位这般看重我，我自当义不容辞。”于是，虞洽卿赴工部局交涉。洋人当然不同意，虞洽卿转而要求在万国商团之下设立中华队，租界当局又以万国商力训练有素，而华人素质不符为由婉拒。虞洽卿又问：“假若华人达到了你们的要求，又当如何？”洋人傲慢地说：“中国人自由涣散惯了，绝不会符合我们的要求。”虞洽卿心中不由冷笑，他会同总商会的主要董事商议，决定先成立“华商体操会”。
光绪三十一年（1905年），华商体操会成立，会所设于南京路高阳里四号，虞洽卿被推为会长。体操队还邀请圣约翰大中两学校毕业生郑阮明、郑松生、徐通浩、石运乾等做教练。操场设在北浙江路会审公廨北首。
第一次开操那天，操场上观者如云，人们都来争看这一新鲜事物。队员由各商店、洋行、海关中的青少年组成，他们身为商界职员，有的西装革履，有的长袍马褂，形形色色，往场中一站，本身就是一道风景。虞洽卿做简短的动员，然后发操练服装。体操会发的是黄色布操衣。这些队员平日衣冠楚楚，极重仪表，此时手里拿着布操衣，觉得很别扭。虞洽卿见状第一个穿上布操衣，走下操场，笑着对大家说：“虞某穿起来难看吗？”虞洽卿平日斯斯文文，此时穿起布操衣，却是一副威严的样子，众人见状，争着说：“不难看，不难看。”于是，众人纷纷换上制服。虞洽卿、袁恒之、胡寄梅等操练完后也不换回袍服，竟穿了布操衣回家，以后，队员们相继效仿，走在街上，引以为荣。
虞洽卿认为，华人在租界没有任何地位，而华人工商业已取得长足进步，若在租界没有任何发言权，恐怕权益最终将受到损害，为何不趁大闹公堂一事的胜利，向洋人要求权力，请求租界当局在工部局增设华商董事呢？如此一来，像华人商团之类的事也就好说了，此为治本之法。租界工部局实际是租界最高行政机构，其首脑机关名为董事会，成立以来，其成员主要是洋人，称作西董。
大家均认为虞洽卿说的有理，但想洋人怎么会拱手让出大权呢？虞洽卿却觉得这是一个机会，写信给租界的工部局，提出增设华商董事的要求。对于虞洽卿的建议，租界工部局颇为踌躇。租界里华洋纠纷日趋激烈，他们确实需要一位华商代言人，既利于华洋沟通，也可平息华人的不满情绪，这是有利的一面。可是增设华董毕竟有损各国利益，他们非常不愿让华人分享租界政治。提到虞洽卿，工部局的西董们也个个犯怵，深感他两面逢源，刁钻难控。议来议去，工部局的西董们只好表示，可设立一个华人咨询机构，作为华洋之间的缓冲体，可这个答复会让虞洽卿满意吗？最后，英国领事提议，只允许虞洽卿一人进入工部局当华董，华人必然以为他已经变节，失去对他的信任。即便做不到这一点，他当了华董，也不好意思经常作对。
华董的地位，多少上海顶尖人物梦寐以求！虞洽卿写信，当然有当华董的意思，但问题是租界当局只让写信的他一个人来当。虞洽卿第一次感到进退两难。答应吧，弄不好，失去大家的支持，他就成了无源之水，无本之木。不应吧，自己提出的要求，难以收口。虽说敢于玩绝活的人才能做出大事业，但虞洽卿认为玩绝活的时机未到，于是拿着工部局的复信来到上海总商会，当着众人的面将它摔在桌上，气愤地说：“洽卿要求租界当局增设华董，实为华人争取权力，而非为我个人请命，他们竟想收买于我，离间我们，我们岂能上当。”众人虽然羡慕他的殊荣，但想他几度不顾个人荣辱，拼死抗争租界当局，让他进工部局对华人、大家来说都有好处，皆劝他：“不要有后顾之忧，我们自当鼎力相助。”虞洽卿仍然摇头道：“他们想把我放在火上烤。”
虞洽卿最终没去工部局。工部局只好退而求其次，允许成立一个华商咨询团体。1906年2月，上海华商公议会正式成立，朱葆三、虞洽卿等人出任董事。华商公议会的成立虽然没有打破洋人独揽租界的现状，但华人却有了与洋人能够平等讲话的机构。虞洽卿位列公议会董事之一，虽然论年龄、论财力、论名望他都不及其他董事，但凭借华洋冲突这一旋力扶摇而起，更加巩固了他在上海商界的领袖地位。
租界工部局同意成立华商公议会，只是一时的权宜之策，他们决不允许租界地面，存在任何可以与他并立的政治性机构。年末，洋人举办的租界纳税人年会（该会相当于租界的立法机构）称：“本会认为工部局无权设立华商公议会，因此租界不承认工部局设华商会议会的决定。”租界纳税人年会将存在不足两个月华商会议会这个华人参政机构给否定了。对此，虞洽卿很不服气，他认为此事之所以失败，主要是因为华商的实力不够，虽然当时已有一批很有成就的时华人实业家，但这些实业家没有思想统一的团体，更缺少一位强硬的领袖。为了保护华商的利益，虞洽卿主张循序渐进，向租界的各个领域不断渗透，成立华人自己的武装队伍。
华商体操会成立短短一年，队员从最初的二百四十人增到五百人，个个训练有素，颇具军人风范。于是，虞洽卿再次找到工部局，旧事重提。工部局迫于无奈，虽然同意成立万国商团中华队，却提出了很多的苛刻条件，例如人数限制、枪械限制，队长由洋人担任等等。队员们对于洋人提出的条件非常气愤，一心拥有一支华人自己武装队伍的虞洽卿劝队员们忍耐。1909年，在第一次万国商团举行的射击比赛中，中华队技压群“洋”，夺得了奖杯。中华队在以后的历届体操、射击比赛中，几乎次次夺冠。中华队的骄人成绩令洋人大为赞许，租界当局不得不改变了对中华队的态度，相继将原来的许多束缚条件解禁。
事实上，成立中华队对华洋双方都有好处。民国以后，中国长期处军阀混战中，社会动荡不安。上海也时常被战火笼罩。这时，中华队就会和万国商团一道出防。中华队名为万国商团的下属组织，但其人员、经费均由上海总商会提供，虽然名义上听从万国商团的命令，但实际上却为上海总商会服务，其很多行动是为了维护资产阶级利益，例如上海市民要求由于中华队参加“三罢”斗争，中华队队长徐通浩却以军人不问政治为由予以婉拒。但中华队也有爱国表现，例如一·二八和八·一三两次抗战，例如八·一三上海保卫战，率军困守的国民党军队团长谢晋元在弹尽粮绝之时，中华队不断向其接济，才得以坚持。因为中华队队员都会外语，因此全团出勤时经常被编到洋人队做些翻译工作，消除了华洋间的语言障碍，大大减少了华洋冲突。
