陶侃年幼丧父，家境贫困，曾担任郡里的督邮。长沙太守万嗣路过庐江，见到陶侃，觉得他不同寻常，让自己的儿子与陶侃相处，让他们结为朋友后才离去。陶侃后来被察举为孝廉，到了洛阳，豫章国郎中令杨晫把他推荐给顾荣，陶侃因此而闻名于世。
陶侃等人打败了造反的蛮族人张昌后，他的上司、镇南将军刘弘对他说：“我过去担任羊公羊祜的参军，羊公说我一定能达到他的地位。如今看你，也一定能继承我啊。”后来陶侃果然在平定苏峻叛乱中立下大功。
陶侃威望日高，引起了王敦的妒忌，便把陶侃降了职，调到广州去做刺史。那时，广州人口不多，生产落后。陶侃到了那里，没有多少公事可办，比较清闲。为了磨练意志，增加力气，锻炼身体，陶侃叫人准备了一百多块砖码在院子里。天一亮，陶侃刚起床，就把砖搬到外面去，码在一个空场上。到了晚上，他又把砖搬进院子里来，码在原地。第二天清早，他又把砖搬出去;晚上，又把砖搬进来。他天天都是这样搬进搬出，从不间断。衙门里的人看到陶侃搬砖，都感到奇怪，就问他说：“大人，为什么要这样把砖搬来搬去?”陶侃笑笑回答说：“我正在为恢复中原而努力，要是生活过分安逸，恐怕将来担当不了大事，所以我用运砖来磨练意志，增加力气，锻炼身体。”
晋太宁三年(公元325年)五月，朝廷任命陶侃为征西大将军、荆州刺史，统管荆、湘、雍、梁四州军务，荆州的百姓都互相庆贺。
陶侃聪明机敏，恭谨勤奋，整天正襟危坐，检查督管军府中的众多事务，没有一刻闲暇。他常对人说：“大禹这样的圣人，尚且珍惜每寸光阴，至于一般人，应当珍惜每分光阴。怎能只顾游玩喝酒，活着的时候没有贡献，死后也默默无闻，这是自暴自弃!”
将吏中有人因为饮酒赌博荒废正事的，陶侃就命令收取他们的酒器和赌博用具，全都扔到江里，然后鞭打那些人，说：“赌博这种事，是放猪的奴仆玩的!老子、庄子崇尚浮化，不是先王那些可以作为准则的言论，对实际事务没有什么帮助。君子应当端正他的仪表，怎么能蓬着头、光着脚，还说自己宏放通达呢?”
有人赠送他礼物，陶侃一定要问清来路。如果是靠自己的劳作获得的，即使价值微薄，陶侃也很喜欢，并且回赠超出几倍价值的物品。如果不是正道所得，陶侃就会严厉地训斥来人，并拒绝接受礼物。
有一次陶侃出游，看见有人拿着一把还没熟的稻子，陶侃问他说：“你拿来干什么?”那人说：“走路时看到的，顺手摘下来玩。”陶侃很生气，说：“你不亲自劳作，却毁坏别人种的稻子玩!”随即命人鞭笞惩罚这个人。因此百姓都辛勤耕作，粮食衣物丰足。
陶侃曾经造船，剩下的木屑和竹头，都让人登记并收起来，大家都不明白用来干什么。后来群臣朝会，正逢雪后天晴，厅堂前面残留的积雪还很湿，就用木屑铺在地上。桓温去蜀地讨伐的时候，又用陶侃贮存的竹头作榫钉装配船只。陶侃处理事务的仔细缜密，都体现在这些事情上面。
