古大存是东江革命根据地和东江红军的主要创建者之一，他出生于1897年，广东省五华县人，早年时期，古大存曾在梅州中学、广东法政专门学校等地读书，也是伴随着读书的增多，古大存的思想有了很大的变化，他开始关心国家前途与命运，渴望国家强大起来，同时，古大存也接触到马克思主义，并对马克思主义产生了浓厚的兴趣。
1924年，古大存加入了我党，也是这一年，两党第一次合作，轰轰烈烈的大革命运动开始。大革命时期，古大存参加了东征，做了很多维护两党第一次合作的工作，也积累了丰富的革命斗争经验，为东江地区组织的发展壮大作出了重要的贡献。
1927年，大革命失败后，古大存留在东江，主要为我党从事秘密工作，以游击战的方式与国民党反动派斗智斗勇。那段时期，国民党反动派大肆迫害进步人士，国内革命活动也陷入低潮，但古大存没有对革命灰心，他坚持在东江地区进行革命斗争，成为东江地区一面不倒的红旗。
1935年，古大存被敌人包围，在突围过程中，他与组织失去联系，即便如此，古大存依然隐蔽在群众中间，坚持地下斗争。1938年，古大存带病寻找组织，辗转汕头、香港、广州等地，终于到达了武汉，并找到了武汉八路军办事处，与组织恢复联系。
在这之后，古大存被任命为广东省委统战部部长，期间，他坚持我党既独立自主，又联合抗日的统一战线政策，与敌人进行了有理、有利、有节的斗争，发展与壮大了抗日民族统一战线，为抗战的胜利作出了积极的贡献。
抗战胜利后，古大存被派到东北，参与了东北根据地的建设，期间，他参与领导了地方的土地改革、基层组织建立、干部培养以及支援前线等方面的工作，促进了东北的解放，进而支援了全国的解放。
新中国成立后，古大存被派回广东省，担任了广东省人民政府副主席（相当于广东省副省长）兼民政厅厅长等职务，任职期间，他积极领导巩固新生政权的斗争，在剿匪反特、土地改革以及解放海南岛等方面做了大量卓有成效的工作，促进了国民经济的发展与恢复。
1955年，广东省委成立之后，古大存担任了广东省委副书记。1956年7月10日至23日，广东省第一次代表大会在广州召开，经过这次会议之后，59岁的古大存担任了广东省委书记（当时设有第一书记），他也继续以积极饱满的热情投身广东的建设当中。
1957年，在反“地方主义”中，古大存受到了冲击，并多次受到批评。1958年，61岁的古大存被撤销了广东省副省长、省委书记、常委等职务。不久后，古大存又被下放到增城县，降职为增城县委书记。
1961年，64岁的古大存再任广东省副省长，继续为建设新中国而殚精竭虑地贡献。不过，当时古大存的身体已经不好，主要以治病修养为主，他也力所能及地为建设广东出谋划策。1966年，古大存在广州因病去世，享年69岁。
值得一提的是，在古大存去世后十七年，也就是1983年，相关部门为他恢复了一切名誉，这位革命的功臣，也受到了应有的缅怀。