袁涣，字曜卿，乃是陈郡扶乐人氏。他的父亲袁滂，曾在汉朝官至司徒。据《袁宏汉纪》记载：袁滂，字公熙，为人质朴纯粹，清心寡欲，从不会去谈论别人的短处。在当时权贵得宠、权势鼎盛之时，有些人因为政见不同而招致灾祸，唯有袁滂在朝堂之上坚守中立，因此他人对他既无喜爱之情，也无憎恶之意。
在那个时候，诸多世家公子大多行事逾越法度，而袁涣却生性清静，一举一动都必定遵循礼仪规范。陈郡郡守听闻他的贤名，任命他为功曹。袁涣到任之后，郡中的奸佞官吏自知无法在他手下蒙混，都纷纷自行引退离去。后来，袁涣被公府征召，在考核中成绩优异，得以升迁为侍御史。朝廷又任命他为谯县县令，然而他并未赴任就职。
刘备担任豫州牧的时候，举荐袁涣为茂才。后来，天下大乱，袁涣为躲避战乱，辗转来到江、淮之间，被袁术征召任用。袁术每次有问题向袁涣咨询请教，袁涣总是秉持公正的态度发表议论，袁术虽然心中不服，却也无法反驳。但因敬重袁涣的为人，不敢不以礼相待。
没过多久，吕布在阜陵攻打袁术，袁涣前去投奔袁术，结果又被吕布扣留。起初，吕布与刘备结为姻亲，关系和睦，后来却产生了嫌隙。吕布想要袁涣写一封信去辱骂刘备，袁涣坚决不肯答应。吕布再三强迫他，袁涣依然不为所动。吕布恼羞成怒，拔出兵器威胁袁涣说：“你写这封信就能活命，不写就只有死路一条！”袁涣面不改色，笑着回应道：“我听说只有高尚的品德才能让人蒙羞受辱，从未听闻用辱骂可以达到目的。倘若刘备是个君子，他不会因为将军您的辱骂之言而感到羞耻；倘若他是个小人，那他会顺着您的意思回骂，如此一来，受辱的反而是您，而不是他。况且我往日侍奉刘将军，就如同今日侍奉您一样，如果我有朝一日离开这里，又去辱骂您，这样做合适吗？”吕布听后，感到十分惭愧，便不再逼迫袁涣。
后来，吕布被诛杀，袁涣得以归附太祖曹操。据《袁氏世纪》记载：吕布战败覆灭之时，陈群父子当时也在吕布军中，见到太祖曹操后都伏地叩拜。唯独袁涣只是拱手作揖，并不行跪拜之礼，太祖对他十分敬畏。当时，太祖赏赐给众官员数辆车，让他们去吕布军中挑选自己想要的物品。众人都装满了车，搬运大量财物，唯有袁涣只挑选了数百卷书籍以及一些物资粮食。众人听闻此事后，都深感惭愧。袁涣对亲近的人说：“倘若我身处战场，这些书籍和粮食足够当作行军途中的干粮了，我并不想把它们据为己有。有些人却借此来博取名声，现在想来，真是让人懊悔不已。”太祖因此更加敬重袁涣。
袁涣向太祖进言说：“兵器，乃是不祥之物，只有在万不得已的情况下才可以使用。应当用道德来鼓舞士气，用仁义来征伐无道，同时安抚百姓，为他们除去祸患。只有这样，才能让士兵们与您同生共死。自从天下大乱以来，已经过去了十几年，百姓渴望过上安定生活的心情，比被倒挂起来还要急切。然而，暴乱至今仍未平息，这是为什么呢？我想，大概是为政之道出现了偏差吧！我听说贤明的君主善于拯救世道，所以世道混乱时，就用道义来整顿；时世虚伪时，就用质朴来纠正。时代不同，世事变化，治理国家的方法也不能一成不变，这一点不可不仔细明察。制度的增减变化，古今本就不必相同。至于兼爱天下，让社会回归正道，即便用武力平定叛乱，也要用仁德来辅助治理，这实在是历代帝王都不会改变的治国之道。您英明睿智，超越当世之人，古代那些能得民心的方法，您都已经勤勉地施行；如今可能导致失去民心的因素，您也都有所戒备。天下百姓仰赖您，才得以避免危亡的灾祸。然而，百姓尚未知晓仁义，希望您能加以教导，如此则是天下的万幸啊！”太祖对袁涣的这番话深表赞同，采纳了他的建议，并任命他为沛南部都尉。
当时，刚刚招募百姓开展屯田，百姓们对此并不乐意，很多人都选择逃亡。袁涣向太祖进谏说：“百姓们安于故土，不愿轻易迁徙，这种习性不能在短时间内改变。顺应他们的意愿做事就容易成功，违背他们的意愿强行推动则难以奏效。所以，应当顺应百姓的心意，愿意屯田的就接纳他们，不愿意的也不要强迫。”太祖听从了袁涣的建议，百姓们十分高兴。后来，袁涣升迁为梁国相。
袁涣时常告诫梁国所属各县：“一定要关怀鳏寡老人和年事已高的人，要表彰那些孝顺的子女和贞节的妇女。人们常说‘世道太平，礼仪就会详细完备；世道混乱，礼仪就会简略从权’，关键就在于如何权衡把握。如今虽然天下动荡不安，难以用礼仪教化百姓，但这正是我们努力去做的意义所在。”袁涣治理政务，注重以教育训诫为本，凡事深思熟虑之后才行动。他外表温和柔顺，内心却果敢坚毅，能够明断是非。
据《魏书》记载：谷熟县长吕岐与朱渊、爰津关系友善。吕岐派遣他们外出求学，等他们归来后，便打算召见任用，还与他们见面，并准备任命朱渊为师友祭酒，爰津为决疑祭酒。朱渊等人却各自回家，拒绝接受任命。吕岐得知后大为恼怒，率领官吏和百姓将朱渊等人抓捕起来，并且都施以杖刑将他们打死，当时很多人都非议吕岐的做法。袁涣指示不要弹劾吕岐，主簿孙徽等人认为：“朱渊等人的罪行不至于判处死刑，地方长官也没有擅自杀人的权力，孔子曾说‘唯有礼器和名位，不可以轻易给予他人’。将他们称作师友，却又施加重刑将其杀害，这种刑罚与名分相互冲突的做法，实在不能作为典范来宣扬。”袁涣教导他们说：“主簿认为吕岐不向上级请示就擅自行动是有罪的，这一点没错。但认为朱渊等人罪不至死，这就不对了。师友这个名号，从古至今都存在。然而，有君主的师友，也有士大夫的师友。君主设置师友之官，是为了表示对臣子的敬重；臣子有罪，施加刑罚，这是国家的法律。如今不讨论他们的罪行，却称这是杀害师友，这是不对的。主簿把弟子杀害老师的罪名，加诸于君主诛杀臣子的行为上，这两者根本不是一回事。圣明贤哲治理国家，会根据时势的变化而采取行动，所以不必拘泥于常规，有时需要灵活变通。近来世道混乱，百姓时常冒犯上级，即便努力强调尊君卑臣的观念，仍然难以杜绝此类现象。在这种情况下，还要助长这种错误的风气，这难道不是很荒谬吗？”于是，最终没有弹劾吕岐。
后来，袁涣因病辞去官职，百姓们都十分思念他。之后，他又被征召为谏议大夫、丞相军祭酒。袁涣前后得到的赏赐非常多，但他都把这些赏赐散发给他人，家中没有积蓄。他从不计较产业之事，生活匮乏时就向别人求助，他并没有刻意做出清高廉洁的举动，但当时的人们都钦佩他的清正品德。