他廉洁俭朴两袖清风。晚年经常在外讲学。冬天戴一顶旧呢帽，穿件青布棉袄。平时常穿蓝涤卡中山装，灰色的确良裤，背上背着薄薄的铺盖卷，手提一个半旧尼龙编织袋，朴素得象普通农民。为减轻接待单位的负担，他常住教室或集体宿舍。1989年在北京讲学，吃住都挤在堂弟家。临走时接待单位送给他500元，以补偿他来往之费用，他坚决退回。离休后，他应邀赴全国137省的40多个地区讲学， 课时达1300小时，有10余万师生受益，如按教授级课时计算，他应得合法收入1万多元。可他分文未取。
他每月收入300多元， 除一家必须生活费外，余钱都支援了灾区和有困难的同志。10多年间他共捐助了上万元。他写的几部数学专著都不要稿酬。目的是为了降低书的成本，便利广大师生购买。他去世后，人们看到他的家私俭朴，令人惊叹! 几件50年代的旧家具，竟没有一件高档电器和像样的衣服。
唐以荣逝世后，《中华老年报》刊载了他的优秀事迹。并发表题为《重于泰山》的社论，高度赞扬他：“是一位真正的人、中国人、共产党人；为人民教育事业鞠躬尽瘁”、“比泰山还重”、“永垂青史”。