此都称赞陈群是慧眼识人。陈群后来又先后被任命为萧县、赞县、长平县的县令。父亲去世后，他辞官回乡，奔丧守孝。后来以司徒掾的身份在官吏考试中被列为优等，被举荐担任了执掌律令的治书侍御史，后又转任参与相府军事谋议的参丞相军事。魏国建立后，升任主管起奏弹劾不法官员的御史中丞。当时曹操正和大臣们一起商议是否有必要恢复肉刑(对罪犯斩断肢体或割裂肌肤的刑罚)，就下令说：“从哪儿才能找到一位明晓事理、通达古今的君子，让他来评论评论这件事呢？从前陈鸿胪(即陈群的父亲陈纪，献帝时曾任大鸿胪)认为死刑可以有助于树立起君王的仁德恩惠，说的就是要对他们施以肉刑。
御史中丞你能陈述一下你父亲的观点主张吗？”陈群回答说：“臣下的父亲认为汉朝废除肉刑而增加鞭打、杖击，本意是出于仁恻之心，想减轻对犯人刑罚，但没有想到死去的人却越来越多。正所谓名义上减轻而实际上加重了。因为名义上减轻了刑罚，老百姓容易忽略而犯罪，这样实质上却加重了刑罚，老百姓也更容易受到伤害。《尚书》说：惟敬五刑，以成三德(只有敬畏、慎用墨、劓、..、宫、大辟五种刑罚，才能养成刚、柔、正直这三种德行)。《周易》上也记载着割鼻、断足、砍脚趾的刑法，这些都是用来辅助政教、惩治邪恶的。况且杀人偿命，也合乎古代的制度；对于把人打伤或毁坏别人的身体的罪犯，只是剃去头发圈住脖颈干活服役，就不合道理了。如果沿用古刑，使奸淫者受宫刑(残割男子的生殖器或破坏女子的生殖机能)，然后再把犯人关入蚕室(温暖密闭的屋子)，使偷盗者受刖刑(断足)，那么就永远不会发生淫乱盗窃一类的坏事了。据说古代适用五刑的犯罪行为有三千多种，虽然不能全部恢复，但是像奸淫者下蚕室、偷盗者刖其足这样的刑罚，由于奸淫、偷盗正是时下常有的祸患，因此应该首先施行。按照汉朝法律，对于罪大恶极的犯人应当斩首，这是不能顾及所谓仁义的。但是对于其他刚够死刑、可杀可不杀的犯人，就可以施以肉刑。
这样，所受之刑与所犯之罪就可以相抵了。如今以鞭打、杖击处死的刑法代替肉刑，实在是只重视人的肢体而轻视人的性命啊！”当时钟繇和陈群的意见相同，王朗及其他一些参与讨论的大臣却大都认为此法不可施行。曹操对钟、陈二人的看法深为赞同，只是因为战事连绵，又顾及众人的议论，故暂且将此事搁置一旁。以后陈群又转任侍从天子左右的侍中，兼主管选拔举荐的丞相东西曹掾。他在朝廷里对人对事从不抱个人成见，而是一向看重名分，从不以不正之道施加人
