古代为什么称太监为公公“太监”和“宦官”在清朝以前不是相同的概念。宦官早在战国时期就有，不过那时的宦官并非全是阉人，“悉用庵人”是东汉以后的事情。“太监”一词，辽代才出现，明代，太监和宦官才发生联系；太监是宦官的上司，是高级宦官；充任太监的必须是宦官，而宦官却不都是太监。到了清朝，太监才成为宦官的同义语。
公公是对太监的尊称，因为太监，特别是高级太监最接近皇帝，权势极大，最了解皇帝的心思，在朝为官者有些时候不得不依靠太监揣摩皇帝的心思，或者借助大太监的权势往上爬，要是直呼其为太监，那是在侮辱他，所以尊称为公公，以示尊敬。至于“公公”的称谓到底何时开始，由何而来，这个就不得而知了。
寺人是宦官的早期称谓。曾有人望文生义地认为“寺人”之得名，是因阉割后的男人，已如寺院中斩断情缘的苦行僧一般，故而以“寺”名之。其实，寺人的称谓早在西周时代即已出现，当时中国境内尚无佛教，更无僧人，因而也不可能存在两者类比得名的情形。究其根由，古代“寺”、“侍”两字相通，《诗经·秦风》郑氏笺云：“寺，又音侍，本亦作侍字。”所以，寺人是因其内廷侍奉的职掌而得名的，“云寺之言侍者，欲取亲近侍御之义，此奄人也。”
宦官，又作“宦者”、“宦人”，是古代官方文书中对宫廷阉臣的正规称谓，历代正史为阉人作传，多称“宦官传”或“宦者传”。从“宦”的字义分析，本应包括臣隶及仕官在内，通常人们所言宦海、宦途、宦游，其实仍旧是由“官”而言的。宦官或宦者成为宫中阉人的专称，大约是秦汉之后的事。
以“太监”作为宫中阉人的通称，是明清时代的事情。太监本是古代职官的名称，晚至唐宋时期，朝廷中仍有太监官职的设置，所任者并非都是阉人。明代在宫廷中设置了由宦官所领的二十四衙门，各设掌印太监，是宫廷中的上层宦官。此后，太监逐渐成为宫中阉人带有尊敬色彩的通称。人们还由汉代宫廷阉宦的官服以貂尾和“铛”为冠首饰物，而将宦官称为貂铛。据《汉官仪》云：“中常侍，秦官也。汉兴，或用士人，银铛左貂；光武以后，专用宦者，右貂金铛。”汉宫侍中、中常侍，加黄金当附蝉，貂尾为饰。侍中作为朝廷的普通官员多插左貂，由宦官担任的中常侍则插右貂，用赤黑色貂尾。从中也可看出，宫中宦者的服饰与普通官员是略有区别的。
除了上述两大类外，还有以其生理特征与常任职役组合而称的情形。这类称呼也很多，如有宦寺、阉寺、阉宦、宫监、貂寺、内铛等等。再是有带明显感情色彩的称谓，如鄙称有宦竖、阉竖、内竖以及阉狗等，尊称有公公、老爷等。
宫廷中的宦官彼此之间一般都以“爷”互称，姓张称张爷，姓李称李爷。遇到辈分比自己高的宦者应称“师父”，对外人则通常自我谦称为“刑余之人”。据晚清宫廷中的太监池焕卿等回忆，“太监们不喜欢人们把他们直称作太监，如果你把他们叫做公公，那简直是骂他们八辈祖宗。”由此可见，在太监们的内心深处，还是希望人们能像普通人那样的，称其为“爷”的。