中国内部是一个多民族的国家，外部与境外异族往来也很频繁，因此历代朝廷都设有专职或机构，从事翻译工作，不过大都是地位不高。
周朝
在周代以前，长四方之语，各有其官。《礼记》：“东方曰寄，南方曰象，西方曰狄鞮(读低)，北方曰译”。宋法云《翻译名义集》：“像胥氏通六蛮语，狄鞮主七戎，寄司九夷，译知八狄”，到了周朝以后，这些“通夷狄之言”的人，才统称为“像胥” 。
《周礼?秋官》中的“像胥”一职，负责出使蛮夷闽貉戌狄之国，掌握这些周边民族事务之人，就是最早见诸文字记载的翻译官。像胥按照对外族语言熟悉的程度，还分“上士一人、中士二人、下士八人及徒二十八人”，要负责传达王命，也要上传各地情势，以利国王统治与安抚邦国诸侯。
汉朝
到了汉朝武帝时，朝廷设立主管少数民族与外国事务的的部门——大鸿胪，其下设有属官有译官令(九译令)及丞，专责翻译。有学者认为，从秦汉以来，北方匈奴始终是朝中心腹之患，处理北方事务是朝中重要政务，把周制的“像胥”改以北方的“译”为官名。此外，为了配合中外交往的需要，汉代在学校中还开展了外语教育，培养翻译人才。《汉书?食货志上》：“八岁入小学，学六甲五方书计之事”，五方之书即相当于今之外语书。
魏晋南北朝唐
魏晋南北朝时，各民族进一步大融合，会外族语言的人愈来愈多，到了唐代，与外国关系更密切，翻译人员也就更多了。不过，整体来说，从南北朝至唐代，官方的翻译机构和译员主要从事佛经的翻译工作，唐代译人和译经数量的是历代之冠。相比之下，官方编制的翻译人员就十分有限，在《唐六典》中记载，“鸿胪寺译语并计二十人，”此外，中书省也配置译语人，称“直中书译语”。译语人品级地位不高，其升迁不超过从七品下的典客署令职位。但是，他们往往被委派出使西域等重要任务。
宋辽金
宋辽金对峙时期，为了知已知彼的需要，宋朝在生员考试中增加了翻译女真文、契丹文和西夏文的内容。而西夏、辽和金国，为了吸收中原地区的先进文化，特别重视翻译工作。
党项族李元昊建立西夏，创制西夏文字，重儒兴佛。官方选派贵族官僚子弟翻译《孙子兵法》、《六韬》、《贞观政要》等大量汉文典籍与佛教经典。佛教是西夏的国教，刻字司只是负责印制佛经佛画的官方机构，与翻译工作没有关联。
契丹族耶律阿保机建立辽国，除了仿效汉字创制契丹文字，也仿效汉制设立百官。官方不仅重视汉文书籍的收集，也很注重翻译的工作 在州以上行政机关设立专门的译文机构。辽道宗下诏制定了译史的升迁等级，按照供职时间长短和工作水平的高低决定其是否升职，藉以激励译员。
女真族完颜阿骨打建立金国，创制女真文字，也推行汉化政策，朝廷先后设立译经所，弘文院，将《孝经》、《易》、《书》、《论语》、《孟子》等汉文典籍儒学经书译成女真文。金世宗对宰相们说：“朕之所以命令翻译五经是要女真人知道仁义道德所在”。
元朝
蒙古族忽必烈(元世祖)建立元朝，下诏推行“八思巴文”(如上图)为元朝官方文字，但是终究无法取代既有的蒙文、汉文、藏文。元朝先后设置蒙古房、蒙古官学、唐古特学、托忒学等官署，培养语文人才，负责翻译蒙文、回文、藏文书籍。
在元代，由西方东迁，旅居在中国的西方人，除了传统的经商、旅行之外，更多的是通过降附和俘虏，西人数目之多，远远超过前此的任何时代，其中能作为口语翻译者，蒙古语称之为怯里马赤(Kelemeci)，未非正式编制的官职。元朝在大都(今北京)设立的会同馆，才是正式负责口译的官方机构。
明朝
明朝初年，朱元璋(明太祖)在南京应天府设会同馆之外，也命人编撰蒙汉对译的辞书《华夷译语》，方便官员对外交涉过程中言语沟通之便。明成祖在京城首设四夷馆，专门负责笔译，隶属翰林院，选取国子监生培训。下分八馆：鞑靼馆(蒙古语)、女直馆(女真语)、西番馆(藏语)、西天馆(梵语)、回回馆(波斯语)、高昌馆(察合台语)、百夷馆(傣语)、缅甸馆(缅甸语)，“置译字生、通事，通译语言文字”。又增设暹罗馆(泰语)，八百馆(泰沅语)共为十馆。而后该馆不断扩增，截至明成化五年(1469年)已有附属馆18处，包括朝鲜馆(朝鲜语)、日本馆(日语)、琉球馆(琉球语)、安南馆(越南语)、真腊馆(高棉语)、暹罗馆(泰语)、占城馆(占语)、爪哇馆(爪哇语)、苏门答喇馆(亚齐语)、满剌加馆(马来语)、河西馆(河西语)…俨然近悦远来的泱泱大国之势。
清朝
清顺治元年(1644年)，满洲人入关，将很刺耳的“四夷馆”更名为“四译馆”，百夷馆更名“百译馆”，撤销鞑靼馆和女直馆。乾隆年间再将“四译馆”和专门接待少数民族官员和外国使臣的“会同馆”合并，改称“会同四译馆”，分设西域、八夷两馆，重新编纂各馆的(西番)《译语》。这些通译官职级依旧不高，一般为七、八品。光绪年间，各使馆的头等通译官始提高待遇，定为正五品，限额一名，严禁超编。整体说来，清王朝走向闭关自守，不愿与外国交往的同时，也就不注重翻译人才的培养，到了晚清，官府所需的翻译人才，只能从官派留学生中去寻找了。