于谨（493年—568年），字思敬，北朝时期洛阳人。他出身于世代官宦之家，是北魏名将于栗的六世孙。于谨性深沉，有识量，通经史，尤好《孙子兵法》。他是北周开国功臣。
于谨曾率兵征伐茹茹，攻铁勒，皆取得大胜。从北魏孝明帝正光五年（524年）到节闵帝普泰元年（531年），于谨多次率兵镇压各地的起义和割据势力，战功显赫，官职、爵位不断提升，历任积射将军、别将、都督、宣威将军、征北大将军、金紫光禄大夫、散骑常侍、大都督。在高欢讨灭尔朱势力战争中，于谨率部西入关中，投奔贺拔岳。贺拔岳表奏于谨为留镇，官拜卫将军、咸阳郡守。
孝武帝永熙三年（534年），贺拔岳被侯莫陈悦杀害，于谨转投宇文泰，并劝说宇文泰据守关中，招集英雄豪杰，养精蓄锐，然后请天子迁都关中，挟天子以令天下，以成就大业。
东西魏分立后，于谨跟随宇文泰东征，他率兵攻破回洛城，因功授使持节、车骑大将军、仪同三司、北雍州刺史，晋爵蓝田县公。西魏文帝大统三年（537年）八月，西魏大军东征，于谨为前锋，攻克盘豆要塞，俘敌1000余人，并乘胜攻克弘农，俘东魏陕州刺史李徽伯。继而在沙苑之役中，随宇文泰力战破敌，因功晋爵常山郡公。后又战于河桥，官拜大丞相府长史，兼大行台尚书、大都督、大将军、恒州刺史、太子太师。
大统九年（543年），于谨再次随宇文泰征东魏，攻克河洛要地柏谷坞。后在邙山大战中，西魏大军失利，于谨率部假装投降，立于道旁，待高欢军通过后，于谨命部众从背后袭击东魏军，反败为胜，立下大功。大统十二年（546年），于谨官拜尚书左仆射，领司农卿。次年，侯景叛东魏，并派人向西魏求援，要求归降。宇文泰命大将李弼率兵东进策应侯景。于谨认为侯景为人狡诈多变，这种局势难测之时，只可派人安抚，静观其变，不可发兵接应，但宇文泰不听，后来侯景果又叛西魏而投梁。
南朝萧绎在平定“侯景之乱”后称帝于江陵。萧绎暗中与北齐联合，准备共伐西魏。而其侄岳阳王萧詧据襄阳投靠西魏，并请求西魏出兵援助。宇文泰派于谨领兵攻打江陵。于谨料定萧绎必定死守城池，遂命中山公宇文护与大将军杨忠率精骑先据江岸，切断梁兵归路，于谨自率大军围敌。梁元帝萧绎-率百官投降，10多万人成为俘虏，于谨因功被封为新野郡公。此时，于谨自觉“久当权势，位望隆重，功名既立，愿保优闲”，多次要求解甲归田。宇文泰不准，特升他为大司徒。
西魏恭帝末年，北周代西魏，于谨晋爵燕国公，官至太傅、大宗伯，与李弼、侯莫陈崇等共同参与朝政。武帝保定三年（563年）四月，北周武帝以于谨为三老，并在太学举行隆重的拜师仪式。
天和二年（567年），于谨被授雍州牧。次年，76岁的于谨去世，武帝亲自去吊唁，令谯王宇文俭监护丧事，王公以下，并送出郊。