La communauté arménienne de Roumanie est considérée comme l'une des plus anciennes d'Europe. Les Arméniens se sont installés dans ces régions depuis le Xe siècle, dès 967. Une inscription en pierre tombale dans la ville moldave de Cetatea Albă témoigne de leur présence. Dans la même période, la présence d'Arméniens est attestée en Transylvanie, où sous les règnes du duc Geza et de son fils Étienne 1er de Hongrie (975-1038), ils reçoivent privilèges et titres de noblesse. Les Arméniens émigrent en Roumanie via Ani, la Crimée et Ackerman (Cetatea Albă). Leur flux s'intensifie surtout après la chute d’Ani et du royaume arménien de Cilicie (1375).
Au cours des siècles suivants, leur nombre augmente après la chute de Constantinople en 1453, l'occupation turque de la Crimée en 1475, et après les déportations massives des Arméniens du Shah Abbas vers l'Iran au début du XVIIe siècle. De nombreux Arméniens se dirigent vers le territoire roumain depuis la Pologne, où ils sont soumis à une politique de catholicisation forcée au milieu du XVIIe siècle. À la fin du XIXe siècle et au début du XXe siècle, le nombre d'Arméniens en Roumanie augmente fortement en raison de la politique de persécution des Arméniens dans l'Empire ottoman, des massacres hamidiens et du génocide de 1915.