אגדות שונות קושרות את לידתה של הכנסייה הארמנית עם שליחיו של ישו. ליוחסין האפוסטולי חשיבות רבה בעיני כנסיות רבות, ובמיוחד בעיני אלו המזרחיות. האגדה בדבר הירפאותו של אבגאר החמישי מאדסה על ידי המנדיליון הקדוש, הבד שכיסה את פני ישו המת, נוכסה על ידי הכנסייה הארמנית בטענה כי אבגאר היה נסיך ארמני. מסורת נפוצה יותר טוענת, כי תדיאוס הקדוש, אחד משנים-עשר השליחים, נשלח לארמניה מאדסה על ידי אבגאר, דודו של סאנאטרוק מלך ארמניה, כדי שיפיץ בה את בשורת הנצרות. גרסאות הסיפור שונות זו מזו במידה ניכרת, אך כולן מתארות כיצד ניצר תדאוס את סנדוקהט, בת המלך. על פי כמה מן הגרסאות סאנאטרוק עצמו התנצר, אך מאוחר יותר הפך שוב לכופר, ועל פי אחרות לא התנצר מעולם ומתמיד היה עוין את הנצרות. מכל מקום, תדאוס וסנדוקהט גם יחד הומתו על ידי סאנאטרוק בשל אמונתם. ישנן אגדות המספרות כי השליח ברתולומאוס הגיע אף הוא לארמניה באותו זמן וגם הוא מת כמרטיר. חוקרים בני זמננו אומנם מטילים ספק באמיתות ההיסטורית של סיפורים אלה, אך אין חולק על קדמותה של הכנסייה בארמניה. אוסביוס מקיסריה וטרטוליאנוס מזכירים בכתביהם רדיפות נוצרים בארמניה כבר בשנים 110, 230 ו-287.ממלכת ארמניה הייתה המדינה הראשונה שאימצה את הנצרות כדתה הרשמית. הדבר אירע על פי המסורת בשנת 301, כאשר גרגוריוס הקדוש “המאיר” ניצר את טירידאטס השלישי ואנשי חצרו. גרגוריוס, שלמד וקיבל סמיכה בקיסריה, שב בסביבות 287 לארץ מולדתו כדי להטיף בה, הזמן בו עלה טירידאטס השלישי לכס המלכות. טירידאטס חב את מעמדו לקיסר הרומי דיוקלטיאנוס, רודף נוצרים ידוע בעצמו. יתר על כן, נודע לו כי גרגוריוס הוא בנו של אנאק, האיש שהתנקש בחיי אביו. על כן ציווה להשליכו אל בור כלא, שנקרא חור ויראפ. שלוש-עשרה שנים אחר כך, ב-301, הגיעו אל ארמניה שלושים ושבע עלמות נוצריות, שנמלטו מפני רדיפות הרומאים. טירידאטס חשק באחת מהן, ריפסימה, וביקש לקחתה לו לאישה, אך היא סרבה, ובכעסו הוציא המלך להורג את כולן. זמן קצר אחר כך העניש אותו האל במחלה שהותירה אותו זוחל כחיה, בדומה לאשר קרה לנבוכדנאצר, על פי המסופר בספר דניאל ד’, כב. קסוסרובידוקסט, אחות המלך, חלמה חלום, בו נאמר לה כי רדיפת הנוצרים חייבת להיפסק. היא סיפרה זאת לטירידאטס, והוא שחרר את גרגוריוס מן הכלא. גרגוריוס ריפא את טירידאטס והמיר את דתו לנצרות. מיד משנרפא פקד טירידאטס על כל נתיני ממלכתו להתנצר, וכך הפכה ארמניה למדינה הראשונה שדתה הרשמית היא הנצרות.טירידאטס מינה את גרגוריוס כקתוליקוס הראשון של הכנסייה, ושלח אותו לקיסריה כדי לקבל סמיכה. עם שובו ניתץ גרגוריוס את כל מקומות הפולחן האליליים, בנה כנסיות ומנזרים והסמיך מאות כמרים ובישופים. פעם אחת, כשהיה בעיר הבירה העתיקה וגהרשפט והוא שקוע במחשבות, נגלה ישו לגרגוריוס כשהוא יורד לארץ ומכה בה בפטיש. מן המקום צמח ועלה מקדש נוצרי גדול וצלב ענק בראשו. גרגוריוס הבין כי האל הטיל עליו לבנות במקום זה את הכנסייה הארמנית הראשית. הוא מילא אחר דבר האל בעזרתו של המלך, והחליף את שם העיר לאצ’מיאדזין, שפירושו “המקום בו ירד הנולד היחיד”.בתחילה הייתה הכנסייה הארמנית חלק מעולם הכנסייה הגדול יותר. הקתוליקוס שלה היה השתתף בקונסיל האקומני הראשון של ניקאה ובקונסיל האקומני הראשון של קונסטנטינופוליס. מאחר שלא יכול היה ליטול חלק בקונסיל של אפסוס, שלח הקתוליקוס איזאק פרטייב איגרת כי הוא מסכים לכל החלטותיה. הכנסייה הארמנית החלה מתרחקת מעולם הכנסייה הגדול יותר ב-373, כאשר המלך פאפ מינה את הקתוליקוס יוסיק מבלי לשלוח אותו קודם לקיסריה כדי שיקבל סמיכה לתפקידו.הנצרות הלכה והתחזקה בארמניה בעקבות תרגום התנ”ך לארמנית על ידי התאולוג הארמני, הנזיר מסרוב הקדוש. עד המאה החמישית הייתה הארמנית שפה מדוברת אך לא כתובה. התנ”ך והליטורגיות היו ביוונית. הקתוליקוס סאהק הטיל על מסרוב ליצור אלפבית ארמני, והוא השלים את המלאכה ב-406. התנ”ך, התפילות ומזמורי הקודש תורגמו לארמנית ונכתבו בכתב החדש, והדבר פתח תקופה של פריחה ספרותית והתחדשות תרבותית ארמנית.שלא כמו בכנסיות מזרחיות אחרות, התנ”ך הארמני כלל בתחילה רק 39 מספרי הברית הישנה. הספרים המכונים אפוקריפה או חיצוניים תורגמו רק במאה ה-8 ולא נקראו בכנסיות עד המאה ה-12