הזית היה הסמל של כל הים התיכון בימי קדם. יחד עם האלון, זהו העץ הנערץ ביותר במיתולוגיה היוונית. מעניין שהיוונים השתמשו בזיתים כמקור השומנים העיקרי. בשר היה האוכל של הברברים ולכן נחשב לא בריא.
המיתולוגיה היוונית מסבירה את מקורו של עץ הזית באתונה באופן הבא. אתנה היא בתם של זאוס (האל העליון של המיתולוגיה היוונית) ומטיס, שסימל ערמומיות וזהירות. אתנה הייתה אלת מלחמה שתכונותיה היו חניתות, קסדה ומגן. בנוסף, אתנה נחשבה לאלת הצדק והחוכמה, המגינה של האמנות והספרות. החיה הקדושה שלה הייתה הינשוף, ועץ הזית היה אחד מסמליה המובהקים. הסיבה לכך שהאלה בחרה בזית כסמלה מוסברת בסיפור המיתולוגי הבא:
ביוון, עץ הזית מסמל שלום ושגשוג, כמו גם תקומה ותקווה. מעידים על כך האירועים שהתרחשו לאחר שריפת אתונה על ידי המלך הפרסי קסרקסס במאה ה-5 לפני הספירה. זירקסס שרף את כל העיר האקרופוליס, יחד עם עצי הזית האתונאים בני המאה. אולם כשנכנסו האתונאים לעיר החרוכה, עץ הזית כבר החל בענף חדש, המסמל את ההתאוששות המהירה וההתחדשות אל מול המצוקה.
הרקולס, אחד הגיבורים המיתולוגיים המפורסמים ביותר, מזוהה גם עם עץ הזית. למרות גילו הצעיר, הרקולס הצליח להביס את האריה צ'יטארון רק בעזרת ידיו ומקל של עץ זית. סיפור זה האדיר את הזית כמקור כוח ומאבק.
עץ הזית, בהיותו קדוש, שימש לעתים קרובות כמנחה לאלים מבני תמותה. זה מתואר היטב בסיפורו של תזאוס, הגיבור הלאומי של אטיקה. תזאוס היה בנו של מלך אטיקה האגאי, שעבר אינספור הרפתקאות במהלך חייו. אחד מהם היה העימות עם המינוטאור באי כרתים. לפני הקרב, תזאוס ביקש מאפולו הגנה גם כן.
פוריות הייתה תכונה נוספת של עץ הזית. אתנה היא אלת הפוריות וסמלה היה אחד העצים המעובדים ביותר ביוון, שפירותיו האכילו את ההלנים במשך מאות שנים. לפיכך, מי שרצה להגדיל את פוריות אדמותיהם חיפש את הזית.
הקשר בין החברה היוונית העתיקה לעץ הזית היה אינטנסיבי מאוד. הזית סימל כוח, ניצחון, יופי, חוכמה, בריאות, פוריות והיה מנחה קדושה. שמן זית אמיתי נחשב לחפץ בעל ערך גבוה והוצע כפרס לזוכים בתחרויות.