העלייה השנייה התרחשה בתקופת השלטון העות'מאני, בין 1904 לקיץ 1914. כ־35,000 עולים הגיעו אז לארץ, רובם מתימן וממזרח אירופה. בסוף התקופה מנו היהודים בארץ כ־85,000 נפש. חלק מהעולים בנו מסגרות רעיוניות וארגוניות שהשפיעו עמוקות על היישוב.
הם כללו קשר דתי והיסטורי לארץ, ועליית רעיונות הציונות (ציונות = רעיון החזרה והקמת בית לאומי ליהודים בארץ ישראל). אך העלייה היתה גם חלק מגל הגירה עולמי גדול ששלח מיליוני אנשים מאירופה, בעיקר לארצות הברית. מהמזרח אירופה היגרו יהודים בשיעור גבוה; חלקם הגיעו דווקא לארץ. מניעים נוספים היו קושי כלכלי, גידול אוכלוסייה וברדיפות אנטישמיות בולטות, כמו פרעות קישינב (1903) ואירועים אחרים בשנים הבאות.
עוד מניעים היו קריאה לעלייה מאנשי מושבות, הדיון על "תוכנית אוגנדה" כחלופה לארץ, ופטירת הרצל ב‑1904, שהשפיעה רגשית על רבים.
רוב העולים היו ממזרח אירופה, משפחות דתיות מסורתיות, וכן צעירים רווקים בעלי אידיאלים. כ‑63% היו גברים. חלק מהצעירים שאפו ל"אדם חדש" ולחברה חדשה דרך עבודה וחקלאות. רבים תמכו בעברית כשפת תרבות וחינוך.
בתחילת התקופה היה משבר כלכלי, במיוחד בענף הכרמים שהיה מספק מקומות עבודה. רוב העולים התיישבו בערים כמו יפו, ירושלים, טבריה וחברון. מציאת פרנסה היתה קשה, ושיעור היורדים חזר לארץ המוצא היה גבוה; עד 1912 הגיע לכ‑70, 75%, ובשנים האחרונות של התקופה ירד לכ‑50% בקירוב.
נבנתה רשת חינוך עברי: גנים, בתי ספר, סמינרים למורים ובתי ספר בולטים כמו הריאלי בחיפה. התפתחות העברית והניצחון על "מלחמת השפות" חיזקו חינוך ערכי־לאומי ויצרו ארגונים חינוכיים לתמיכה בשפה ובעקרונות ציוניים.
נוסדה שכונת אחוזת בית ב־1909, שמה בהמשך תל אביב. ירושלים, חיפה ויפו התפתחו; לערים הגיעו גם משקיעים ותשתיות חדשות.
הופיעו קומונות וקבוצות חקלאיות שניסו ליצור צורות התיישבות שיתופיות. דגניה הוקמה כסמל הקבוצה ב‑1912. חוות לאומיות נוסדו על אדמות קק"ל (קק"ל = קרן שקונה אדמות לצורכי היישוב) והפכו למשקי חקלאות.
צמחו מפלגות ועקרונות פועלים־לאומיים. רעיון מרכזי היה "כיבוש העבודה", עידוד יהודים לעבוד בעבודת כפיים ובחקלאות, כדי להתחבר לארץ ולבנות חברה עצמאית. שתי מפלגות חשובות היו מפלגת הפועל הצעיר ו"פועלי ציון". למרות הבדלים אידאולוגיים, שתיהן תמכו בעלייה, בעבודה ובעצמאות.
התעוררו קונפליקטים בין איכרים ותיקים לפועלים החדשים. האיכרים העדיפו פועלים ערבים במחיר זול, והסוציאליסטים ראו בכך איום אידאולוגי וכלכלי.
הופיעו ארגוני הגנה יהודיים, ובראשם "השומר", שנועדו להגן על ההתיישבות. ארגון זה חיזק מודעות ביטחונית ושימש בסיס לארגונים מאוחרים יותר.
היו מתחים עם היישוב האשכנזי החרדי, שנתפס בעיניו כאיום על אורח החיים הדתי. יוצא דופן היה הרב א.י.כ. קוק, שראה בחלק מהחלוצים יכולות נפשיות ושילב גישה ביקורתית אך תומכת. היישוב הספרדי גילה יחס אמביוולנטי: תמיכה כלכלית לעתים לצד הסתייגות מהציונות המדינית.
המחקרים חלוקים: יש הטוענים שהחלוצים האידאולוגיים היו מיעוט מספרי, אך השפעתם על התודעה וההיסטוריה היתה גדולה.
העלייה השנייה ארעה בין 1904 ל‑1914. כ־35,000 יהודים עלו אז לארץ. רובם הגיעו מתימן וממזרח אירופה. בסוף התקופה היו כ‑85,000 יהודים בארץ.
אנשים רצו לחיות בארץ בגלל הקשר ההיסטורי והאמוני. גם היו קשיים כלכליים ורדיפות בארץ המוצא. היו פרעות שנפגעו מהיהודים, וזה גרם להרבה משפחות לנסות לעזוב.
הגיעו משפחות דתיות ומלאי צעירים עם רעיונות חדשים. רבים רצו לעבוד אדמה ולדבר עברית.
בהתחלה הכלכלה היתה קשה. הרבה עולים חיפשו עבודה בערים כמו יפו וירושלים. חלק גדול חזרו לארצותיהם כי לא מצאו פרנסה.
נפתחו בתי ספר בעברית. לימדו את השפה והערכים של העם החדש.
נוסדו שכונות חדשות, כמו אחוזת בית (שיהפוך לתל אביב). גם הוקמו קבוצות חקלאיות כמו דגניה. קק"ל (קק"ל = ארגון שקונה אדמות) סייעה ברכישת אדמות.
הוקמו קבוצות של פועלים עם רעיונות שוויון ועבודה. גם הוקם ארגון "השומר" לשמירה והגנה על היישובים.
היו מתחים עם הקהילות הדתיות הוותיקות. חלק מהמנהיגים הדתיים תמכו בחלק מהחלוצים, ואחרים לא הסכימו איתם.
בסוף, אותה תקופה השפיעה הרבה על התפתחות היישוב היהודי בארץ.