תלמידו של רבי עקיבא והיה אחד משבעת תלמידיו האחרונים שמילאו את ארץ ישראל בתורה
מקור כינויו 'הסנדלר' אינו ברור. יש אומרים שכונה כך משום שהיה מייצר סנדלים.
היה אחד משלושת החכמים שביקשו לעזוב את ארץ ישראל בכדי ללמוד אצל רבי יהודה בן בתירא בנציבין, אך נמלכו בדעתם וחזרו, מפני ש"ישיבת ארץ ישראל שקולה כנגד כל המצוות שבתורה"
אמרותיו
"רבי יוחנן הסנדלר אומר: כל כנסיה שהיא לשם שמים – סופה להתקיים, ושאינה לשם שמים – אין סופה להתקיים" [משנה אבות ד, יד].
משער הכניסה לציון הרשב"י עולים עם הכביש עד לשער של ישיבת בני עקיבא, שם פונים שמאלה עם הכביש העולה בצמוד לגדר הישיבה ולאחר כ-200 מטר מגיעים לציון ר' יוחנן הסנדלר.
בל"ג בעומר בשתיים בלילה, למי שחפץ בניגוני נשמה- הכליזמר מוסא ברלין כל שנה מנגן בציונו של יוחנן הסנדלר ניגונים המבקיעים שערי שמיים…..