שמואל הנביא, ירושלים