אולי המשימה הקשה ביותר, שעמדה בפני שארית הפליטה, הייתה – הוצאת ילדים יהודיים מידי מציליהם הנוצרים ומהמנזרים. איתור הילדים היה קשה, אולם רוב המוסדות היהודיים העמידו את נושא השבת הילדים לחיק העם היהודי בראש מעיניהם, תחת הססמה: "אידישע קינדר צוריק צום לעבן".
הראשונים שפעלו למען מטרה זו בצורה מאורגנת היו אנשי ועד הקהילות הדתיות בפולין. הרב דוד כהנא, שנוסף על תפקידו בתור הרב הצבאי הראשי בצבא הפולני עמד בראש הוועד, הטיל את ביצוע המשימה בקיץ תש"ה על ישעיהו דרוקר, איש המזרחי שהיה קצין בצבא הפולני. כמה חודשים מאוחר יותר הקימו חברי המפלגות הציוניות את הקואורדינציה הציונית לגאולת ילדים יהודיים. פעילה נוספת בתחום פדיון הילדים הייתה האישה החרדית שרה לדרמן. היא פעלה למעשה באופן עצמאי להוצאת ילדים ממנזרים וממשפחות פולניות, ולהעברתם לבית היתומים היהודי בביטום.
השגת המידע על מקום הימצאם של ילדים יהודיים הייתה מלאכה לא פשוטה. רבים מהמצילים לא התנדבו ליידע את הארגונים היהודיים על ילדים הנמצאים ברשותם. מידע רב הגיע מיהודים ששרדו את השואה ושבחזרתם למקום מגוריהם נודע להם על ילד יהודי השוהה אצל משפחה נוצרית. מקור מידע אחר היה אזרחים פולניים, שחלקם אף קיבלו עבור כך שכר. בנוסף לכך פיתחו הפעילים השונים דרכים מקוריות להשגת מידע בנושא, כפי שמתארת החוקרת אמונה נחמני גפני:
[ישעיהו] דרוקר, למשל, קיבל מידע משוערי הבתים, שבדרך כלל התגוררו באותו מקום במשך פרק זמן ממושך והכירו את התושבים. לעתים הוא היה מניח בידיהם סכום כסף כדי לעודדם לטרוח, וכעבור פרק זמן חוזר כדי לקבל את "התמורה". מרישה [דבורה זילבר] הייתה סובבת בכפרים לבושה כאיכרה, ואגב מכירת דברי סידקית וממתקים בימי השוק, יוצרת קשרי אמון וידידות עם אנשים שונים, ובייחוד עם ילדים, מדרבנת, שואלת וחוקרת, מתעלת ומנווטת את השיחות לבירור מקום הימצאם של ילדים יהודים. [לייבל] זמושץ' היה מבלה שעות רבות בבתי מרזח ושותה וודקה עם באי המקום, בציפייה לשלב שבו תותר לשונם של חבריו לשתייה – או אז היה גורר אותם לשיחות על יהודים בכלל ועל ילדים יהודים בפרט.
(אמונה נחמני גפני, לבבות חצויים, ירושלים: יד ושם, תשס"ו, עמ' 191–192)
לא כל המצילים הנוצריים ששו להשיב את הילדים לידיים יהודיות, והיו אף כאלה שדרשו כסף רב תמורת השבת הילדים. הארגונים היהודיים נדרשו לגייס אמצעים כספיים לצורך פדיון הילדים, ונאלצו לא אחת לפנות לבתי המשפט, על מנת שיורו לאזרחים נוצריים ולאנשי המנזרים למסור את הילדים לידי קרוביהם ולידי הארגונים היהודיים, או אפילו רק לגלות לאן הועברו הילדים. כמו כן, לא אחת נאלצו חברי הארגונים הללו להוציא את הילדים בעל כורחם, וחלקם אף התייסרו על פעולות כאלה. זרח ורהפטיג, שהיה פעיל בפדיון הילדים, הביע את עמדתו בנושא:
חסרה הייתה לאותם בעלי היסוסים, למתייסרים בייסורי נפש אלה, ראייה היסטורית. לא חלו ולא הרגישו כי בהשלמה עם הישארותם ועם התנצרותם של ילדי השואה יש משום כניעה לתוכניתו הזדונית של אדולף היטלר להשמיד להרוג ולאבד את כל היהודים. גם נתחלף להם לפעמים רצון הילד וטובת הילד; רצון הילד ומשאלת לבו נתונים להשפעה, לשינויים מהירים. נוכחתי בכך בפעילותי לפדיון ילדים.
(זרח ורהפטיג, פליט ושריד בימי השואה, עמ' 425–426)
דחיפה לפעילות זו ניתנה עם ביקורו של הרב הראשי האשכנזי לישראל, הרב אייזיק הלוי הרצוג, באירופה בקיץ 1946. הרב ביקר בצרפת, שווייץ, בלגיה, הולנד, גרמניה, אנגליה, פולין וצ'כיה. הוא נפגש עם אנשי ועד ההצלה שע"י אגודת הרבנים בפריז, עם נציגי השלטון בארצות השונות, וביקר במחנות העקורים בגרמניה ובשרידי הקהילות המשתקמות בפולין. הוא נחשף לבעיות הקשורות להשבת הילדים לידיים יהודיות, שהקשות שביניהן לא נבעו דווקא מארגון לקוי ומחוסר כסף. אחת הבעיות הקשות שהתעוררו נבעה מהתקשרות רגשית בין הילדים למציליהם, שמנעה הן מהמצילים להסכים לוותר על הילדים והן מהילדים להסכים להיפרד ממציליהם. בהולנד הייתה הבעיה חריפה ביותר, באשר הטענה הרווחת הייתה שטובת הילדים היא שיישארו אצל מציליהם הבריאים והמבוססים שתיפקדו למעשה כהוריהם בשנות המלחמה, ולא אצל קרוביהם הניצולים שמצבם הנפשי התערער, והקשרים ביניהם לבין הילדים נותקו זה מכבר. על כך הגיב הרב הרצוג:
בהולנד קשתה המשימה ביותר, כיוון שההולנדים, מטעמים "הומניים", סרבו להחזיר ילדים לידי ניצולי המחנות, אנשים שאין לדעת מה מצבם הנפשי. כאן קרא הרב את המדרש על הפסוק:
"הצילני נא מיד אחי מיד עשו" – בין שהוא בא כאחי ובין שהוא בא כעשו. והוסיף הרב הרצוג, שההצלה קשה היא ביותר אם הרודף בא כאח.
(ש.ז. שרגאי, מסע ההצלה, ירושלים תש"ז)