كان العابد عبد الله بن المبارك نموذجا فريدا في العبادة، وكان أحرص الناس على مباشرة ومتابعة أحوال أصدقائه وأصحابه ومن يرافقهم في السفر، من بذل الطعام الطيب والشراب، والنصيحة في أمور الدين مع يسر وتلطف.
يقول معاذ بن خالد : تعرفت إلى إسماعيل بن عياش بعبد الله بن المبارك فقال إسماعل بن عياش: ما على وجه الأرض مثل عبد الله بن المبارك، ولا أعلم أن الله خلق خصلة من خصال الخير إلا وجعلها في عبد الله بن المبارك، ولقد حدثني أصحابي أنهم صحبوه من مصر إلى مكة فكان يطعمهم الخبيص، وهو الدهر صائم.
وقال رجل لابن المبارك: أوصني، فقال: اعرف قدرك.
وقال آخر له: هل بقي من ينصح؟ قال فقال: وهل تعرف من يقبل؟
وحكى أحد رفقائه: كنا في سرية مع عبد الله بن المبارك في بلاد الروم فصادفنا العدو فلما التقى الصفان خرج رجل من العدو فدعا إلى البراز، فخرج إليه رجل فطارده ساعة فطعنه فقتله، ثم آخر فقتله؛ ثم دعا إلى البراز فخرج إليه رجل فطارده ساعة فطعنه فقتله؛ فازدحم عليه الناس وكنت فيمن ازدحم عليه فإذا هو ملثم وجهه بكمه فأخذت بطرف كمه فمددته فإذا هو عبد الله بن المبارك.
ومرّ ابن المبارك برجل أعمى فقال: أسألك أن تدعو الله أن يرد بصري. قال: فدعا الله فرد عليه بصره.
وحكى الحسن بن عرفة قال: قال لي ابن المبارك: استعرت قلما بأرض الشام فذهب علىّ أن أرده إلى صاحبه فلما قدمت مرو نظرت فإذا هو معي، فرجعت يا أبا علي إلى أرض الشام حتى رددته على صاحبه.
 وكان عبد الله بن المبارك يقول: كاد الأدب أن يكون ثلثي الدين، وكان يقول : طلبنا العلم للدنيا فدلنا على ترك الدنيا.
ويقول أحمد بن الزبرقان: سمعت عبد الله بن المبارك يقول: إن الصالحين فيما مضى كانت أنفسهم تواتيهم على الخير عفوا وإن أنفسنا لا تكاد تواتينا إلا على كره فينبغي لنا أن نكرهها.
عن القاسم بن محمد قال: كنا نسافر مع ابن المبارك فكثيرا ما كان يخطر ببالي فأقول في نفسي: بأي شيء فضل هذا الرجل علينا حتى اشتهر في الناس هذه الشهرة؟ إن كان يصلي إنا نصلي، ولئن يصوم إنا لنصوم، وإن كان يغزو فإنا لنغزو، وإن كان يحج إنا لنحج.
قال: فكنا في بعض مسيرتنا في طريق الشام ليلة نتعشى في بيت إذ طفئ السراج فقام بعضنا فأخذ السراج وخرج يستصبح فمكث هينهة ثم جاء بالسراج فنظرت إلى وجه ابن المبارك ولحيته قد ابتلت من الدموع، فقلت في نفسي: بهذه الخشية فضل هذا الرجل علينا، ولعله حين فقد السراج فصار إلى الظلمة ذكر القيامة.
قال المروزي: وسمعت أبا عبد الله بن حنبل قال: ما رفع الله ابن المبارك إلا بخبيئة كانت له.
وقال فضيل بن عياض: رأيت عبد الله بن المبارك في المنام فقلت: أي الأعمال وجدت أفضل؟ قال: الأمر الذي كنت فيه.
 قلت: الرباط والجهاد؟ قال: نعم - قلت: فأي شيء صنع بك ربك؟ قال: غفر لي مغفرة ما بعدها مغفرة وكلمتني امرأة من أهل الجنة أو امرأة من الحور العين.