عبدالرحمن شرفکندی در ۶ شعبان ۱۳۳۹ (برابر با ۲۵ فروردین ۱۳۰۰ / ۱۴ آوریل ۱۹۲۱) در مهاباد متولد شد. عبدالرحمن دوساله بود که دامان محبت مادرش را از دست داد و از همان اوان کودکی، سختی و تلخی زندگی را تجربه کرد. پدر او به این دلیل که شخصی مذهبی بود و علاقهای که به عبدالرحمان سیوطی داشت، نام او را «عبدالرحمان» گذاشت. وی فرزندملا محمد بور بود. برخی از منابع، همانند کتاب ساوجبلاغ مکری – مهاباد در آیینه اسناد تاریخی، محل تولد شرفکندی را روستای شرفکند بوکان ذکر کردهاند.
دوران کودکی و نوجوانی را در حوزههای دینی و علمی در زادگاهش سپری کرد و در اوایل جوانی بههمراه خانوادهاش به روستای طرغه، از توابع شهرستان بوکان، اقامت گزیدند او مدتی نزد سیدمحمد، که طلبهٔ جوانی بود، فرهنگ لغات عربی، معلقات سبع و لامیّهالعجم طغرایی اصفهانی را فراگفت و با اشعار نالی، شاعر کرد، آشنا شد.
درمسجد بازار مهاباد، نزد ملاحسین مجدی قصیدهٔ بانت سعاد کعب بن ظهیر و لامیهالعرب ابن الوردی را آموخت. سپس به خانقاه شیخ برهان بازگشت و تا هفدهسالگی برای فراگیری دانش به اکثر روستاها و شهرهای حوالی بوکان سفر کرد. او از آنجایی که به شعر علاقه داشت، دیوان شاعران زیادی را خواند و اشعار فراوانی از حفظ داشت.