علت شهرت وی به نام درویش خان، این بود که پدرش هنگام صدا زدن وی از لفظ «درویش» استفاده می‌کرد و همین نام بعدها به‌عنوان نام خانوادگی غلامحسین برگزیده شد و به درویش‌خان یا غلامحسین درویش معروف شد. پدر درویش خان کمی با موسیقی آشنا بود و سه تار می‌نواخت. او در ده سالگی به شعبه موسیقی مدرسه نظام، وابسته به دارالفنون که به سرپرستی موسیو لومر فرانسوی ایجاد شده بود، رفت و در آنجا به فراگیری خط موسیقی و نواختن شیپور و طبل کوچک مشغول شد. غلامحسین به دربار شاه رفت و آمد داشت و ساز نوازندگان را می‌شنید. سپس نزد آقا حسینقلی به تکمیل فن خود پرداخت و بعد از سال‌ها تمرین در نواختن تار و به ویژه سه‌تار مهارت یافت و بهترین شاگرد استاد خود شد. در این دوران آشنایی با برادر بزرگ‌تر آقا حسینقلی، میرزا عبدالله که نوازنده تار و سه تار بود، به کارش غنای بیشتری بخشید. با ظهور جنبش مشروطه در نخستین کنسرت‌هایی که در انجمن اخوت تشکیل شد، وی سمت ریاست و رهبری ارکستر را داشت. کنسرت برای جمع‌آوری کمک برای قحطی زدگان روسیه، کنسرت برای ایجاد مدرسه فرهنگ، کنسرت برای حریق‌زدگان آمل، کنسرت برای بازسازی خرابی‌های آتش‌سوزی بازار و نیز کنسرت برای غارت شدگان ارومیه از جمله تلاش‌های انسان‌دوستانه وی در این دوران است.