تعددت الأقوال في الأصل اللغوي لكلمة الصوفية، فمنهم من قال إنها ليست عربية، ذكر القشيري في كتابه الرسالة: «أنه ليس لهذا الاسم أصل في اللغة العربية»، وقد أرجعها الباحثون والمؤرخون المختصون في علوم الديانات القديمة، إلى أصل يوناني، هو كلمة: (سوفيا)، ومعناها الحكمة. وأول من عرف بهذا الرأي: البيروني[16] وذكر محمد جميل غازي، الذي قال: «الصوفية كما نعلم اسم يوناني قديم مأخوذ من الحكمة (صوفيا) وليس كما يقولون إنه مأخوذ من الصوف.[17][18][19] وذكروا المستشرقون بأن أنَّ كلمة «الثيوصوفيا» -الكلمة اليونانيَّة- يقولون: '' هذه هي الأصل كما ينقل كاتبها ماسينيون عن عدد المستشرقين؛ بأنَّ أصل التصوف: هو مشتق مِن الثيوصوفية '' وهذه الثيوصوفية كما يذكر -أيضًاً- عبد الرحمن بدوي، وينقل عن مستشرق ألماني فول هومر قوله: '' إن هناك علاقة بين الصوفية، وبين الحكماء العراة مِن الهنود '' ويكتب باللغة الإنجليزية جانيوسوفستز و«سوفستز» يعني: الصوفيين، هؤلاء إذا ربطنا هذه مع الثيوصوفية -أي: الصوفية- التي نقول «الثيو» معناها في لغتهم: الله 
، فمثلاً الحكم الثيوقراطي يعنى: الحكم الإلهي، والثيوصوفية أي: عشاق الله، أو محبو الله 
الفيلسوفي هذا: عاشق الحكمة «فيلا» معناها: حكمة، أو محب الحكمة. وذكر أبو الريحان البيروني وهو أحد العلماء الذين ذهبوا للهند وكتبوا عن جغرافيتها وأدينها وعلومها، أن أصل الكلمة مؤؤخوذ من الهندية والهندية أخذتها من اليونانية فقد قال: «ومنهم مَن كان يرى الوجودَ الحقيقي للعلة الأولى فقط، لاستغنائها بذاتها فيه، وحاجة غيرها إليه، وأنَّ ما هو مفتقر في الوجود إلى غيره، فوجوده كالخيال غير حقٍّ، والحقُّ هو الواحد الأول فقط، وهذا رأي السوفية - كتبها بالسين - وهم الحكماء، فإنَّ سوف باليونانية: [الحكمة] وبها سمي الفيلسوف: بيلاسوفا، أي: محب الحكمة، ولما ذهب في الإسلام قوم إلى قريبٍ مِن رأيهم -أي: رأي حكماء الهند -سُمُّوا باسمهم- أي: الصوفية- ولم يَعرف اللقبَ بعضُهم فنسبهم للتوكل إلى الصُفَّة وأنَّهم أصحابها في عصر النَّبيِّ 
، ثمَّ صُحِّفَ بعد ذلك، فصُيِّر مِن صوف التيوس...». وذكر أيضًا إن الصوفية هم حكماء الهند، وأنَّ اسمهم هو «السوفية»، وأنَّ ما يُطلق عليهم مِن الأسماء، أو ما حدث للاسم مِن التصحيف - فقيل: إنَّه مِن الصوف أو غير ذلك - هذا ليس له حقيقة.
وقال البعض بأنها عربية الأصل وهي على عدة أقوال، أشهرها:[20]
أنه من الصوفة، لأن الصوفي مع الله كالصوفة المطروحة، لاستسلامه لله .
- أنه من الصِّفة، إذ أن التصوف هو اتصاف بمحاسن الأخلاق والصفات، وترك المذموم منها.
- أنه من الصُفَّة، لأن صاحبه تابعٌ لأهل الصُفَّة وهم مجموعة من المساكين الفقراء كانوا يقيمون في المسجد النبوي الشريف ويعطيهم رسول الله من الصدقات والزكاة طعامهم ولباسهم.
- أنه من الصف، فكأنهم في الصف الأول بقلوبهم من حيث حضورهم مع الله؛ وتسابقهم في سائر الطاعات.
- أنه من الصوف، لأنهم كانوا يؤثرون لبس الصوف الخشن للتقشف والاخشيشان.[21]
- أنه من الصفاء، فلفظة «صوفي» على وزن «عوفي»، أي: عافاه الله فعوفي، وقال أبو الفتح البستي
:
 |
|  |
وسُئل الشبلي: لم سميت الصوفية بهذا الاسم؟ فقال: هذا الاسم الذي أُطلق عليهم، اختُلِف في أصله وفي مصدر اشتقاقه، ولم ينته الرأي فيه إلى نتيجة حاسمة بعد.[22] ويقول القشيري: «وليس يشهد لهذا الاسم من حيث العربية قياس ولا اشتقاق والأظهر فيه أنه كاللقب».[23] وقال ابن تيمية أنهم ينسبون في رواية إلى صوفة بن أدبن طابخة قبيلة من العرب كانوا يعرفون بالنسك.[21] وكرأي آخر، يقول الشيخ ابن الجوزي في محاولته التي اعتبرها علماء آخرون تقليلاً من شأن التصوف الإسلامي، ذكر في كتابه تلبيس إبليس: يُنسب الصوفيين إلى (صوفة بن مرة) والذي نذرت له والدته أن تعلقه بأستار الكعبة فأطلق اسم (صوفي) على كل من ينقطع عن الدنيا وينصرف إلى العبادة فقط.
وقال محمد متولي الشعراوي أنّ الصوفيّة منْ أصل صافى وصوفِيَ إليه: أي بادله الإخاء والمودّة، وتكونُ بتقرّب العبْد لربّه بالحُب والطّاعة ويُصافيه الله بقرْبه وكرامته، فنقول:الذي صوفِي مِن اللَّهِ 
.
ويقول الداعية محمد هداية: التصوف بمعناه اللغوي أي التزهد فنحن يجب أن نكون هكذا، أما التصوف بمعنى الشرك بالله وما يتبعه من مظاهر مثل مسح عتبات المساجد والصلاة في مساجد معينة فهو ليس من الإسلام في شئ.
