تعددت الآراء حول أصل كلمة (كيمياء) ومدلولها، فقد ذكر محمد بن أحمد في مفاتيح العلوم في القرن الرابع للهجرة، أن كلمة كيمياء مشتقة من الكلمة العربية كمى ومعناها خفى وأستر، لأن هذا العلم كان متداولاً بين طائفة من الناس دون غيرها، بسبب الاعتقاد الذي سيطر على عقول الناس طيلة العصور الوسطى، وهو إمكانية تحويل المعادن البخسة إلى ذهب وفضة، وتحضير إكسير الحياة، ذلك السائل السحري الذي يعيد الصحة والشباب للإنسان، ومن ثم فقد حرص الكيميائيون القدامى على كتمان سر صنعتهم، وكتب بعض الكيميائيين العرب المتأخرىن نسبياً لا سيما بعد القرن الثاني عشر الميلادي معلومات في الكيمياء وتحويل المعادن إلى ذهب وفضة برموز وألغاز وتعمدوا الغموض والإرباك.
وهناك من يعتقد أن أصل كلمة كيمياء مصري وهي كيم أو كمت kemt ومعناها الأرض السوداء وهي تربة وادي النيل، وذلك أن الكيمياء فن مصري قديم، وكانت تعرف آنذاك بسر الكهنة أو الصناعة التحتوية (نسبة إلى تحوت أو تحوتي أو جحوتي) وهو إله الحكمة المصري القديم الذي تقول الأساطير الفرعونية أنه ألف ما بين عشرين ألف إلى ستة وثلاثين ألف مجلد في كل العلوم ومنها الكيمياء وأنه علم الكهنة سر تحويل المعادن البخسة إلى ذهب وفضة، وتحضير إكسير الحياة. وكانا ليونان يعظمون تحوت ويسمونه هرمس أو أطرسمين (عطارد) المثلث العظمة ويسمى تحوت عند العرب إدريس وعند العبرانيين أخنوخ.
ويعتقد اليونانيون أن اسقليبيوس (إله الطب عندهم) قد تعلم على يد هرمس، وقد أخذ اليونانيون فن الكيمياء عن المصريين، وانتقل منهم إلى الرومان فالمسلمين.
وهناك فريق ثالث يرى أن كلمة كيمياء مشتقة من الكلمة الإغريقية خيما Chyma بمعنى التحليل والتفريق، ويرى غيرهم أن لفظة كيمياء قد حورت عن اللفظة العبرية (شامان) وتعني السر أو الغموض.
والمرجح أن لفظة كيمياء عربية، وذلك لأن صناعة الكيمياء في العصور الوسطى كانت تعتمد على الكتمان وتحريم إذاعتها وإفضاء أسرارها لغير أهلها لكون هدفها تحويل المعادن البخسة إلى ذهب وفضة، واكتشاف الإكسير الذي يعيد الصحة والشباب إلى الإنسان، بالإضافة إلى ذلك فقد كانت الكيمياء من المعارف المغلفة بالغموض والكتمان، فقد أورد حاجي خليفة صيغة وصية كيميائي لتلميذه يحذره فيها بكتمان سر هذه الصنعة وعدم إذاعتها، لأن في إذاعتها خراباً للعالم، ويذكر هذا المعنى جابر بن حيان مراراً في رسائله وكتبه، ولهذا نجد أن ابن خلدون يهاجم أهل هذه الصنعة وكتاباتهم المليئة بالألغاز والطلسمات التي يتعذر فهمها.