انبثقت دراسة الجبر الخطي لأول مرة من دراسة المحددات، التي كانت تُستعمل في حلحلة نظم المعادلات الخطية. استعملت المحددات من طرف لايبنز في عام 1693، وفيما بعد، استخلص غابرييل كرامر قاعدة كرامر التي تمكن من حلحلة الأنظمة الخطية. كان ذلك عام 1750. بعد ذلك، عمل غاوس في نظرية حلحلة الأنظمة الخطية باستعمال طريقة الحذف الغاوسي، التي نُظر إليها في البداية كتطور في الجيوديسيا.

ظهرت دراسة المصفوفات لأول مرة في إنجلترا، وكان ذلك في بدايات القرن التاسع عشر. في عام 1848، أبدع جيمس جوزيف سيلفستر مصطلح Matrix (ماتريكس والتي تترجم إلى اللغة العربية بمصفوفة). مصطلح Matrix يعني باللغة اللاتينية الرّحِم. عندما كان عالم الرياضيات أرثور كايلي يدرس تركيبات التحويلات الخطية، أدى به ذلك إلى تعريف ضرب المصفوفات وإلى تعريف معكوس مصفوفة ما. كما وجد أيضا العلاقة التي تربط المصفوفات بالمحددات. وفي سنة 1882، ألف عالم الرياضيات العثماني حسين توفيق باشا كتابًا سماه "الجبر الخطي"