Chúng ta đã biết khái niệm về vector hình học ở cấp 3. Chúng có thể cộng với nhau và nhân với một số (scaling) cho ra một vector mới. Trong thực tế có nhiều thứ mang hai đặc điểm đó, ví dụ như đa thức: hai đa thức có thể cộng với nhau, một đa thức có thể nhân với một số, tạo ra một đa thức mới. Người ta cho ra đời một khái niệm không gian vector (vector space) tổng quát mà trong đó vector có thể là một vector hình học, một đa thức, một hàm số liên tục, v.v..
Xét tập  mà mỗi phần tử gọi là một vector và trường số thực . Giả sử ta có hai phép toán: phép cộng hai vector và phép nhân một vector với một số thực.  là một không gian vector nếu nó thỏa mãn tất cả các điều sau:
- là một nhóm Abelian có phần tử đơn vị ký hiệu là .
 - Với và ta có:
 
Hệ quả:
- Nếu thì hoặc hoặc .
 
Nếu  và phép cộng đóng kín trong  và phép nhân với một số thực cũng đóng kín trong  thì  gọi là một không gian con (subspace).
Không gian hữu hạn chiều
Tổ hợp tuyến tính
Cho một tập  vector  thuộc không gian vector . Một tổ hợp tuyến tính (linear combination) của  vector này là một vector có dạng  trong đó  là các hằng số thực. Tập  gồm tất cả các tổ hợp tuyến tính được gọi là một bao tuyến tính (linear span) của họ , ký hiệu là . Bản thân bao tuyến tính là một không gian vector, và đó là một không gian con của .
Độc lập tuyến tính (aka Linear Independence) là một đặc điểm mô tả các họ vector  nào có tính chất sau:
Giả sử dựng ma trận  với mỗi cột là tọa độ của các vector trong , và đồng thời  là một không gian  chiều (tức  là ma trận vuông), thì phương trình  có thể được viết thành hệ phương trình thuần nhất. Lúc này để hệ có nghiệm duy nhất, . Đây cũng là điều kiện cần và đủ để  là một họ độc lập tuyến tính.
Nói nôm na, độc lập tuyến tính (từ trái nghĩa: phụ thuộc tuyến tính) có nghĩa là không tồn tại bất cứ  nào có thể được biểu diễn bằng một tổ hợp tuyến tính từ  vector còn lại. Định nghĩa toán học thực sự sẽ phức tạp hơn và khó hình dung hơn cách diễn đạt này.
Không gian chiều
Trong một không gian vector , nếu có  vector độc lập tuyến tính và không có quá  vector độc lập tuyến tính thì  được định nghĩa là một không gian  chiều.
Cơ sở
Một họ  vector  độc lập tuyến tính trong không gian  chiều  được gọi là một cơ sở (basis, số nhiều bases). Nếu  là cơ sở của  và ta có ,  thì  được gọi là tọa độ của  dưới cơ sở .
Trong không gian vector  chiều, một cơ sở  gọi là cơ sở chính tắc (standard basis) nếu  là một vector có thành phần thứ  bằng 1 và những thành phần còn lại bằng 0 (có dạng ). Thông thường, nếu không nêu rõ cơ sở của một không gian thì ta thường ngầm hiểu và sử dụng cơ sở chính tắc cho thuận tiện.
Một số tính chất đáng lưu ý:
- độc lập tuyến tính là cơ sở của .
 - là một cơ sở của mỗi vector trong luôn có một tổ hợp tuyến tính của .
 
Ta biểu diễn  dưới dạng ma trận  gồm  cột ( có thể không vuông), mỗi cột là tọa độ của vector đối với cơ sở  nào đó. Hạng của họ vector  được định nghĩa bằng hạng của . Khi đó:
Gọi  là row-echelon form của  với  là các pivot column, khi đó  là basis của .
Bổ đề Steinitz: Nếu ta có  là một họ vector độc lập tuyến tính trong không gian  chiều  () thì ta có thể bổ sung  vector nữa để hình thành một cơ sở của .
Tích vô hướng
Trong hình học Euclid , ta đã được biết khái niệm tích vô hướng của hai vector  và  như sau:
Tuy nhiên trong một không gian vector bất kỳ, tích vô hướng có thể mang những dịnh nghĩa khác nhau. Dưới đây là 5 tiên đề để một phép tính được công nhận là tích vô hướng:
- là một số xác định với mọi vector
 - với là một số
 - và
 
Ví dụ khác: Ta đã biết tập hợp tất cả các hàm liên tục trên  là một không gian vector. Tích vô hướng của không gian này có thể được định nghĩa như sau:
Không gian vector  chiều có trang bị một tích vô hướng gọi là không gian Euclid (Euclidean space).
Độ dài của vector
Độ dài của vector  ký hiệu là , bằng căn bậc hai của tích vô hướng của  và chính nó, tức là 
Các tính chất:
- Bất đẳng thức Cauchy-Schwarz chỉ ra rằng:
 
Khoảng cách giữa hai vector
Định nghĩa:
Tính chất:
- Bất đẳng thức tam giác:
 
Trực giao
Hai vector vuông góc với nhau (còn gọi là trực giao -- orthogonal) khi tích vô hướng của chúng bằng 0. Một họ vector mà trong đó các vector đôi một trực giao với nhau được gọi là họ trực giao (orthogonal set). Thêm nữa, nếu tất cả các vector trong họ đều có độ dài bằng 1 thì họ đó gọi là họ trực chuẩn (orthonormal).
Họ trực giao của các vector khác 0 luôn luôn là họ độc lập tuyến tính.
Nếu một không gian  chiều có cơ sở là một họ trực chuẩn  thì mọi vector  trong không gian đó có thể biểu diễn dưới dạng sau:
Hình chiếu của một vector lên không gian con
Giả sử  là một họ trực chuẩn các vector trong . Gọi  là không gian con của . Hình chiếu trực giao (đặt là ) của vector  bất kỳ trong  lên không gian con  là một vector thuộc  và  trực giao với mọi vector trong . Hình chiếu trực giao được tính bằng công thức sau:
Chứng minh dễ dàng . Trường hợp  trực giao với mọi vector  trong  có thể được suy ra bằng cách chứng minh  trực giao với mọi :
Do mọi vector  trong  đều được biểu diễn bằng một tổ hợp tuyến tính các vector trong họ  và  trực giao với tất cả các vector trong họ  nên suy ra  trực giao với mọi vector .
Như vậy biểu thức  là công thức đúng.
Quá trình Gram-Schmidt
Cho một không gian vector  có cơ sở . Phương pháp biến đổi  thành một họ trực giao  sao cho  gọi là quá trình trực giao hóa. Một trong những phương pháp đó là quá trình Gram-Schmidt:
- 
- 
Trong đó  là vector hình chiếu của  lên không gian tạo bởi họ trực chuẩn , được tính như vừa trình bày ở phần trên.
Kết thúc  bước ta có  là họ đã được trực chuẩn hóa từ cơ sở .
Tọa độ
Giả sử  là một họ các vector độc lập tuyến tính sinh ra . Như đã đề cập ở trên, mọi vector  được biểu diễn bằng một tổ hợp tuyến tính các vector trong cơ sở:
Vector  gọi là vector tọa độ của  đối với cơ sở  (coordinate vector of  with respect to ). Ma trận
gọi là ma trận tọa độ của  đối với cơ sở  (coordinate matrix of  with respect to ).
Chuyển cơ sở
Ví dụ
Trong không gian  xét hai cơ sở:
Cho . Hãy tìm cách biểu diễn  qua  và .
Cách giải khá đơn giản: Đầu tiên ta tìm cách biểu diễn  và  trước, rồi thay vào biểu thức .
Từ đó, 
Tổng quát hơn:
Ma trận  được gọi là ma trận chuyển đổi (change-of-basis matrix) từ cơ sở  sang . Ma trận này được tính bằng cách sau:
- Dựng các vector trong cơ sở và thành các cột, tạo nên hai ma trận lần lượt là và .
 - Tính .
 
Khi được biết biểu diễn , ta có thể tính .
Ngược lại, khi biết , ta có thể tính .
Thật vậy, giả sử chúng ta biểu diễn mỗi vector  qua cơ sở mới  như sau:
Ta có:
Viết gọn hơn là: 
Xét một vector  có tọa độ  và 
Bản thân  cũng là một vector, và việc nó được nhân tiền tố với  (gồm các vector trong ) tạo ra  cho thấy  là biểu diễn của  trong cơ sở .
Lập luận tương tự, với  chính là ma trận chuyển cơ sở từ  sang .
Side note: Việc gọi là ma trận chuyển cơ sở cần đi kèm với công thức để cho thấy sự liên hệ toán học rõ ràng giữa hai tọa độ. Cách nói "chuyển từ cơ sở sang " vẫn chưa đầy đủ và dễ gây hiểu nhầm.
Tính chất
Chính từ cách xây dựng  thông qua hai cơ sở (vốn độc lập tuyến tính) nên , tức là  khả đảo. Ma trận  gọi là ma trận chuyển đổi từ  sang  vì:
Mặt khác, nếu  và  là hai cơ sở trực chuẩn thì  gọi là ma trận trực giao với tính chất