Neural Network (Deep Learning)

Neural (nơ-ron) là đơn vị cấu tạo nên một hệ thần kinh của con người. Não bộ chúng ta thường có khoảng 10 triệu nơ-ron, với mỗi nơ-ron thường liên kết với 10.000 nơ-ron khác. Neural Network (mạng nơ-ron) không biểu diễn lại hoàn toàn chính xác cấu trúc hệ thần kinh, nhưng nó cũng mô phỏng cách thức mà hệ thần kinh hoạt động, để đẩy vào mô hình giải quyết các bài toán thực tế.

Mô hình tổng quát của Neural Network:

Nguồn: Internet

Hình trên là biểu diễn cơ bản của Neural Network, bao gồm Input layer, các hidden layer ở giữa và một output layer. Số layer được tính bằng công thức (số layer – 1) (không tính Input layer). Mỗi hidden layer bao gồm các đơn vị Node(biểu diễn bằng các vòng tròn trong hình). Mỗi node trong một layer thực hiện các bước:

Liên kết với toàn bộ các node của layer trước đó
Mỗi node có hệ số bias b riêng
Tính tổng linear và sử dụng activation function

Hoạt động:

Nguồn: Deep Learning cơ bản nttuan8.com

Đây là mô hình Neural network có 2 hiden layer. Do mỗi node trong hiden layer và output layer đều có hệ số bias, nên ta cần thêm node 1 trong input layer và hiden layer để tính chỉ số bias ( nhưng không tính vào tổng số các node).

Về cơ bản, mỗi node trong hidden layer được tính bằng công thức:

z = x1*w1 + x2*w2 + … xn*wn + b (*)

Sau khi tìm được z ở mỗi node, chúng ta sử dụng các hàm activation () để chuẩn hóa số z thành một số a ( a = (z) ). Số a này chính là đầu ra của mỗi node và đóng vai trò là cá hệ số x trong công thức (*) của các node sau.

Feedforward

Nguồn: Deep Learning cơ bản nttuan8.com

Để nhất quán về ký hiệu, chúng ta quy chuẩn mỗi layer sẽ tính được một hệ số z, hệ số z của layer được tính bởi các hệ số z của các node. Ví dụ dưới đây là hệ số z của hidden layer 1.