Luận văn: Nghiên cứu về mạng Neural tích chập và ứng dụng, 9đ

Sau đây là mẫu Luận văn thạc sĩ Công nghệ thông tin với đề tài luận văn là Nghiên cứu về mạng Neural tích chập và ứng dụng. Hy vọng đề tài luận văn thạc sĩ này sẽ giúp các bạn có thêm tài liệu tham khảo khi viết luận văn tốt nghiệp của mình. Một số tài liệu có phí, các bạn xem thêm nội dung dưới bài viết để biết cách tải nhé. Nếu các bạn có nhu cầu hỗ trợ viết luận văn thạc sĩ, các bạn có thể tham khảo quy trình, và bảng giá viết luận văn thạc sĩ tại bài viết này.

CHƢƠNG 1: MẠNG NEURAL VÀ MẠNG NEURAL TÍCH CHẬP 1. Mạng neural và mạng neural lan truyền ngƣợc 1.1. Giới thiệu về mạng Neural Định nghĩa: Mạng nơron nhân tạo, Artificial Neural Network (ANN) là một mô hình xử lý thông tin phỏng theo cách thức xử lý thông tin của các hệ nơron sinh học. Nó được tạo nên từ một số lượng lớn các phần tử (nơron) kết nối với nhau thông qua các liên kết (trọng số liên kết) làm việc như một thể thống nhất để giải quyết một vấn đề cụ thể nào đó. Cấu trúc neural nhân tạo: Hình 1.1. Cấu tạo một Neural Các thành phần cơ bản của một nơron nhân tạo bao gồm: • Tập các đầu vào: Là các tín hiệu vào (input signals) của nơron, các tín hiệu này thường được đưa vào dưới dạng một vector N chiều. • Tập các liên kết: Mỗi liên kết được thể hiện bởi một trọng số liên kết – Synaptic weight. • Bộ tổng (Summing function): Thường dùng để tính tổng của tích các đầu vào với trọng số liên kết của nó. • Ngưỡng (còn gọi là một độ lệch – bias): Ngưỡng này thường được đưa vào như một thành phần của hàm truyền. • Hàm truyền (Transfer function): Hàm này được dùng để giới hạn phạm vi đầu ra của mỗi nơron. Nó nhận đầu vào là kết quả của hàm tổng và ngưỡng.
4. • Đầu ra: Là tín hiệu đầu ra của một nơron, với mỗi nơron sẽ có tối đa là một đầu ra. Xét về mặt toán học, cấu trúc của một nơron k, được mô tả bằng cặp biểu thức sau: Trong đó: x1, x2, …, xp: là các tín hiệu vào; (wk1, wk2,…, wkp) là các trọng số liên kết của nơron thứ k; uk là hàm tổng; bk là một ngưỡng; f là hàm truyền và yk là tín hiệu đầu ra của nơron. 1.2. Một số kiểu mạng Neural ♦ Tự kết hợp (autoassociative ♦ Kết hợp khác kiểu (heteroassociative) ♦ Kiến trúc truyền thẳng (feedforward architechture) Hình 1.4. Mạng truyền thẳng ♦ Kiến trúc phản hồi (Feedback architecture): Hình 1.5. Mạng phản hồi 1.3. Mạng Neural lan truyền ngƣợc MLP a. Kiến trúc mạng MLP Hình 1.6. Mạng neural lan truyền ngược MLP
5. Kiến trúc của một mạng MLP tổng quát có thể mô tả như sau: ♦ Đầu vào là các vector (x1, x2, …, xp) trong không gian p chiều, đầu ra là các vector (y1, y2, …, yq) trong không gian q chiều. Mỗi nơron thuộc tầng sau liên kết với tất cả các nơron thuộc tầng liền trước nó. Đầu ra của nơron tầng trước là đầu vào của nơron thuộc tầng liền sau nó. b. Huấn luyện mạng MLP: + Các phương pháp học: ♦ Học có giám sát ♦ Học không giám sát ♦ Học tăng cƣờng c. Học có giám sát trong các mạng nơron d. Mạng lan truyền ngược Mô hình mạng: Mạng neural lan truyền ngược có mô hình như sau Mạng có 3 lớp: 1 2 3 … … n 1 p m 1 … q … L
6. – Lớp vào (Input Layer) – số node vào là số thuộc tính của đối tượng cần phân lớp. – Lớp ra (Output Layer) – Số node ra là số đặc điểm cần hướng tới của đối tượng (giá trị ra cần hướng đến – học có giám sát). – Lớp ẩn (Hidden Layer) – Số node ẩn thường là không xác định trước, nó thường là do kinh nghiệm của người thiết kế mạng, nếu số node ẩn quá nhiều mạng sẽ cồng kềnh, quá trình học sẽ chậm, còn nếu số node ẩn quá ít làm mạng học không chính xác. e) Một số vấn đề lưu ý trong xây dựng mạng MLP. Xác định kích thước mẫu: Hai yếu tố quan trọng ảnh hưởng đến kích thước mẫu: • Dạng hàm đích: khi hàm đích càng phức tạp thì kích thước mẫu cần tăng. • Nhiễu: khi dữ liệu bị nhiễu (thông tin sai hoặc thiếu thông tin) kích thước mẫu cần tăng. 2. Mạng neural tích chập 2.1. Định nghĩa mạng neural tích chập Convolutional Neural Network (CNNs – Mạng nơ-ron tích chập) là một trong những mô hình Deep Learning tiên tiến giúp cho chúng ta xây dựng được những hệ thống thông minh với độ chính xác cao như hiện nay. Trong luận văn này, chúng ta sẽ trình bày về Convolution (tích chập) cũng như ý tưởng của mô hình CNNs trong phân lớp chữ viết áp dụng trong bài toán nhận dạng biển số xe (Image Classification). 2.2. Convolution (tích chập) Tích chập được sử dụng đầu tiên trong xử lý tín hiệu số (Signal processing). Nhờ vào nguyên lý biến đổi thông tin, các nhà khoa học đã áp dụng kĩ thuật này vào xử lý ảnh và video số.